尤瓦尔·赫拉利

文/《环球》杂志记者 乐艳娜

编辑/马琼

　　“人工智能不是工具，而是能够作出决策的行为者。”

　　“人工智能的力量可能会大幅加剧人类既有的冲突，让人类形成内斗。”

　　“硅幕所分隔的或许不是彼此敌对的人类，而是一方代表着所有人类，另一方则是我们新的人工智能霸主。”

　　“人工智能不但可能改变人类这个物种的历史进程，还可能改变所有生命形式的演化历程。”

　　历史学家尤瓦尔·赫拉利在其新书《智人之上》里，通过探讨信息网络如何塑造我们和我们的世界，讲述了在过去10万年里积累了巨大能量的智人，如何一头扎进可能毁灭我们自身的、由新型信息网络组成的人工智能时代。以上就是他在书中分享的一些观点。

　　他还在书里提出了诸多哲学和现实问题，比如：人类如此智慧，为什么却总倾向于自我毁灭？我们为什么走到了生态和技术自杀的边缘？当非人类智能威胁到人类的生存时，人类如何作出明智的选择？

尤瓦尔·赫拉利作品《智人之上》

　　《智人之上》中文版日前由中信出版集团出版，借此契机，赫拉利接受了中信出版集团安排的相关采访，他以该书为起点，分享他对人工智能时代的理解。

防止人工智能失控

　　记者：谈到人工智能，手机就是其中一个代表，现在很多人都已经成为手机的“奴隶”。你对此有何看法？你觉得是否有方法可以摆脱这种被“奴役”的状态？

　　赫拉利：有一点非常重要，那就是，我们才刚刚开始人工智能革命。近年来我们所看到的只是最原始的人工智能，人工智能的进化过程可能会持续几个世纪、几千年、几百万年。

　　人工智能不同于历史上的任何一项技术，它是第一项独立于人的技术，而不只是人类的工具。以前的每项技术都是我们手中的工具，由我们决定如何使用、何时使用，无论是锤子、飞机还是原子弹，都由我们来决定。但人工智能可以做到这一点，即它可以自己做决定，自己发明新事物，包括新的武器和药物。它也具有巨大的积极潜力。

　　关键是要意识到，人工智能并非我们手中的另一种工具，它是一个可能会超出我们控制的“代理”。它已经在替我们做很多决定了。比如，你向银行申请贷款，决定是否给你发放贷款的也许就是人工智能；你申请留学或者找工作，也许是人工智能在做关于你的决定。随着人工智能日益掌控全球越来越多的系统，并为我们做出决定，它可能会开始迫使我们采取行动，以可能对人工智能有利，但对人类不利的方式行事。

　　记者：你曾说人工智能的崛起是人类所面临的一大挑战。但另一方面，我们也常听到关于如何通过推广人工智能以造福人类的声音。那么，在一个可持续发展的社会中，人工智能应该扮演什么角色？

　　赫拉利：如果我们能防止人工智能失控，确保人工智能符合人类的价值观，那么它可能会成为人类历史上最好的发明。因为到那时，它的巨大能量将服务于人类社会，而不是危害人类社会。

2024年11月4日，在新加坡，中国智能无人车制造商九识智能的无人物流车参与新加坡FairPrice集团运营车队物流运输

　　在许多领域，比如医疗保健，我们没有足够的医生为世界上的所有人服务，而人工智能医生可以在这方面提供巨大帮助。在车祸问题上，情况也一样。每年有100多万人死于车祸，其中大多数事故都是人为失误造成的。如果我们改用由人工智能控制的自动驾驶汽车，每年可能就会拯救100万人。虽然人工智能也可能会导致事故，但总数会少很多，因为人工智能永远不会酒驾，也不会睡着。同样，在气候变化方面，人工智能可以帮助我们找到新的能源来源，找到更好的可持续的管理经济的方法。

　　但最大的问题是，如何在享受这些好处的同时，防止技术带来的巨大危险。

　　记者：如果人工智能失控，人类可能走向自我毁灭。我们如何才能在这条不停将我们推向自我毁灭的道路上拯救自己？

　　赫拉利：有些事情，我们个人可以做，但最终却只能通过社会层面的共同努力完成。整个社会都需要了解我们所面临的问题，加强对新技术监管，确保其适应人类的需求，而不会脱离我们的控制，更不能开始操纵我们，给我们施加过多压力。

　　现在，我们面对任何问题时，第一件要做的就是要放慢脚步，真正了解问题所在。要知道，当人们面临危险情况时，往往会急于去解决问题，但结果往往因为误判，选择了错误的解决方案。

　　我不知道解决办法是什么，但首先应该让更多的人意识到这个问题，并参与讨论，一起探讨该怎么做。目前的情况是，几乎所有关于人工智能的知识都集中在极少数开发这项技术的工程师和企业家手中，他们开发技术，但往往体会不到技术带来的影响。

　　很多时候，最先体会到技术全面影响的不是工程师，也不是大企业的管理者，而可能是生活在遥远村镇的普通人。因此，我们首先需要与他们建立联系，开展更具包容性的辩论，如果只给极少数开发技术的人赋予权力，让他们决定所有问题的解决方案，将意味着我们对自身所面临的挑战的理解非常狭隘和肤浅。

摆脱算法与坚持冥想

　　记者：现在，平台在某种意义上控制了所有信息。社交媒体为王的时代到来了吗？算法是不是抓住了人类的弱点？

　　赫拉利：现在在社交媒体上，谁来控制、谁来决定推送什么内容？你在抖音上看到的下一个视频会是什么？这些都是由算法在做决定。这些算法在很多情况下并不关心真相。许多社交媒体的商业模式就是让用户在平台上花更多时间，因为时间越长，平台就能向他们展示更多广告，收集更多数据，这样就能赚到更多钱。因此，算法的主要激励因素是如何让人们在平台上停留更长时间。

　　不幸的是，算法发现，想让人们在平台上停留更长时间，最简单的方法就是按下人们心中的贪婪、仇恨或恐惧按钮，因为这样可以抓住人们的注意力。就像黑客攻击人类一样，比如，想入侵计算机，需要仔细研究计算机的代码，直到找到代码中的某个漏洞。

　　人类也是如此，作为非常复杂的动物有很多美德，也有恶习。算法会一直观察你，直到发现你的弱点，然后利用它对付你。美好的社会培养人类的美德，努力抑制恶习。糟糕的社会则恰恰相反，它鼓励恶习。这就是算法现在正在做的事情，基本上是发现并助长我们的恶习。

　　当然，个人也可以采取一些措施来解决这个问题，比如，进行信息断食，就像我冥想时所做的事情一样，我去努力了解自己的弱点。如果你知道自己的弱点，他人就更难操纵和控制你。我不认为冥想对每个人都有效，因为每个人都不同。对我来说这很有效，但对其他人来说也许是出门走走，也许是运动，也许是在树林里徒步一个星期，也许是做治疗。总之不管用何种方法，只要能帮助你更好地了解自己的弱点和恶习，就有助于让你摆脱这些算法的操纵。

　　记者：你每天坚持冥想两小时，进行信息“断食”，为什么要形成这样的习惯？

　　赫拉利：如果没有冥想的习惯，我不可能写出《人类简史》或《智人之上》这样的书。我也无法应付忙碌的日程安排，比如采访、上电视等等，因为思绪会变得不稳定。冥想能帮助我的头脑保持平衡和清醒。冥想的真正目的在于它让我更好地了解自身，了解自己的想法。

　　我从24年前开始冥想，那时我正在牛津大学攻读博士学位。当时我读了很多书和文章，但并不快乐，也不明白痛苦的根源是什么。有一个朋友跟我说，你为什么不试试冥想？我想，算了，冥想不适合我。我是非常理性的人，对科学更感兴趣。但冥想就像神秘主义，像是某种宗教活动，这不适合我。

　　一年后，我说，好吧，我试试看。结果令我大吃一惊，因为冥想太科学了，没有一点神秘主义的色彩。没有人要求我信仰哪个神，它的基本指令就是闭上眼睛，打坐，将全部注意力集中在鼻息上，甚至不需要去试图控制呼吸，只需试着感受气息何时进入、何时呼出。这是唯一需要做的。

　　我想，这件事非常简单，我可以轻松做到。这有什么难的呢？于是试着去做。但仅10秒钟，我就无法专注于自己的呼吸，思绪开始飘散，进入一些记忆、幻想和思考中。我会沉浸在这些想法中，1分钟、5分钟，直到意识到我必须感受呼吸，而不是思考。

　　于是我让注意力回到呼吸，但过了一两秒，我又失去了对呼吸的专注。我震惊地发现，我无法控制自己的思维，即使是感知呼吸这么简单的事情，我的注意力也会被头脑中产生的幻想、故事和记忆“劫持”。

　　这些年，随着我练习冥想，我意识到这种情况无时无刻不在发生。比如，我们几乎从未观察过我们的生活和世界的真实情况，因为我们的头脑在不断地制造幻想、错觉和故事，我们被困在这些头脑产生的故事中，与现实脱节。对我来说，冥想是一种接触现实的练习。冥想的关键在于感受当下发生了什么，让头脑更加清晰，保持平衡，不被外界的噪声和内心的杂念所干扰。

　　过去信息稀缺，人们会消费所有能获取到的信息。现在，我们被太多的信息淹没了。其中很多都是垃圾信息，就像垃圾食品一样。为了让人更容易上瘾，它被人为地添加了贪婪、愤怒和恐惧。我们需要节食。我们以为信息越多越好，其实不然。我们需要一些高质量的信息，还需要更多时间来消化信息，并清除之前摄入的垃圾信息。

　　因此，对我来说冥想就像一种“信息断食”。我每年都会去参加为期30天或60天的长期冥想静修，其间我不再获取任何信息，不上网，不用电子邮件，不上社交媒体，不用智能手机。我甚至不看书，也不再写新的信息，只把时间留给（信息）消化和排毒。

可持续发展社会的关键要素

　　记者：你目前在经营一家名为“智慧之船”的企业，希望促使人们就人类所面临的紧迫问题进行对话。有哪些议题是非常紧迫的？

　　赫拉利：“智慧之船”的主要使命是帮助全世界的人将对话的焦点集中在人类所面临的最重要的挑战上，因为很多时候，人们关注的问题是错误的。我们认为，对人类社会最重要的挑战有三个。第一个是生态挑战，整个生态系统正因气候变化、众多动植物的灭绝而变得不稳定，而人类也是生态系统的一部分。如果生态系统崩溃，人类会深受其害。

　　第二个挑战就是人工智能。我们对自己创造出的这种新的高智能外星物种，目前还具有控制能力，但它们很快就会脱离控制。要如何防止它们脱离控制、危害人类？

　　第三个挑战是战争。面临着生态崩溃和人工智能崛起这两大挑战，本以为全世界的人会团结起来，共同应对这些威胁，但事实却恰恰相反。过去十多年里，世界各地的国际紧张局势日益加剧，战争和冲突越来越多。一旦爆发真正的大规模战争，不需要人工智能或气候变化来毁灭人类，我们就可以毁灭自己。

　　这是“智慧之船”试图提醒人们关注的三大挑战。是的，每个国家都会有自己的特殊问题，但作为人类整体，我们需要合作应对这三大全球性挑战。

　　记者：那么，从更广阔的视野来看，可持续发展社会的关键要素是什么？

　　赫拉利：关键是要更好地了解人类。社会发展最终的目标不是生产人工智能，也不是生产其他东西，而是为了让人类过上美好、幸福的生活。为此，你需要真正了解，什么是人们生活痛苦的根源，以及什么是人类的幸福之源。

　　我认为，将如此多的资金、精力和时间用于发展技术和人工智能固然重要，但不应忽视对人类自身的了解和发展。如果我们在开发人工智能方面每投入1美元或1分钟的同时，也能在了解和发展人类和人类思维方面也投入1美元和1分钟，我想一切都会变好起来。

　　（采访内容由中信出版集团授权发布）