AI何时能助人类从工作中解放
作者： 江玮
在《超级智能》出版十年之后，英国未来学家尼克·博斯特罗姆出版了他的新书《未来之地》。他构想了一个所有问题都已经被解决的“深度乌托邦”，试图在其中寻找人类的目的和意义是什么。
在人类面临如此多挑战的当下，为什么要去想象一个挑战已经不复存在的理想世界？像物理学家通过粒子加速器创造极端条件，博斯特罗姆通过这本书创造了一个极端条件的思想实验，用它来理解人类价值和目标。
博斯特罗姆甚至乐观地认为，许多读者可以在有生之年接近“深度乌托邦”。他希望在这样的世界到来之前，先启发一些讨论：如果人工智能开启了新的能力水平，我们想要一个什么样的未来？生活在一个已经不需要人类付出努力的世界，什么样的生活才是有意义的？
人工智能将是促成“深度乌托邦”成为现实的因素，博斯特罗姆近日在接受《财经》专访时说。在他看来，超级智能一旦发展成熟，将如同掀翻棋盘般，彻底改变一切。
英国物理学家斯蒂芬·霍金曾表示，彻底开发人工智能可能导致人类灭亡。博斯特罗姆在《超级智能》中写道，人类的命运将取决于超级智能机器的行为。人类如何才能保持对机器的完美控制？“这就像是一场竞赛：人工智能的能力在快速发展，人类逐渐了解如何调整这些系统……人类对机器的完美控制原则上是可能的，只是我们并不确定能否及时找到解决方案。”博斯特罗姆说。
至于人工智能是让人类变得更团结还是更分裂，博斯特罗姆认为这并非技术本身能够决定，最终还是取决于人性中的智慧与善意在面对其他倾向时能否胜出。
博斯特罗姆是牛津大学未来人类研究所的创始人。在研究所于去年关闭之后，他发起了“宏观战略研究倡议”。宏观战略研究对他而言是找出漂浮在空旷宇宙中的这个星球上的人类文明身处何方，又发生了什么。
人工智能风险
《财经》：你在十年前出版的《超级智能》中曾预警人工智能可能危及人类生存，而这本新书讨论的是人工智能帮助人类解决了所有挑战的世界。你对于人工智能风险的看法是否随着时间发生了变化？
博斯特罗姆：这其实是我一直在思考的硬币两面。在我写《超级智能》的时候，大部分篇幅都在描述事情是如何出错的，我希望能够找出避免这些风险的方法。但事情也可以进展顺利，所以我现在想，也许是时候看看硬币的另一面了，积极的那面。
这并不是说我的观点改变了，只是因为这是一个巨大的话题，一本书只能充分涵盖其中一面。这也不是说我一开始相信某件事情，而现在信的却截然相反。更像是我之前看到的是一张模糊的照片，现在像素更清晰了。比如，当前人工智能系统的拟人化程度令人震惊，在很多方面都很像人类，它们可以和我们交谈，甚至表现出一些与人类相同的心理偏见和特性。十年前，我们并不能明显感知到这点。而仅仅过了几年，我们就看到这种非常像人类的人工智能形态。
《财经》：随着这类人工智能的兴起，我们如何能确保人工智能不会与人类反目？人类可以保持对机器的完美控制吗？
博斯特罗姆：这是一个对齐（Alignment）问题。在我写《超级智能》的时候，这个问题被忽视和忽略了。当时人们还在试图让人工智能变得更有能力，却没人致力于确保，如果我们开发的人工智能能力越来越高，我们如何可以按希望的那样来引导人工智能。
现在情况发生了变化。有很多汇聚了优秀人才的团队正在努力开发可扩展的人工智能对齐方法，即使我们面对的是极端超级智能系统，也依然具备可行的控制技术。
但这并不是一个已经完全解决的问题，我们能否及时解决这个问题仍悬而未决。这就像是一场竞赛：人工智能的能力在快速发展，人类逐渐了解如何调整这些系统。但我们无法确定，如果明天有人找到了让系统真正变得更加智能的技巧，我们是否有可靠的方法来充满信心地驾驭这种情况。所以这是一个开放的问题，人类对机器的完美控制原则上是可能的，只是我们并不确定能否及时找到解决方案。
《财经》：你在书里所描述的“问题已解的世界”（Solved World）从技术、生产力和治理方面呈现出什么特点？
博斯特罗姆：有两种属性。一是它处于或者接近技术成熟状态，也就是说，我们基本上已经开发了全部有用的通用技术，这些技术在物理上是可能的，原则上是可能实现的，即使我们现在还不具备这样的能力。比如，治愈衰老、太空殖民、完美的虚拟现实、将人类意识上传到电脑、对人类大脑情感机制的精细控制与认知能力的增强、完美的自动化技术，这些事物都没有违反物理定律。而超级智能的出现，让那个长期未来像望远镜一样被快速拉近。这是第一个属性，即近乎魔法的技术能力。
第二个假设是，治理问题已经得到了很好解决，或者至少在一定程度上得到了控制。这本书并没有关注政治治理方面，但我假设它不是糟糕的，没有出现管理不善，人人都有机会，和平到来，政府不压迫人民等等。这两个属性构成了我对“问题已解世界”的定义。
《财经》：这样一个理想世界什么时候会到来？你提到我们可能在有生之年看到一部分。
博斯特罗姆：这更像是一种希望，而非预测。鉴于目前人工智能的发展速度，这样世界的到来是可能的。超级智能一旦发展成熟，将像掀翻棋盘般，彻底改变一切。在好的情况下我们会看到这个理想世界，一个“深度乌托邦”。但在坏的情况下，我们可能面临灭绝。有很多可能的结果。
目前来看还很难预测，但出现一种强大的、可以从根本上改变很多事情的力量是可能的。我们是否会实现“深度乌托邦”或者其他任何一种乌托邦，现在还是未知数。这本书没有对时间线做出预测，但我确实认为，这种可能性是现实的，很可能会在许多读者的有生之年内实现。如果某些人工智能实验室负责人对前景的预测可信的话，这一切甚至也许只需要几年时间。
《财经》：使“深度乌托邦”成为现实面临的最大挑战是什么？
博斯特罗姆：如果“深度乌托邦”要成为现实，人工智能将是促成这一切发生的因素。在没有人工智能的情况下，我们可能需要成千上万年才能实现。但是人工智能不仅有潜力带来巨大的好处，随之而来的还有事情可能出错的各种情况。因此主要的挑战就在于确保这些坏的事情不会发生。这也是我们前面所讨论的对齐问题，要确保超级智能系统不会与人类为敌。
其次是治理挑战，确保人类不会使用这些日益强大的人工智能工具来伤害彼此。人类使用了很多技术来制造武器等诸多破坏性事物。
第三个挑战受到的关注要少得多，这是我最近工作关注的内容，即如何确保我们不会伤害正在建构的人工智能。我认为其中的一些数字心智将具备道德地位，是真正有感知的存在，有自己的利益和目标。绝大多数心智在未来很可能将是数字的，而非生物的。
这些数字心智的规模可能差异巨大，从类似于行星级别的超级智能，到像松鼠那样微小的意识体，甚至是那种仅仅用来运行洗衣机的微型智能。未来可能会出现各种形态的数字心智，这构成了一种道德上的挑战：我们能否将人类的同理心拓展到他者。这可能很难，毕竟，有时人类连彼此都难以好好相待。而对于动物，情况只会更糟。在畜牧业中，人类经常严重虐待动物。某些数字意识，可能只是数据中心里一些不可见的进程，没有眼睛，也不会发出哪怕一丝“吱吱”声，需要我们想象身处它们的情境。
我最近写的一篇论文草稿里提及了第四种挑战，尽管我现在还没有考虑得太清楚。如果我们创造出某种形式的超级智能，它可能存在于一个有其他超级智能的世界中。这些超级智能可能是由遥远星系中的外星文明构建的，也可能是由宇宙波函数的其他分支所产生，又或者如果生活在一个计算机模拟中，模拟器本身也将是超级智能体。所以这个挑战就在于要确保我们创造的任何形式超级智能，都能够与这组可能已经存在的原住者相处融洽。传统神学中的神明，也可以算作其中一类。确保人类与它们之间关系融洽非常重要。
我们还得保证人类能够走到建设超级智能的那一步，而不是在这之前就以其他方式自我毁灭。我们现在仍拥有大量核武器和生物武器，以及其他可能摧毁文明的方式，如果在那之前我们自己就把文明搞垮了，那将是非常可悲的。我们连与超级智能“掷骰子”、一试未来命运的机会都没能争取到，就已经出局了。
《财经》：你预见的“深度乌托邦”是一个所有挑战都已经解决的完美世界。另一个未来学家凯文·凯利则提出了“渐进乌托邦”（Protopia）的概念，他认为问题与解决方案总在循环扩张，乌托邦只能是一个渐进的过程。你如何看待这两种乌托邦的不同？
博斯特罗姆：凯文·凯利提出的“渐进乌托邦”更多地是关于此时此地，它锚定在当前的现实和实际中，反映的是你如何看待过去几十年的技术发展。正如技术进步的一贯模式，人类不断尝试各种方法，跌跌撞撞地解决了一些问题，在这个过程中又会制造出新的问题，之后我们再去解决这些问题。
这并不是说每件事都是完美的，但如果你从更远的角度看，你会发现，我们需要解决的问题质量越来越高。比如，如何按时上床睡觉，而不是沉迷于你的社交媒体。这可能是个问题，但总比面对如何获得足够的食物来养活孩子这样的问题好。我们用那些解决起来依然困难但更好的问题来替代更糟糕的问题，这反映了我们过去和现在所处的位置。
但“深度乌托邦”试图通过快进推断：如果我们把现在的趋势发挥到极限，会发生什么？人工智能变得越来越强大，很有可能在某一时刻，它可以完成人类所能做的一切。它将彻底变成超人，解锁完整的科技树（Technology Tree）。因此，“深度乌托邦”提出的是一个不同问题，是关于逻辑的最终结果。而“渐进乌托邦”的逻辑结论是，到了某个节点，解决问题的实体会比人类更善于解决问题。也许即使到了“深度乌托邦”，依然会有挑战和问题出现，但会有比人类更高效的超级智能来解决。
《财经》：你的书里提到了“马尔萨斯陷阱”，你如何从技术进步的角度解释它？一些未来学家认为，人工智能将终结稀缺性，但在物质充沛的世界，人工智能是否会带来其他意义上的稀缺？
博斯特罗姆：“马尔萨斯陷阱”依然会存在。人们常常忽略了它的存在，也许只是在一些历史教材的某些段落中读过。我们不应轻易认为2025年的世界状态是正常的默认状态。我们今天能够享有高于平均温饱水平的收入，其实是一种巨大例外，是我们的幸运。这种状态并不理所当然地会持续下去的。
随着超级智能推动技术迅速走向成熟，经济发展可能极其迅速，我们可以解锁巨量资源，甚至最终开发太空资源等。但人口增长的速度可能更快。人口增长是可以呈指数级的——哪怕每年增长10%，最终的总量也可能变得天文般庞大。尤其如果未来大多数的“人”是数字意识体，那它们可能只需几分钟就能复制一次。因此即使是天文数字级别的资源储备，也可能在极短时间内被迅速耗尽。
未来我们将不得不再次面对马尔萨斯的挑战，并可能需要采取某种方式，对“有多少、何种形式的意识体得以存在”做出更多选择，以确保每一个存在的个体，都能拥有高质量的生命体验。我不认为这是当下必须立刻解决的迫切问题，但在未来某一时刻，它将成为必须应对的课题。否则，任何形式的乌托邦都将只是短暂的幻象——随着人口增加，人均收入重新跌落到仅够生存的水平。