奥特曼：AI 执剑人与野心家

很少有技术得到了“通用人工智能（AGI）”这般的待遇，还未真正被发明，但质疑、忧虑的声音已经铺天盖地。更少见的是，当中声量最大的，还包括这项技术最积极的推动者。

在去年底亲自释放了ChatGPT这头“猛兽”、将整个世界朝着“AI时代”大幅推进之后，OpenAI的CEO山姆·奥特曼不断警告那些依赖ChatGPT的用户们：“现在依靠它做任何重要事情都是错误的。”

不仅如此，他还在国会听证会和访问各国的环球旅行中，反复强调AGI的危险性，声称其可能造成“核战争”级别的危机，并呼吁建立全球协作的监管机制。

稍微了解OpenAI创办宗旨的人，不难理解奥特曼看似矛盾的举动，毕竟这是一家以服务“全人类利益”为目标的人工智能研究机构，其CEO发表审慎、理性的观点也是理所应当。但再了解得多一些，就可能生出不少疑虑。

在奥特曼的带领下，OpenAI正从一家开放、透明的非营利组织，逐渐变得封闭、商业化，不仅拒绝公布GPT-4的开源信息、成立营利子公司，还摒弃了最初的中立立场，倒向了微软一方。

每当OpenAI朝着商业化的方向迈进一步，奥特曼都能为此提供一套基于技术和人类福祉考量的说辞，但这种关联的模糊性在于，人们难以分辨商业化是OpenAI秘而不宣的初衷还是不得已而为之的举措、奥特曼有关AI的审慎言论是肺腑之言还是缓兵之计。

不久前闹得沸沸扬扬的“罢免风波”，最终是被视为激进主义和商业主义的阵营获得了胜利。董事会重组之后的OpenAI，越来越像一家典型的硅谷独角兽，无数的投资者和合作伙伴等着从它身上榨取利益。

被董事会“驱逐”之后，蜂拥而至的支持力量显示了奥特曼拥有的巨大声望，很快重回CEO宝座的他，权力似乎比以前更为牢固。如今的问题是，在AI时代只差临门一脚的关键时刻，执掌权柄的奥特曼究竟是真挚的执剑人，还是未显的野心家？

他内心的真实想法，成为事关我们每一个人的重要问题。

改变世界的意志

和比尔·盖茨、乔布斯、扎克伯格等科技界的传奇人物一样，奥特曼也是“辍学俱乐部”的一员。

在斯坦福大学了读两年计算机专业后，奥特曼辍学与当时的男友尼克·西沃创办了一家科技公司Loopt，为孩子提供社交网络服务。这家公司后来成为首批加入Y Combinator孵化器的8家企业之一，并最终以4300万美元的价格，出售给了银行公司Green Dot。

事后来看，这次不太成功的创业经历的最大价值，是让Y Combinator的联合创始人保罗·格雷厄姆相中了奥特曼的才华，并把总裁职位交棒于他。

格雷厄姆对时年23岁的奥特曼评价甚高，称他像年轻时的比尔·盖茨那样果敢、自信，是硅谷最耀眼的5名初创公司创始人之一，“你可以把他降落到一个满是食人者的岛上，五年后回来，他就会成为国王”，他用这样的言辞形容奥特曼的领袖天赋。

和所有扎根硅谷的人一样，奥特曼也有着改变世界的伟大梦想。区别在于，激励他的可能是人类终将毁灭的恐惧。

商业化的举措为OpenAI惹来了巨大的非议。

奥特曼是一名末日生存爱好者，总是担忧着重大灾难事件的发生。为了在可能的灾难中生存下去，他在家里准备了大量食品、药物、黄金和枪支，甚至在大苏尔买了一块地，以应对可能的致命病毒、AI攻击或核战争威胁。

担任Y Combinator总裁时，奥特曼年仅28岁，但他已获得了足够的权力，来施展长久以来的改变世界的抱负。

作为一名信奉“有效的利他主义”哲学的年轻CEO—在硅谷，这一哲学的具体含义是：不择手段地赚钱，并相信只有自己知道怎么花钱最值当，他认为自己对增进人类福祉有着不可推卸的责任。

他对身边人说：我们做的事情“不是关于创业，我们关注的是创新，因为这是我们认为的如何使未来变得伟大的方法”。

他将自己的精力投放在那些能够增进人类总体福祉的事情上，先后投资了研究核聚变的Helion，希望将人类整体寿命提升10年的Retro Biosciences等科技公司。日渐成熟的AI技术自然也成为他关注的重点。

奥特曼不是那种只关心技术的极客，他对技术的理解总是包含着政治和社会的视角。他很早便意识到，AI将带来一场技术和社会的双重革命，至于它带来的会是福祉还是灾难，完全取决于人类如何认识并利用这项技术。

在经历了蒸汽机、电力、计算机、互联网等数次技术革命之后，关于技术的历史已经足够丰富，当中包括好的经验和坏的教训。这让一些人相信，对尚未实现的技术进行预测、管控是可能且必须的，奥特曼就属于这类人中的一员。

2014年，硅谷讨论AI的氛围已经相当浓厚，当年谷歌收购了DeepMind、微软开发了智能助理Cortana，一大批与AI有关的初创公司如雨后春笋般冒了出来。

改变世界的雄心和“有效的利他主义”观念的结合，令奥特曼相信，与其把人工智能的命运交给他人，不如由自己来主导整个过程。

他很快找到了志同道合的伙伴—朋友、导师和未来的敌人，埃隆·马斯克。马斯克在与谷歌创始人拉里·佩奇交流时发现，谷歌将AGI的最终实现放在了优先位置，而不顾它可能带来的风险问题，这让他萌生了与之抗衡的想法。

得知马斯克的意图后，两人经常在一起讨论AI有关的话题，尤其是如何实现“人工智能对齐”的目标，也就是让人工智能系统和人类的价值观和利益保持一致。磋商的最终结果，便是成立OpenAI。

如果细究OpenAI创立时的初衷，多少会感到一丝奇怪。一群资本家凑在一起，声称OpenAI的创立是为了防止AGI这项技术最终落入大资本（主要是谷歌）之手，使其发展能够符合全体人类利益。这样伟光正的宣称有多少可信度？

但至少，这一宣称能够帮助奥特曼说服伊利亚·苏茨克维（他在今年策动了对奥特曼的罢免行动）的加入，后者是当今世上最好的人工智能专家之一，同时也是一名技术保守主义者，对AI的安全性和人类的命运感到深深的担忧。没有他的加入，OpenAI的一切设想都只是空谈。

2015年，奥特曼开始与苏茨克维接触，在一次晚宴上，两人进行了深入交流。除了分享彼此对AGI技术的看法外，苏茨克维显然认同奥特曼确保AGI安全性的想法，两人着重探讨了谷歌的DeepMInd是否已经无人能敌、能否创建一个机构与其抗衡等问题。最终，他接受了奥特曼的邀请，脱离谷歌，加入并领导OpenAI的AGI研究项目。

在2019年之前，OpenAI对于奥特曼来说还只是一项副业，期间他没有停止在Y Combinator的工作，甚至还考虑竞选加州州长的公职。这段时间，OpenAI保持了其创立时的理想主义气质，开放、透明，恪尽职守地“为全人类”而工作。

发生于2018年的奥特曼与马斯克之间的决裂，改变了这一切。或许是嫌OpenAI的进展太慢，或是出于对安全性的担忧，马斯克想要将OpenAI纳入自己的事业版图之中，但奥特曼和苏茨克维拒绝了这一要求。

在谋求公司控制权失败后，马斯克带着他承诺的10亿美元捐赠脱离了OpenAI。OpenAI顿时陷入了资金困境，奥特曼开始四处寻找投资，甚至还询问了美国政府的意愿，但没有人愿意资助这样一家愿景飘渺的非营利组织。

这让奥特曼意识到，如果OpenAI不能实现盈利，连存活都成问题，遑论实现AGI。这一结论很快成为内部的共识，成为OpenAI迈向商业化的起点。

为了解决资金问题，他在OpenAI之下设立了一个营利性组织，吸引外部资本加入，并为投资者设立了100倍的利润上限，超出的部分将归OpenAI所有。这看起来是一个两全其美的方法，既能保证OpenAI的存活，又保留了其性质上的非营利性。

“开源GPT-2将变得十分危险，可能会被用来做坏事。”

很快，奥特曼就为OpenAI找来了10亿美元的投资，OpenAI也首次有了估值：300亿美元。

正在这时，奥特曼辞去了Y Combinator的工作，专职担任OpenAI的CEO。这一举动发生在一个十分暧昧的时间点，留下了极大的解读空间。

人们可以说，奥特曼专职担任CEO是为了帮助OpenAI更好地实现愿景，但经由架构变更，OpenAI已经开拓出了盈利的空间，不再是一家单纯的非营利机构。此外，OpenAI在技术层面刚刚找到了大型语言模型这条真正可行的技术路线，开发出了GPT-2，AGI不再是遥不可及的科幻概念。人们也可以说，奥特曼将自己押注在了AGI这个“只此一次”的机遇上，这可以令他变得“真正伟大”。

他的决定究竟有多少是基于“全人类利益”的考量？类似的模糊性，还将在奥特曼身上反复出现。

商业化的举措为OpenAI惹来了巨大的非议，批评来自评论家、内部员工和竞争对手。

不少评论家质疑所谓的100倍利润上限只是一个幌子，因为它指向的是万亿级的收益前景—一个难以达到的限制和没有限制是一回事。一些内部高管和员工无法忍受OpenAI的商业化转型，离开并创办了Anthropic，与OpenAI进行直接竞争。

反对声量最大的当属马斯克，他在推特上对OpenAI发起攻击：“我仍然很困惑，一个我捐赠了1亿美元的非营利组织是如何变成一个市值300亿美元的营利性组织的。如果这是合法的，为什么不是每个人都这么做呢？”

虽然奥特曼回复称这一切都是合规的，但OpenAI呈现给外界的形象还是出现了裂痕：如果一家非营利组织能够如此丝滑且合规地完成从非营利到营利的转型，谁能担保OpenAI不会进一步变质？

从奥特曼和OpenAI后续的行动来看，他并没有很好地回答人们心头的疑问。