AI的文明

人工智能经过多年的爬坡，在近几年终于迎来了快速发展，特别是各种训练大模型的涌现，更是加速了生成式AI的井喷，从而引起了全世界对技术失控的警觉。

2023年11月1日，首届全球人工智能安全峰会通过了《布莱奇利宣言》，着重强调了人工智能持续发展可能会给人类带来的风险与挑战。

AI的风险，不再是AI失控，而可能是AI对人类文明的入侵。

著名的莫拉维克悖论指出：人类越容易完成的任务对AI来说往往越困难，而人类难以完成的任务由AI完成却常常很简单。在生成式AI流行之后，人们对此更有感触，不仅仅是简单的体力劳动，就连复杂的脑力劳动都可以由AI代劳。很多常规性的工作不需要人工去做了，人们可以把时间和精力更多地用在创造性劳动上，这是人工智能给世界带来的非常美好的前景。大量的研究工作在人工智能技术帮助下，也可以把创造能力往前推进一大步。甚至一些具有创造性的活动，也可以由AI完成。人类的四肢和五官逐渐被取代，身体机能也慢慢被机器接管。

以ChatGPT为例，有人认为，从生物学上来讲，它就部分取代了人类的前额叶。额叶是大脑皮层的五叶之一，是大脑发育最高级的区域，负责运动、语言、认知、精神等，管理人体行为，掌管机体情绪，影响人的注意力和记忆力。它除了负责判断、分析、思考及运算，还直接影响到情绪及个性。当ChatGPT类的AIGC更加完善时，人类可能会完全依赖于它：想要解决什么问题，直接在对话框中输入，想要做什么决策，直接询问AI，久而久之我们便不再需要分析，不再需要运算，也不再需要决策了。当我们慢慢习惯于AI的存在并依赖于它时，它就逐渐成为我们大脑的一部分，代替我们进行思考和决策。

如果说搜索引擎弱化了人类的记忆能力，那么AIGC则削弱了人类的过程决策能力。而这，正是人类思考的核心。

最近，全球首款AI硬件推出，它就是Humane公司的“AI Pin”。这一划时代的产品没有屏幕，可将影像投射到手掌，并由手指进行隔空操控。

进一步地发展，这类AI可能就不再需要人来操控，而是能够完全自主进行各种操作。如果出现自主攻击的无人机蜂群、自主开火的战争机器人，想想就让人恐怖。

尤瓦尔·赫拉利在《未来简史》中指出：智人正在将自己一步步升级进化，在这个过程中持续与机器人和计算机融合，把更多的生活控制权交给智能手机，在追求发展的过程中，人类慢慢地改变了自己的特质，特质一个又一个地改变，直到人类不再是人类，人类的历史就会告一段落，另一个全新的过程将要开始。

如果强AI出现，就会具备文明的特质，有人称之为“硅基文明”，即基于硅晶体的电子文明。而人类的文明，则称之为“碳基文明”，即基于碳水化合物的有生命文明。而AI的硅基文明，正是由碳基文明所创造出来的，它们会不会反客为主，掌握、取代甚至消灭人类文明呢？

在一个“电影版”的AI Talk中，引用了冯·诺依曼的一句话：不断加速的技术进步使人类历史出现一些基本的奇点，在这个奇点之后，我们所熟知的人类常态将无法持续。AI让这个奇点越来越近了。

换句话说，AI的文明，已经曙光初现。