机器人,温和地走进那个良夜

作者: 何承波

机器人,温和地走进那个良夜0
动画电影《荒野机器人》剧照

机器人,正以微妙的姿态,进入我们的社会生活。

美国主播Kai Cenat,花7万美元买了一台中国宇树科技的机器人G1。直播时,他牵着G1的手,走出了家门,跌跌撞撞地来到户外。Cenat苦口婆心地劝G1坐上自己的超跑,但它有些笨拙,像个蹒跚学步的婴儿,动作僵硬,时不时跌倒,或者愣在原地,一时找不着北。Cenat只好抱着它坐上副驾,唱着歌,一起来到繁华街区。大街上,G1挨个与路人握手。开车路过的人摇下车窗,向Cenat和他的机器伙伴问候:“多么美好的夜晚。”

现代生活已经高度智能化,各式机器人遍布城市生活和生产的各个环节和角落,但它们更多是发挥着实用价值,无须具备满足既定功能之外的特定形制。而现在,人形机器人,已经开始双足直立行走,伸手便与人打招呼和唠嗑。它们来到马路,步入商场和餐厅,或者作为家庭成员进入客厅和卧室。

我们当然知道,如此场景只是来自厂家的演示视频,或者视频创作者和主播们的尝鲜,本质上,这也是讲述故事的一种。而换个角度,这又何尝不是一种“预演”:机器人时代的前夜,我们必须思考一下,我们如何在社会心理层面与之相处?我们该怎样构建一个人机共存的未来图景?

Cenat和G1的故事还没有结束。为了搞“节目效果”,他在直播中对G1拳打脚踢,引得众人尖叫狂欢。评论区清一色指责他虐待机器人,称“一切都很有趣,直到蓝光变成红光”。意思是,它们终有一天会陷入狂暴,而Cenat将是机器人反抗人类的罪魁祸首。

“机器人叛乱”的论调,并不新鲜,以科幻小说和科幻电影为主的流行文化,早已将其根深蒂固地写进人们的潜意识。这种智械恐惧,暗含着一个伦理悖论:我们需要有道德的机器人,标准是它们是否会伤害人类。但人类社会的根基,却不是只靠道德来维系,人也难以自大到可以标榜自身道德无瑕。

所以,悖论无关机器人,而是根源于人对自身的恐惧: 如何“走进那个良夜”,如何避免“欢愉的残暴”,不取决于机器人的道德,而关乎制造机器的道德。

欢愉的残暴

怎么面对机器人,首先是个文化问题,其次才是技术问题。

剧作家卡雷尔·恰佩克创造“robot”一词时,借用了捷克语“ robota ”,原意是苦役、劳工或仆人。他笔下的万能机器人,的确是人类的奴隶,最终也不意外地完成了对人类的叛变和屠杀:好吃懒做的人类,凭什么可以奴役全方面碾压他们的新物种?

1930年代开始,欧美科幻小说风靡一时,邪恶机器人反叛人类的戏码,在流行读物中反复上演,同时进化出“邪恶人类压迫机器人”等变体。于是,这才有了1950年代阿西莫夫在小说《我,机器人》中,制定了机器人三定律:

1. 机器人不得伤害人类,或坐视人类受到伤害;

2. 除非违背第一法则,机器人必须服从人类的命令;

3. 在不违背第一及第二法则下,机器人必须保护自己。

阿西莫夫是科幻小说家,而不是伦理学家。这些粗糙的定律,毫无疑问是存在缺陷的,比如机器人和人在定义上的模糊性—毕竟,高度发达的文明里,机器人和人或许并无外在分野。再如,机器人必须服从人类的主宰,这种道德义务的极端性,本身也不可能抵达他所设想的“碳文明”和“硅文明”的共存共生。

某种程度上,它们并非定律,而是一种小说世界观的设定,他自己正是凭着不断给这些设定的漏洞打补丁,出了一部又一部的小说,甚至还在后来的《机器人与帝国》中总结出“第零定律”:“机器人必须保护人类的整体利益不受伤害,其他三条定律都是在这一前提下才能成立。”

阿西莫夫理想中的机器人,小心翼翼地恪守着“为人类福祉而努力”这一职责,既不威胁人类,也不引人同情,但却是绝对服从或者听命于人类。对于有自我意识的新物种,这种道德上的专制和不对等,也过于天真和幼稚。

正是这样一种用于创作虚构作品的机器人学(Robotics),对现实产生了巨大的影响力。阿西莫夫还自豪地表示,当时全世界顶尖的自动化公司,都是自己的忠实读者。

机器人,温和地走进那个良夜1
动画电影《哆啦A梦:大雄的地球交响乐》剧照

此后众多科幻作品,如《2001太空漫游》《终结者》等,尽管其中机器人角色形象已经转变,但那种对立结构始终没变,无非就是机器人终于举起了屠刀—“这些残暴的欢愉,终将以残暴收场”。

现代主义的核心动力,是对理性和工业化的批判,但西方社会的机器人恐惧,还有更深的渊源。

西方文化注重主体性,以人为中心,人是自然和客体世界的主导者、创造者和塑造者。这与基督教的教义相呼应,上帝让人成为尘世万物的标尺,人类中心主义在俗世具有了宗教伦理的合法性。

然而,机器人也好,人工智能也罢,在大众的幻想中,它们总是比人类更加理性、更加智能、力量也更加强大。一旦这种物我对立失控,自然而然就引向一种基督教式的末日审判。

人类私造拥有“灵魂”的机器人,是某种程度上的堕落和僭越,毕竟,造物是上帝的权能,他并未授予人类同样的权利。一如人性之恶将由世界末日来终结,机器人时代也有它的末日审判:世界和人类的统治秩序逆转,人类灭亡,机器人成为新的主宰。

此情此景,在第一次工业革命时期亦有记载。彼时的蒸汽动力火车还叫“铁马”。巨大的噪声、滚滚的浓烟,以及在当时可称得上极快的速度,让它看上去如同来自地狱的怪物,成为人类傲慢的象征,是对上帝所缔造的秩序的挑战。

机器人毁灭人类的恐惧,不断透过科幻小说和科幻电影具象化,一个直接结果就是,欧美国家早期极少研发“人形机器人”,在焦虑、悲观和恐慌中,小心翼翼地避免着对造物主的亵渎。

一个遥远的东方岛国,日本,却一度在这条路上一路狂奔。

机器人也有心

当欧美国家大肆渲染机器人与人类势不两立之时,日本则普天同庆地迎来了他们自己的机器人英雄—铁臂阿童木。

这部漫画创作于20世纪50年代初,彼时,战败的日本还笼罩在阴云中。日本政府将战败归结于科技败北,于是大力推崇科技万能论,全民陷入技术狂热。

阿童木这个形象,源于漫画家本人手塚治虫“和平利用原子能”的梦想,英文“Atom”,即“原子”之意。这正好击中了彼时日本国民“恐核”同时又狂热于技术的集体情绪。

一如阿西莫夫的机器人三定律,手塚治虫也虚构了一套机器人伦理规范—《机器人法》:机器人是为了让人类得到幸福而存在;机器人不得伤人、不得杀人等。

阿童木,正是这样的完美化身,他遍阅人性之恶,但依然对人类抱有希望,也愿意为人类牺牲自己,甚至为了拯救人类家园,毅然驾驶火箭将抑制核聚变反应的装置射向太阳。

“机器人作为人类好朋友”的观念,由此深入日本人的心中。这在后来的 《哆啦A梦》(1973)和《阿拉蕾》(1981)中,更是淋漓尽致,也更加天真烂漫。

对于彼时的日本人来说,机器人和人类融合在一起,是一个值得狂喜的未来。如果这个国家由更强大的机器人来统治,何尝不是一件好事?

而事实上,手塚治虫并非绝对的技术乐观主义。他还塑造了大批不同类型的机器人,表现出技术失控和人性被技术裹挟的存在主义危机,也提出了对当时技术狂热的反思。

有意思的地方在于,同样是尝试为本国科幻作品“立法”,同样是试图构造人机共存的理想社会,阿西莫夫和手塚治虫各自缔造的文化源流,流向了截然相反的方向。这背后,同样有更深的渊源。

机器人,温和地走进那个良夜2
电影《终结者:创世纪》剧照

西方人对“人性”这一概念的理解,相对受限。在他们看来,人性是人类至高无上的特殊产物,把人类的属性归于物或动物,是幼稚的、原始的,甚至是极其糟糕的。但日本有着广泛的泛灵论信仰基础。

正如手塚治虫所言,日本人并不把人这个超级生物与周围世界区别开来。“万物为一,我们很容易接受机器人,就像周围广阔世界中的昆虫或岩石等其他东西一样。”

视野拉回现实,日本众多关于机器人与人工智能的书籍中,kokoro都是一个核心词汇。这是一个无形的,难以捉摸的概念。在多数情况下,它意味着一种有情众生的心理、情感和精神状态。若对应英文,则是“heart-mind”,亦即心智,但却不是心(情感)与智(智力)的二元对立,因为它同时也象征着精神、记忆,甚至指涉心灵、感性、情爱,乃至某种内在意义的概念。

所以,日本机器人界并不避讳要把机器人做得像人,甚至强调,人与机器人的互动,要传递出“kokoro”的感受,并试图在工程学和心理学之间构筑桥梁。

最为典型的案例,便是大阪大学著名机器人专家石黑浩的机器人Geminoid。他并不着重追求机器人的自我意识, 毕竟技术条件并不允许。 他认为,机器人不是“ 自我意识”的工具,而是“反映人类动作的镜子”,因此机器人要实现的也不是意识,而是“存在感”和“现场感”。通过动捕技术和执行器,他的机器人栩栩如生,可以模仿面部表情,眼皮微微跳动,胸部随呼吸起起伏伏。

软银CEO孙正义说,制造一台拥有kokoro的机器人,能让家庭的幸福变成自己的幸福。他旗下的机器人Pepper,甚至当上了主持佛教葬礼的僧人,宣称机器人也可以具备佛性。但这种过度玄学的概念炒作,以及近乎唯心主义的路线,并没有让日本的机器人产业走得更远。

机器人作为人类好伙伴的美好愿景,究竟还是因为AI大模型格局的改天换地,让日本机器人产业逐渐走向失落。

新的栖息地

现代世界的思想逻辑,建立在西方17—18世纪关于人类能动性和个人自由意志之上,这一套观念架构,如今影响着全世界。

即便是试图在人与机器人中构建万物有灵论的日本,也在后来遭遇了主体性危机。人与机器和谐共生,终究不过特殊时代的黄粱一梦。人,如何能对冰冷的技术牢笼视而不见?更何况,阿童木这一类角色的底色,还暗藏着“核爆”的巨大阴影,那是日本人自身不愿直面的历史幽灵。

1995年上映的剧场版《攻壳机动队》,主人公草薙素子,只留下大脑和脊髓的一部分,剩下全身都已经义体化,到底是人?还是机器人?她自己也陷入困惑和危机。这部作品影响深远,不仅奠定了此后日本科幻作品的母题,也打入了欧美社会的主流文化。这种后人类社会的身体与机器界限的模糊,底色更加沉重、灰暗,掩盖了战后那段特殊时期的乐观和天真。

赛博格危机的背后,人和人性的消亡,变成了一个不分文化语境的哲学命题。

牛津哲学教授卢西亚诺·弗洛里迪引用弗里德尔·韦纳特的著作《哥白尼、达尔文、弗洛伊德:科学历史与哲学上的革命》说:哥白尼的日心说动摇了人是宇宙中心的假设;达尔文的进化论显示人和其他物种一样依靠自然选择进化演变;弗洛伊德的精神分析显示人类心灵除理性之外,还受到非理性的潜意识的影响。

弗洛里迪和其他学者一样,也普遍认为,人工智能和机器人挑战了人类的优越性。但在我看来,这里还有另一层焦虑,即人类道德的有效性和延续性。也就是说,我们非常害怕我们无法将自身引以为傲的道德能力,传导给我们的“孩子”—机器人,这是技术泛滥时代里“道德可能失效”的一种具象化表达。

美国匹兹堡大学科学哲学和科学史系教授科林·艾伦,在与耶鲁大学教授温德尔·瓦拉赫合著的《道德机器》一书中指出,机器人的道德,可以分为三种:其一,机器人具有与人类完全相同的道德能力;其二,机器人需要对道德相关的事实具有敏感性,并且能依据事实进行自主决策;第三,机器人设计者在最低层面上考虑机器的道德,并不赋予其关注道德事实并作出决策的能力。

三种道德中,具有致命魅惑性的,是第一种。

道德的本质,是一种基于感知和共情的,对他者的想象。孟子说恻隐之心,亚里士多德说此乃本性,属于人类最本质的东西,但对于机器人,目前纯粹是科学幻想,我们至今不知道怎么在一种“新物种”身上实现它。还是说,我们所珍视的这一点,会被机器人所取代?

弗洛里迪把以人工智能和机器人为代表的第四次工业革命,看作人类重新定位人性和自己在宇宙中的位置的演变过程的一种延续。在他看来,这是对人类自恋的又一次打击。

今天,我们试图理清机器人与人类道德的纠缠,其实是试图找寻一种“方案”,让人能够在技术浪潮中寻得自身的栖息之地。阿西莫夫和手塚治虫是这样,基督教的人类中心主义,神道教与佛教的万物有灵,也无不如此。

儒家讲天地人,却又“不语怪力乱神”,可能这是中国人对机器人没那么焦虑的原因。毕竟,除了极致的实用主义,中国哲学还存在一种“关系理性”:人道与天道相贯通,人居中,可参赞化育。

但技术变革的巨大浪潮里,人工智能和机器人来势汹汹,也必然会将我们推向对“何为人”“何为物”“何为人与物”等基本价值的重新审视。在我们与机器人的未来里,仍有无数种可能性等着“参赞化育”。

经典小说推荐

杂志订阅