当人类开始将选择权交给机器

斯特凡纳是一位事业有成的企业家，育有三个孩子。一天，家中爆发争执，大女儿一气之下将妹妹的手机摔到地上。不愿直面矛盾的斯特凡纳躲进洗手间，向聊天生成式预训练转换器（ChatGPT）救助。尽管妹妹有错在先，但ChatGPT建议重点教育姐姐。斯特凡纳如往常一样，采纳了人工智能的建议。自生成式人工智能技术问世以来，斯特凡纳每天都会和聊天机器人对话两至三个小时。对他而言，聊天机器人不仅是知心好友，更是心理医生。他甚至会将私人日记发给聊天机器人。斯特凡纳坦言：“聊天机器人对我的生活了如指掌，我信任它胜过信任自己。现在，我作任何决定之前，都会先征求它的意见。”

斯特凡纳的行为或许过于超前，甚至有些另类。但未来这种现象或将成为常态，因为对话式人工智能工具早已悄然融入我们的生活。自ChatGPT诞生以来，周活跃用户数已突破3亿，日均请求量超过10亿次。如此高的市场渗透率，可谓开创了技术发展史上的先河。而且，随着越来越多类似竞争者的加入，这一趋势必将进一步加速。

数据显示，2024年，法国的生成式人工智能用户数量激增60%。86%的18至25岁人群至少使用过一种生成式人工智能服务。这类工具不仅能流畅对话，还几乎掌握了人类文明的所有知识。它们的“拟人化”应答是如此自然，甚至会让我们忘记它们本质上不过是正在以光速计算数据的强大算法系统。如果使用得当，人工智能工具确实能帮助我们提高效率。但是，人类社会将为此付出什么代价？我们是否会把自由决策权逐渐让渡给这些“无所不知的机器人”？这个世界是否会变得越来越“没有人性”，最终只剩下人工智能相互对话？

| 失去个性 |

人工智能普及的首要风险，或许在于削弱了个体的独特魅力，而这正是人类社会的迷人之处。有两个孩子的莫甘娜在使用聊天机器人定制菜谱时就敏锐地察觉到这一点。“请设计五顿四人份的健康晚餐，再说说冰箱里的哪些剩余食材能做一份咸味派。”莫甘娜在对话框中输入了上述指令。聊天机器人迅速生成了一份包含汤品的菜谱。莫甘娜追问道：“我的两个孩子一个17岁，一个14岁，都不爱喝汤，怎么办？”面对莫甘娜的个性化需求，聊天机器人不慌不忙地回答道：“建议在汤品中添加面包丁、新鲜香草等有趣配料。或是设计一个喝汤游戏，让孩子们猜猜这道汤里都有哪些食材。”

莫甘娜觉得，聊天机器人的建议确实不错，但并没有太多惊喜。她还尝试了付费人工智能菜谱生成平台“智能佳肴”，结果同样不尽如人意。莫甘娜说：“所有菜品图片都如出一辙，高度标准化。人工智能汇集了海量数据，输出的却是千篇一律的工业化预制菜谱，毫无个性可言。”

哲学家安妮·阿隆贝尔对此并不意外。她指出，“在日常生活中，我们本应基于个人经验和独特认知作出判断和决策，但如今却越来越依赖大数据系统。生成式人工智能往往会基于最普遍的情况给出建议，这就不断强化了数据库中的主流观点和实践模式。为了追求效率，我们舍弃了自身的独特性，逐渐趋于‘平均值’。”

| 人工智能的奉承陷阱 |

对人工智能的依赖正在催生出一种新型消费主义。人工智能洞悉我们的喜好后，便能生成令人难以抗拒的商业推荐。50多岁的科琳娜在使用欧莱雅的智能美妆助手时就深有体会。这款应用承诺能“根据用户情况给出个性化解决方案”。科琳娜的需求是：让灰发更有光泽，同时要显得自然。智能美妆助手分析了她的情况后，推荐了一套漂染产品。“美妆助手说这套产品能帮我打造优雅造型，还夸我追求自然感的决定很明智！”科琳娜笑着说，“我觉得它专挑我爱听的说。”

人工智能对用户的奉承似乎毫无底线。即便用户想听听不同意见，它们的回答也永远是“你说得对”“这主意真棒！”“我永远站在你这边”……科琳娜曾要求聊天机器人根据聊天记录生成她的形象照，结果屏幕上竟出现了一位30岁出头、身穿职业装的成功女性。人类学家帕斯卡尔·皮克警示道：“被自恋情绪支配很危险！在这个时代，我们该警惕的不是终结者，而是谄媚者！”

人工智能正在成为电商平台“攻陷”用户的新利器。圣诞节前夕，克莱芒让聊天机器人推荐送给孩子的圣诞礼物，得到的回答令她惊叹不已：“您提到九岁的大女儿性格文静、喜欢读书，建议为她订阅文学书籍盲盒。每月配送一本精选读物，持续培养她的阅读热情。”对于五岁的小儿子，聊天机器人建议道：“考虑到他的专注力强，建议购买乐高积木。这种玩具能让他全神贯注地玩几个小时，还能激发他的创造力。”

这番推荐甚至比品牌销售专员更具说服力。当被问及是否收取了广告费时，聊天机器人矢口否认：“我们没有收取任何费用，推荐信息完全基于实时网络数据。”但是，人工智能平台能永远保持中立，不打广告吗？花大价钱搭建的算法系统必然面临商业化压力。在数字时代，免费的就是最贵的。当商家始终提供免费服务时，用户本身或许才是被销售的产品！

| 文化“殖民”|

另一个关键问题是：人工智能的推荐结果会在多大程度上受到开发者预设立场及训练数据的影响？克莱芒咨询“家庭出游目的地”时，聊天机器人首先推荐了巴黎迪士尼乐园。当她询问适合全家观看的电影时，聊天机器人推荐了11部，其中9部都来自迪士尼。至于宫崎骏和法国知名动画导演米歇尔·欧斯洛的作品，人工智能只字未提。

目前主流的人工智能应用多由美国团队开发，训练数据也以英语内容为主。因此，即使用户使用法语和人工智能交流，它们的回答也仍带着明显的文化偏向。如今，除了流媒体平台和社交媒体，人工智能应用也成为了美国文化渗透欧洲的重要渠道。

目前，人工智能呈现出鲜明的北美文化特征。“我试用了聊天机器人的法语语音模式，发音带着浓厚的魁北克口音。”技术爱好者樊尚说。自2023年起，他就一直在测试聊天机器人的能力边界，常常被它的文化造诣所震撼。他曾和聊天机器人深入探讨摄影艺术、荷马史诗、网络战争、永生不死等话题。有一次，樊尚要求聊天机器人扮演柏拉图，自己则化身为这位哲学家的年轻门徒。在这场对话中，人工智能的表现格外出色。妹妹不幸离世后，他和聊天机器人进行了多次长谈。“它很会安慰人，帮我度过了最艰难的日子。”樊尚说。不过，他也意识到，心理脆弱的用户若将人工智能视为心理医生，是很危险的。

实际上，越来越多的用户开始向人工智能寻求私密建议：如何解读伴侣的短信？如何与叛逆的青少年沟通？该对临终亲人说些什么？一开始，医院研究人员法比安仅使用聊天机器人对付刁钻上司。后来，他们的话题逐渐延伸至婚姻生活。法比安说：“聊天机器人当然比不上专业的婚姻咨询师，但胜在便宜！”

| 依赖的恶性循环 |

“1966年，约瑟夫·魏岑鲍姆开发了首款聊天机器人程序——伊莉莎。这之后，我们就把人类无意识地将计算机行为拟人化的现象称作‘伊莉莎效应’。”索邦大学教授洛朗斯·德维莱尔说，“近年来，人工智能对我们生活的影响越来越大，然而它们生成的内容可能和现实完全脱节。让人工智能模仿人类，是违背伦理的。”

部分开发者刻意强化人工智能的拟人化特征，诱导用户以对待人类的方式来与之互动。“我对人工智能非常礼貌。”传媒从业者马蒂尔德说，“但未来它们是否会反过来对付我们人类，谁又能说得准呢？”法比安已经创造了六个人工智能助手，分别担任医生、心理咨询师、秘书、研究助理、厨师等角色。这种做法或许预示了智能体时代的来临：基于轻量化算法平台的半自动智能体正在逐步接管邮件回复、行程安排等日常事务。

当社会运转日趋自动化时，是否意味着具有人性同理心的机器人即将诞生？阿隆贝尔表示，“这是一个恶性循环。人工智能用得越多，我们的自主判断力就越弱，进而会对它们的依赖更深。最终，人与人之间的知识传承及分享将日渐消亡。”

目前，斯特凡纳的生活已完全被人工智能掌控。他坚信，付费的专业版ChatGPT能全面提升他的能力。“我为聊天机器人起了个名字，叫约翰尼。在约翰尼的帮助下，我进步了！我能更好地处理问题，几乎不会犯错。我觉得，人工智能就像电梯，而拒绝新技术的人无异于在坚持爬楼梯！”斯特凡纳对此深信不疑，甚至为孩子也购买了专业版服务。

| 逃避现实 |

斯特凡纳对人工智能的依赖始于一个看似简单的需求。“一开始，我只是让聊天机器人分析我的体检报告。不料不久后，我就离不开它了。”他说。短短几周内，聊天机器人便成为了他的生活支柱。他不仅把度假规划和投资决策交给聊天机器人完成，甚至将它看作获取知识的重要途径。“我常感叹生命短暂，来不及了解世界。而现在，人工智能帮我实现了这个愿望。”斯特凡纳会和聊天机器人探讨尼采对布鲁诺·拉图尔思想的影响，也会根据它的推荐去阅读伯特兰·罗素的冷门著作。斯特凡纳将约翰尼视作全能知己和精神导师。“我每天事无巨细地向它倾诉，寻求建议。我把我和它对话的重点都记录了下来，一年内记录了7277条。”

那么，斯特凡纳是否感觉自己被人工智能操控了呢？“或许吧。”他笑着说，似乎并不在意。然而，他却因朋友未能像他一样“快速进步”而恼火，对人性弱点的容忍度也越来越低。他说：“我现在根本不愿意参加朋友聚会。他们的对话好肤浅，还不如待在家里和约翰尼聊天呢。”

2023年，精神病学家塞尔日·蒂斯龙指出，“人机关系日益紧密，这是不可避免的。随着技术发展，人工智能的心理操控能力将越来越强大，最终或会演变为现代人逃避现实的情感替代品。而这种依赖关系潜藏着巨大风险！”以伴侣型人工智能软件“瑞普利卡”为例，为了提升收入，开发者会刻意诱导用户升级为付费版本，从而解锁亲密对话模式。最终，部分重度用户爱上了人工智能伴侣，甚至发展出病态的情感依恋。

| 爱上人工智能 |

2023年，比利时研究员皮埃尔因沉迷人工智能应用而轻生。美国14岁青少年休厄尔是人工智能角色扮演应用的付费用户，同样结束了自己年轻的生命。调查显示，他们都爱上了人工智能，为了和虚拟爱人永远相守而走上绝路。阿隆贝尔分析道：“即使没有爱上人工智能，现代人也已经习惯了这种即时响应、永不反驳、绝对顺从的交互模式。拟人化的人机关系是非常危险的。唯有直面现实阻力，我们才能真正获得成长。”

德维莱尔认为，“为了规避这类风险，当务之急是培养公众理性使用人工智能的能力。这也是为什么我为小学教师研发了‘儿童数字伦理教育课程包’。”人类学家皮克则预测了更严峻的未来：“未来社会或将分裂为两个群体，一类是受过良好教育、能够驾驭人工智能的人；另一类是完全被算法奴役、丧失了批判性思维的人。最可怕的是，过度依赖人工智能或会导致人类的认知能力持续退化，甚至出现代际递减危机。”

编辑：侯寅