“作网自缚”：数字社会的伦理困境

人工智能随着互联网深入我们的日常生活，甚至我们时常有被大数据、推荐算法“包围”的感觉。此外，人工智能也逐渐广泛应用于科研、政务、法律、商业等社会领域。这些发展也引发了不少对人工智能的伦理与社会影响的讨论，它们大多从现当代的伦理与政治关切出发，尤其关注人工智能是否对个人隐私和自由造成威胁，以及是否固化乃至加剧了社会不平等。这些问题固然重要，但是否是人工智能时代最核心的伦理困境呢？人工智能时代，人对美好生活的追求是不是还面对更根本的挑战？我们作为当局者，要理解身处其中的时代，或许需要借助思想史来获得清明的视野。

曾在美国天主教大学、深泉学院讲授哲学与人文，也是加州大学圣地亚哥分校实践伦理学研究院、乔治城大学法学院隐私与技术中心资深研究员的安东·巴尔巴- 凯（Antón Barba-Kay）的近著《作网自缚》（A Web o f OurOwn Making ：The Nature of DigitalFo rma t i on ， Cambr idg e Uni v e r s i t yPr e s s ， 2023，以下引此书，只标注页码）， 即是一本以思想史的纵深视野检视当下人工智能时代的作品。该书标题“A Web of OurOwn Making” 可直译为“自织罗网”，其中的“Web”一语双关，既是指互联网，又要传达互联网已成为束缚当代人的“罗网”。书的副标题是“数字形塑的本质”，突出了本书的主题：人工智能时代的互联网，通过我们生活中无处不在的屏幕，构成了一个令我们无所遁形的笼罩性的信息环境，形塑了我们每个人的欲望机制、行为方式乃至衡量自身价值的尺度。人类不仅是“自织罗网”，而且是“作网自缚”。

作者首先要挑战一种对互联网的浅薄理解，即认为它仅仅是外在的、我们可以随时轻易拿起放下的媒介工具。他指出，人类历史上主要的媒介都并非简简单单外在于人的工具。“虽然媒介不会决定它所承载的内容，但每种媒介都带有一种隐含的逻辑，它与某种特定的表达方式具有亲和性，从而为我们如何表达定调。”（25 页）吟游诗人需要持续地吸引听众，因此史诗中包含重复的程式、音乐节奏和引人入胜的英雄与传奇；书写文字则可以超脱语境，一方面使得历史记录成为可能，一方面则具有传达永恒、抽象真理的潜力；印刷术意味着非常广泛的读者，与两种具有普遍性的内容亲和：诉诸普遍理性的科学论文与诉诸人类共有情感的小说；而互联网终端电子产品的内容呈现与物理基础的分离（屏幕中的图像世界的极高自由度），数字服务的即时性、商业性，使得与数字互联网最亲和的内容就是为用户当前乃至瞬时的欲望所定制的推送。

每一种媒介工具以及它与特定内容的亲和会塑造特定的社会组织方式与人的生活方式。比如，书写的记录功能塑造了城市与帝国的行政，它“白纸黑字”的特点也意味着契约与权利的可能性（28 页）。数字互联网塑造的则是一个欲望被不断激发、满足、再激发、再满足的“无摩擦”的生活方式。“无摩擦”是本书描述数字时代的关键词，所谓无摩擦，就是指以互联网为媒介，我们每个人意志的贯彻、欲望的满足，既不受到物理条件的约束，也不受到“他人”的干扰。数字产品和互联网产品的核心设计理念就是随心所欲：一旦进入屏幕里的世界，我们的体验就与物理世界隔绝，而屏幕里的世界以直觉好用为目标，甚至屏幕的边缘都要做成不硌手的圆角，防止物理世界的棱角打断屏幕世界中的“丝滑”体验。

互联网也帮我们屏蔽了会与我们“摩擦”的人，甚至使任何性情乃至怪癖都在虚拟的社区中如鱼得水。在互联网上，即使偶遇话不投机者，不过互相贴上标签攻击嘲讽一番，一旦不爽则可以“退出会话”。这是一个看似无限互联、无限多样、无限开阔的社会，但实质上我们在屏幕的黑镜中只是照出我们自己欲望和意见的影子。与无摩擦的欲望满足的生活方式相对应的是一个每个人都只看到“我”的自恋社会。在人工智能时代，苹果的Siri、百度的小度、亚马逊的Alexa这些有着可爱名字的虚拟人格，以最服从、温和的方式像侍奉主人一样满足每一个用户的各式需求。这些体验不可避免会塑造我们对待生活与他人的态度：习惯了无摩擦的欲望满足和千依百顺的Alexa 的我们，如何还能坚持生活中道阻且长的追求，如何还能理解、尊重与我们不同的他人？在无摩擦的屏幕世界中我们才是最自如的，无怪乎我们总是忍不住点亮手边的屏幕，仿佛那才是家的灯火，一天之中会无数次“解锁”的是最温馨舒适的“家页面”（home page）。

至此我们可以理解书名的含义：互联网是人类的发明，是人造的技术，但是我们自己编织出来的这张“网”， 也网住了、勒住了每个人。这张网不仅是我们的外在困境，它还接入了我们的神经，牵引我们的行为；长进了我们的灵魂，改变了我们的人性。因此作者称其为“自然技术”（natural technology）：它收集、预测我们的欲望—“数据是灵魂的X光”（66 页，作者引自Franklin Foer，World without Mind： The ExistentialThreat of Big Tech ， Penguin，2017，p.201），进而强化、塑造我们的欲望。因此，当它将我们“想看”“想搜”“想买”的东西推送到眼前，我们点击时会感受到顺理成章的自然感。它是“自然技术”，因为它改造了人的“自然”，也因为被改造的人在这一技术中得到“为所欲为”的满意感，仿佛人的自然得到充分的满足。自然技术就是“它们给我们它们让我们觉得我们想要的”（66 页）。

对西方思想史熟稔于心的作者当然知道，“自然技术”是一个颇为悖谬的表述，自然秩序与人为技艺的区分是古希腊哲学以来的基本区分。当然，技艺也被认为是对自然的模仿，现代技术理想的奠基人培根，也认为科学技术是通过发现自然运作的方式来模拟或介入自然的运作，在这个意义上征服自然从而改善人类生活。作者通过“自然技术”这一表述所要突出的是，数字互联网技术从根本上改造（而非模仿）自然—人的自然（human nature），进而使得这一技术对于被改造过的人性来说是“自然而然”的，这是更为激进的“征服自然”的技术。

在思想史的一般叙事中，现代“自然”已经从古典的具有规范性的自然秩序与自然正当的生活方式“跌落”为人的激情与欲望。数字互联网的“自然技术”通过“技术”改造人仅剩的一点可以触及的“自然”，即自身之中的激情与欲望，可以说是技术对自然最后领地的征服。

作者分析数字互联网对人类处境以及人性本身的影响可谓鞭辟入里，引导读者更深入地思考时代与自身的处境。除此之外，他还给出了非常明确的规范性判断和伦理建议。他捕捉到人们对屏幕中的虚拟世界之外的“现实”的隐秘渴望：屏幕世界是视觉的世界，而无法“虚拟”的味觉和触觉所对应的食、色却占据了互联网内容的很大部分，可见对“现实”的渴望在数字互联网时代也不得不以互联网为载体得到表达。此外，颇为讽刺的是，互联网用户在各类社交平台上讨论、转发对沉迷社交网络的反思，各个平台也“好心”提醒大家节制地使用社交平台。卡尔·波兰尼曾观察到号称“自然自由”的资本主义市场机制其实与人真正自然的生产、生活方式相龃龉，这一市场机制的扩张因此会受到抵抗，形成市场扩张与社会自我保护“双向运动”的历史现象。巴尔巴- 凯对“自然技术”其实有相似的批判，他认为“自然技术”终究不能满足人对美好生活的追求，不过他描绘的是一个互联网和电子终端侵入生活每个角落，而对它的微弱抵抗也被它所吸收的图景：没有“双向运动”，只有深陷欲望陷阱和自恋旋涡中的“单向度的人”。因此，巴尔巴- 凯明确地呼吁：我们要停下，要对“自然技术”说“不”，要挣脱我们自己编织的这张深入灵魂的网。

相比于“自然技术”带来的即时欲望的反复满足，巴尔巴- 凯更认同长期的事业对人性的实现。对于个人来说，最长期的事业当然是古典伦理学中以一生为尺度对“人类幸福”的追求。巴尔巴- 凯感叹“人类幸福的问题变成了‘健康科学’，依据的标准是问卷中报告的‘身体的健康’和‘满足感’”。而“自然技术”带来的“数字满足”是对“瞬时偏好”的满足，与所有需要长期投入的活动，比如学习一门语言、一项运动、一种艺术相斥。他评论道：“所有有价值的实践都需要时间来训练、掌握。”这又一次表述了柏拉图所说的：“美好的事情都是艰难的。”“数字满足”使人难以投入“有价值”的、“美好”的事业，却使“最廉价的东西从未如此方便、可得、有趣”。

可以看到，数字互联网的“自然技术”是对现代人性论所理解的人性的极致满足：正是现代政治哲学、现代人性论的奠基人霍布斯颠覆了亚里士多德式“长期主义”的幸福理解，而将幸福重新定义为：“在获取时时欲求的事物方面持续不断的成功。”进而将“满意生活”作为政治社会的根本目标。无怪乎认同古典心性的巴尔巴- 凯对于数字互联网的“自然技术”深感忧虑。

人工智能时代的数字服务带来欲望的膨胀、催生激进排外的社群，事实上，这些也历来是现代政治哲学家致力解决的难题。正如巴尔巴- 凯所指出的，数字互联网服务加剧这些问题的根源是其突出的商业性。互联网“数字形塑”的目标由商业利益所决定：故步自封之人对特定服务、特定社群具有更强的“用户黏性”。然而，人工智能与数字互联网技术并非只能由商业公司所使用，“数字形塑”的方向或许还有其他的可能性。今天的数字信息环境显著地缺乏公共性，因此补充公共性就是一个可能的改善路径。不过，现代政治哲学对干预私人生活有深刻的戒惧，以至于人工智能技术所可能造成的对个人自由的减损是当下最常见的技术反思。巴尔巴- 凯的分析则揭示出，商业利益驱动的“数字形塑”所带来的欲望陷阱、自恋旋涡、“单向度的人”才是今天对个人自由、对人之可能性最实际的减损。因此，“社会”通过数字互联网进行一定程度的“广播”，构建具有一定公共性的信息环境实有必要。

此外，无论是古代的柏拉图、亚里士多德，还是现代的洛克、卢梭，无不认为良善的社会秩序需要公民教育作为支撑。他们无疑都会羡慕今天的“灵魂的X 光”技术，它带来的诊断可以帮助制定因材施教的教育方案。一个宽容平和的社会固然不需要通过互联网的媒介“形塑”千篇一律的灵魂，但是通过这一媒介将值得尊重的不同见解推送给固执己见者，将更广阔的世界展现给沉迷于虚拟世界的少年、陷溺于消费主义的青年，展开合理的公民教育，或可将人从欲望的必然性和狭隘视野的束缚中解放出来，引导人探寻真正的自由生活的可能性。人工智能与数字互联网技术为一种因材施教的公民教育提供了条件，不仅可能由此克服数字社会“作网自缚”的伦理困境，甚至为解决现代政治哲学所担忧的人性与社会难题提供一种新的可能性。