计算宣传的风险、机制与治理

人类社会正在进入全面数字化时代。新技术的发展深刻影响着各方面，新兴技术在政治领域的颠覆性影响尤为深远。数据和算法结合，实现对人类行为进行的计算和预测，算法政治通过个性化、靶向式的思想和行为诱导，具有了强大的舆论影响和塑造能力。借助于新技术的超级“计算”能力，人的“算计”能力也在上升，即技术影响民意，“计算”为“算计”服务。智能算法的精准度使得大规模的社会控制成为可能，制造了诸多现象级的事件。2016年美国总统大选中体现的算法技术操纵是重要实践样本。并且在2020年美国大选和2024年竞选备战，左右翼继续深化算法技术在政治中的作用。在其他政治事件中也发现有算法技术操纵舆论的痕迹，如英国脱欧。技术影响民意，导致社会共识撕裂，更会产生“民粹主义”的外溢效应，既是数字时代公共治理的重要内容，也是我国在新发展格局下面临的重要外部挑战，对其成因的讨论有助于对潜在风险进行准确研判和应对。

一、数字社会中民意操纵的风险和手段

公共舆论是政治学和公共管理学的重要议题，公共管理的目标是公共利益最大化，公共舆论是抽象公共利益的具象化。操纵公共舆论被认为危害政治稳定和公共安全，甚至带来“灾难性”的“否决政治”和政治僵局。技术操纵民意是数字时代的公共文化和公共理性所面临的严峻挑战，这种操纵会促进社会风险的放大，带来的公共危机事件，影响公共决策和公共管理绩效，带来国家治理的难题。

1.算法与政治日益结合，扰乱正常的舆论生态

随着人类社会逐步向智能化进化，人工智能技术是当前科技和信息革命的关键技术，是新一轮科技革命的主导技术。“数字社会”正成为人类社会发展的重要阶段。在数字社会中，数据和算法是重要决定因素，关系着公民的信息获取、资源分配、政治表决和社会公平正义等。如果数字技术和算法被操纵，会严重威胁社会公平正义。同时，算法和政治的结合正在成为影响政治生态的重要变量。算法的有益方面是为信息获取和沟通带来便利，但是其有害方面也较为突出，例如算法偏见、算法操纵，这些负面影响会影响公平正义，为治理带来风险。这些风险主要包括算法失灵带来的决策失灵和系统紊乱，也包括算法滥用带来的深层安全风险和社会风险，所以算法政治成为一个不容忽视的议题。

2.信息计算能力飞速提升，“加速”社会动员

“云计算”、“量子计算”和“5G”等新一代技术的出现，有效提升人类社会的信息处理与传输能力。社会进入一种动员“加速”和观念“极化”状态，数据、算法和算力正在建构数字社会的新规则，深刻地改变全球政治、经济和社会运行的发展模式。数字社会中，社交媒体彻底颠覆了公民对政治信息的获取方式和对特定政治议题的在线讨论。社交媒体逐步成为公民日常生活不可缺少的部分，从全球范围来看，个体花费在社交媒体的时间不断增加，并可能影响到群体的社会联系和集体行动。因此，社交媒体上成为舆论宣传的重要阵地，各种利益相关方都将重心转移到社交媒体，以期掌握重要的民意塑造渠道。

3.出现计算宣传新范式，精准化推送信息

借助新技术操纵民意的现象被学者提炼为“计算宣传”（Computational Propaganda）。计算宣传是最新的宣传范式，以社交媒体网络为载体，通过算法进行大数据分析，传播带有特定信息，以操纵公众舆论为目的的新型宣传方式。“计算宣传”技术被称为“以工业规模操纵民意”，数字社会的智能算法的精准度使得大规模的社会控制成为可能。“计算宣传”通过技术劫持民意，改变或干预政治运行规则，彻底变革了过去的低效率模式。通过技术手段与大数据分析，分析群体和个人的心理人格、兴趣爱好、信息偏好和行为特征，其优势在于克服了传统“大水漫灌式”宣传的不精准和低效率。通过推送策略提高用户数据和算法模型的预测力，在精准分类的基础上，将用户分割，用户收到的是“千人千面”的信息，从而能对选民个体施加针对性的政治影响。

二、数字化操纵政治舆论的运行要素和影响机制

智能算法所带来的精准推送，高效迅速地作用于人对公共事务的观念，使得技术手段影响民意的现象在程度和影响上超过历史任何时候。厘清计算宣传对政治舆论的影响机制是公共治理在数字社会的重要内容，主要分为运行要素和影响机制两个重要部分。

1.运行要素：“数据+算法+策略”

（1）数据集：全面化的数据搜集。构建数据集是指对用户微观行为数据进行多维度的与搜集、提取和挖掘（Data Mining），从大范围和多渠道的数据资料中挖掘深度信息，对可延展的数据进行储存和匹配。在云服务器上储存多样化的数据，数据结构包括文本形式数据、多媒体形式数据、时序格式数据、空间格式数据、交互关系数据等。数据来源可以是从数据公司购买，也可以在公共数据库中爬取，通过实时动态跟踪和自动化爬取来挖掘目标信息。

（2）算法集：场景化的用户画像。搜集数据的目的是进行分析和归纳，智能化的分析模型使得用户被置于不同的场景中进行画像，并将这种人像标签编码数字化和人格分类建模。人物画像主要基于心理测量学的人格模型，通过建立理论模型，结合机器学习反复验证模型有效性。根据详细的指标体系对用户的人格特诊和心理结构进行分类（例如可通过社交媒体的点赞数判断人格特质，可通过消费记录判断性别教育性取向，可通过社交平台发文的情感词判断实时心理状态），通过上千个数据点的采集，为某个用户建立完整的多层次的性格档案，详细记录其人格特质、兴趣点、日常生活轨迹、社交圈特点等。这些人格特质的用户档案再与长期的行为数据对比，就可以对用户的行为作出预测。这些基于心理特征的算法预测模型不断地与最新搜集的数据进行匹配和测试，使得模型的精准度和预测力不断提升。

（3）策略集：个性化的动员过程。在前两个步骤的基础上，计算宣传的最终目的是进行个性化的动员，数据集与算法集能有效压缩用户的反馈周期。通过推送策略提高用户数据和算法模型的预测力，能对选民个体施加针对性的政治影响。这与过去的信息推送方式完全不同，过去的信息动员是简单分类，所有用户获取的是同质化的信息;而计算宣传在精准分类的基础上，将用户分割，用户收到的是“千人千面”的信息。

2.影响机制：受众注意力的“嵌入—分层—同步”

计算宣传作用于舆论的机制就是利用算法技术的推荐机制、趋势机制和过滤机制，在社交媒体上传播误导性政治模因或者煽动性信息，通过控制政治讨论方向和塑造心理空间来进行舆论操纵。具体分为如下三个机制：

（1）算法通过推荐机制影响受众注意力的嵌入。注意力嵌入作为公共舆论塑造的重要开启阶段，指公众对于特定的公共事务的注意力被吸引和关注的过程。算法的推荐机制指算法在社交媒体空间为公众营造符合个人心理特质和兴趣点的拟态环境，使“模因”和信息能够敏捷而精准地引起公众响应，使其注意力被吸引到特定议题上。

（2）算法通过趋势机制影响受众注意力的分层。注意的分层是承接阶段，指对嵌入的注意力进行重要性和匹配度的排序，揭示某种观点的受重视程度和受众注意力集中程度。注意力分层强调算法影响舆论的聚焦强度。算法的趋势机制利用其可见性放大或者扩散含有政治模因的话题标签，引导讨论方向，使得某种政治模因成为趋势话题。这种分层机制利用算法的“可见性”（Visibility）和“不可见性”（Invisibility），为己方提供优势。

（3）算法通过过滤机制影响受众注意力的同步。注意力的同步指利用过滤机制引导受众进行有效的注意力分配投入，通过相互依赖和同步压力实现一定范围的注意力协同。借助社交媒体平台和同步压力，使得特定的政治模因被淹没，实现瓦解政治讨论和屏蔽、稀释特定政治信息的目的。注意力的同步是强化阶段，以保持注意力的持续性。

三、数字社会中计算宣传的风险治理

数字社会是国家利维坦和技术巨头并存的时代，治理数字社会中的数字技术是一个动态变化的政策响应过程。伴随社交媒体在信息生成、传播过程中重要性的不断提升，人工智能技术的广泛应用所引发的治理风险也随之增加，全球范围内不断涌现的相关案例体现了推进治理创新、加强监管政策紧迫性和必要性，对其治理主要体现在对智能算法的风险治理上。对于人工智能的治理已经将“集中治理”向“敏捷治理”模式发展，在治理中要注意创新发展和规制治理同步推进。

1.转变监管思路，成立专门机构进行治理

人类社会已经进入深度数字化转型时期，信息技术的发展与应用不仅在工具层面带来了产业变革，其更是推动人类社会加速进入数字社会形态。社交媒体机器人等计算宣传技术在当前的兴起与发展可被视为在此大背景下的必然结果。与数字化变革进程相伴随的，是不断涌现的治理挑战。正如前文实证研究所指出，社交媒体机器人在很短时间（往往超出人类反应时间）内的大规模涌现以及永不停息的信息生产与传播过程，注定了传统监管模式（例如撤热搜）的局限性。传统治理机制革新与调整并不能很好应对规模大、范围广、速度快的业态新特征，当前有必要改变传统的硬性监管模式（撤热搜、删帖等），推动社交媒体平台数据合理、规范开放，在兼顾平台商业秘密、用户隐私保护的同时，调动多方积极性实现协同治理。考虑到监管本身的专业性以及传统政府变革的渐进性，建议成立专门部门或独立机构以提供技术支撑和最佳治理实践作为参考，使传统政府部门仍然能够在较短时间内有效应用监管提升治理绩效。

2.加速推进监管科技的研究与应用，适应计算宣传的治理挑战

监管科技的研究与应用由此成为政府改革的必然选择。尤其是监管机构要建立与主流社交媒体平台的常态化风险信息交流机制，既主动发展立足于监管需求的监管科技，也推动社交媒体平台积极探索动态创新的监管科技。2020年美国大选所体现出的人工智能应用的新特点，表明了技术发展步伐已经远远超过治理制度的反应速度。社交媒体机器人的影响已经深入到微观层面，甚至已经融入了人类社会之中。面对此种挑战，借助不断发展的人工智能技术，同步更新对于社交媒体机器人行为规律的总结，进而实现精准识别、有效治理，几乎成为监管机构的唯一选择。考虑到社交媒体平台具有数据优势和技术优势，要求社交媒体积极探索、发展监管科技，仍然是监管机构必须要重视的治理手段。虽然此举可能加重平台负担，但伴随社交媒体平台影响力的不断扩大，其公共属性不断增强，进一步落实平台治理责任仍然是应对治理需求的重要方面。

3.加强虚假新闻内容治理，把好关键“入口”以尽量减少其不利影响

导致社会观点极化的还不仅仅是智能推送算法，人工智能技术推动下的社交媒体机器人，同样可能与极化观点相结合并最终影响微观层面的个体观点与行为。鉴于此，应在已有规范的基础上，重点关注带有强烈政治倾向的极端内容的扩散与传播，特别是在社交媒体机器人的推动下而可能影响舆论走向的极端内容，尽早发现、尽早引导，以确保清朗网络空间建设。所以应重视人工智能技术应用可能推动社会观点极化的可能性，重点关注带有强烈政治倾向的极端主义内容的扩散与传播，以确保清朗网络空间建设，我们有必要进一步加强社交媒体平台的虚假新闻治理，落实公众人物、网红大咖的言论责任，通过内容源头的治理以减少不良内容的传播，进而减少社交媒体机器人的“放大”效应。内容治理方面，当前更应该重视人工智能技术应用带来的新挑战，在新环境考验历史经验的有效性、推进历史经验的与时俱进。

4.重视公民教育，加强公众认知教育，提高公民的算法素养

应尽可能提升公众对于计算宣传和假新闻的认知水平和识别能力，以最大限度减少负面影响。计算宣传的最终影响者是公众，因此加强公众认知教育使之能够识别舆论诱导行为从而主动避免其误导影响，便成为了更为长远的政策需求。当前普遍应用的社交媒体机器人大都未使用特别复杂的算法模型，从账号注册时间、微博发布频率与时间、微博内容的相关性等方面均可较为容易地识别出机器人账号，因此加强公众认知教育并不意味着每个人都应成为计算机专家，而是更多强调培养公众批判意识，提高公民的算法素养，形成自主的判断和反思，从而最大限度减少负面影响。■

（陈长，中南大学马克思主义学院讲师/责编  张 栋）