算法推荐技术应用中的意识形态安全风险与防范策略

摘 要：作为数字时代主导信息传播的新技术——算法推荐技术正在重新建构社会的思想、行为和价值。算法推荐技术主导下的信息传播影响主流意识形态安全，其“去中心化”“信息茧房”“泛娱乐化”导致主流意识形态主导地位降低、内容供给不足、价值引领被消解、主流话语权被稀释。算法推荐技术应用的价值理性与工具理性失衡、网络平台及用户总体国家安全观的理念缺位、意识形态安全风险防范的监督和责任落实不足等多重因素导致了算法推荐技术应用中的意识形态安全风险。当前算法推荐技术应用中的意识形态安全风险防范应从以下四个方面予以改进：优化算法推荐下意识形态安全的技术支撑；增进社会公众对算法推荐技术的广泛了解和意识形态安全素养，特别是提升社会公众的总体国家安全观意识；健全算法推荐运行的意识形态安全监督制度；明确算法推荐技术运行中各主体的意识形态安全责任。

关键词：算法推荐；意识形态安全；价值引领；思想政治教育

基金项目：国家社会科学基金西部项目“刑事司法数据安全保护视域下缔结《联合国打击网络犯罪公约》研究”（23XFX024）；海南省法学会法学研究课题“海南自贸港安全治理现代化研究”（HNFX（WT）2023-01）；海南省高等学校科学研究项目“总体国家安全观融入海南自贸港建设的理路研究”（Hnky2024-80）。

［中图分类号］ G312 ［文章编号］ 1673-0186（2024）007-0086-013

［文献标识码］ A      ［DOI编码］ 10.19631/j.cnki.css.2024.007.006

习近平总书记指出：“能否做好意识形态工作，事关党的前途命运，事关国家长治久安，事关民族凝聚力和向心力。”［1］当前，大数据、人工智能、云计算等新兴科学技术迅猛发展并广泛应用。在新闻传播领域算法推荐技术逐渐成为新闻信息传播流通的主渠道，数字时代的主流意识形态安全由此面临冲击和严峻挑战［2］。习近平总书记强调，“在互联网这个战场上，我们能否顶得住、打得赢，直接关系我国意识形态安全和政权安全”［3］，“用主流价值导向驾驭‘算法’，全面提高舆论引导能力”［4］。如何驾驭算法推荐技术，科学有效地防范化解主流意识形态安全风险，让算法推荐技术服务于主流意识形态，无疑是数字时代亟须解决的现实课题。

围绕算法推荐技术与主流意识形态安全风险化解，学界已经开展了相关研究。但对于算法推荐技术是否会造成意识形态安全风险，已有研究的观点不尽相同。部分学者持乐观态度，认为算法推荐技术为主流意识形态传播提供了便利，极大地提升了传播效率，创新了信息传播的格局。也有部分学者持悲观态度，认为算法推荐技术广泛应用可能带来意识形态安全风险。随着算法推荐技术的广泛应用，其对意识形态安全、对思想政治教育的影响已逐渐成为学界共识。但综观已有研究成果，存在以下不足：一是交叉学科视角研究不足导致已有成果对现实的解释力不强。部分研究将算法推荐技术和意识形态安全风险割裂开来，分别从经济学、传播学、新闻学、政治学等视角对风险进行描述，鲜有从国家安全学等交叉学科视角出发，运用总体国家安全观的思维方法对算法推荐技术的适用主体、对象、范围、权责关系等加以审视［5］，进而有效解释算法推荐下的主流意识形态安全风险及其防范逻辑。二是微观视角研究不足导致对策的操作性不强。部分研究成果比较注重宏观层面的背景叙事，所提建议单纯聚焦于防范意识的提升，欠缺微观层面的制度策略建构和相应的可操作性分析。

算法推荐技术是运用人工智能让计算机不断进阶并寻找新数据以作出判断的技术［6］。作为数字时代主导信息传播的新技术，算法推荐技术运行的大致过程展开如下：先是搜集用户信息和相关数据，然后利用已有数据信息对用户进行“画像”，进而制定个性化推荐方案，精准推荐相关信息，增强用户黏性，最终形成稳定的用户群体实现相关的经济利益。算法推荐的过程也在传递思想观念，这个过程正在重新塑造社会整体的思想、行为和价值。立足学界已有研究，本文拟从总体国家安全观视域下意识形态安全的视角审视算法推荐技术，采用国家安全学交叉学科的方法分析算法推荐技术的本质，研判其对意识形态安全的影响，找寻算法推荐技术应用中意识形态安全风险的多维成因，探讨算法推荐视域下意识形态安全风险防范的策略，这对确保数字时代意识形态安全，引导算法推荐技术向有利于经济社会发展的方向转变，具有重要的理论意义和现实意义。

一、算法推荐技术的本质及其与意识形态安全的关联

算法推荐技术单纯作为技术本无可厚非，但其应用到具体社会生活场景特别是新闻传播领域后，通过搜集相关数据信息并分析，向用户精准推送阅读内容，这个过程事实上已经在主导新闻信息传播。而新闻信息传播是建构社会整体思想、行为及价值，影响意识形态安全的重要媒介。由此，从意识形态安全的角度分析其与算法推荐技术的关联尤为必要。

（一）算法推荐技术的本质及特征

1.算法推荐技术的本质

算法推荐技术的第一属性是技术属性，主要有基于内容、协同过滤和实时流行热度等不同类型［7］。算法推荐技术的基础是人工智能算法模型，人工智能算法模型的优势在于短时间内迅速完成相关指令，并为决策提供客观的数据参考。其瞬时化、数据化、精准化判断，可以最大限度提高社会资源整合与配置效率。人工智能算法模型的设计和构造并不是完全客观的，而是蕴含着鲜明的价值取舍和丰富的利益计算［8］。算法推送系统获取和推送内容并非来自人类“大脑”的主动选择，而是通过某种计算方式和计算模型去归纳用户的“兴趣偏向”，这种模型设计往往伴随着算法模型设计者的主观偏好。具体来说，在算法模型中选取何种用户画像、搜集用户浏览频次、计算用户浏览时长、有关权重的设定、数据的获取、变量的取用等都会彰显算法模型设计者的价值观念。所以，算法推荐技术并非仅仅是一套运算程序，而是“算法、团队及其新闻价值观在内的一整套系统架构”［9］。

因此，从表面上看，算法推荐技术作为一种信息推荐技术，仅仅是信息传播的手段。实质上，无论是依据内容推送、数据模型推送、协同过滤推送还是热点排行推送，算法推荐技术都是资本逻辑主导、蕴含模型设计者主观价值、控制利益分配、影响思想认知、进行价值引导的算法权力，是一种“以治理为目标的权力关系”［10］。这种权力与传统的显性的强制性权力不同，更多是一种新型的隐性的软性或柔性权力，表面上它不强迫别人做任何事情，但其利用信息技术迎合用户偏好在潜移默化中改变用户的思维认知和行为方式，从这个角度看，算法推荐技术具有鲜明的意识形态属性。

2.算法推荐信息的特征

算法推荐技术在新闻传媒领域的广泛应用促成了新闻信息传播的定制化、娱乐化、社交化、个性化、高效化、动态化，也改变了当前新闻信息传播的格局，深度影响着社会公众的认知。与传统媒体的信息传播不同，算法推荐技术主导下信息具有如下特征：

第一，算法推荐技术主导的信息更加高效化和多样化。数字时代的新闻信息是海量的，算法推荐技术依托人工智能和大数据技术快速搜集海量信息并分类、聚合，然后按照用户“需求”进行精准推荐，新闻信息传播的效率极大提升。不仅如此，与传统媒体相比，算法推荐信息还具有多样性。传统媒体如报纸受版面的限制，容纳的信息量非常有限，无法实现信息的多样化供给。而算法推荐技术可容纳整合的信息量是无限的，其信息涵盖了政治、经济、社会、文化、生态的方方面面，通过挖掘信息存量，拓展信息增量，实现了信息的多样化供给。

第二，算法推荐技术主导的信息更加个性化和娱乐化。传统媒体以“信息生产者”为本位，通过专业的编校进行严肃的新闻信息内容生产和传播，其所提供的信息内容是标准化产品，难以兼顾不同用户的个性化需求。算法推荐技术以“受众”为本位，在数据收集和分析的基础上，实现对用户的针对性推送，满足了不同用户群体的个性化需求。此外，算法推荐信息呈现出泛娱乐化的倾向。这主要是因为相比严肃的政治新闻等信息，娱乐信息、网络游戏更容易获得用户的青睐。随着算法推荐技术的逐渐成熟，国内外媒体为赢得更多用户关注获取流量，不断加大娱乐信息的投送数量以满足多数用户群体的需求，泛娱乐化问题不可避免地出现了。

第三，算法推荐技术主导的信息更加动态化和社交化。传统媒体的信息生产流程较为复杂，导致社会公众获取新闻信息的周期相对较长，时效性相对较弱。算法推荐技术的广泛应用实现了新闻信息的实时更新和动态传递。不仅如此，当前的算法推荐技术还实现了与用户社交数据的高度关联，用户在检索新闻信息时，网络平台会优先呈送关联用户浏览的内容及看法。由此，算法推荐技术实现了新闻信息传播与社交圈层的紧密对接，整体上呈现出社交化、互动化的特征。

综上，相较于传统媒体，算法推荐技术在新闻信息传播领域所呈现出的新特征使“人找数据”转变为“数据找人”，信息的“供—需”结构发生了重大变化，这个变化本身蕴含了一系列风险和隐患，需要加以审视。

（二）算法推荐技术与意识形态安全的关联

习近平总书记指出：“意识形态关乎旗帜、关乎道路、关乎国家政治安全。”［11］在总体国家安全观视域下，意识形态安全是文化安全的重要内容［12］，也是国家安全体系的重要组成部分。意识形态是指一套关于社会、政治、经济、文化等领域的价值观、信念、观点和理念的体系。它影响人们对世界的认知、价值判断和行为选择，对个人和群体的思想和行动产生深远影响。所以，主流意识形态安全不仅关乎个人价值观的形成，更关乎社会秩序和国家安全。意识形态安全一旦发生风险，很可能引发价值紊乱、秩序混乱、信仰崩塌的严重后果。新闻信息传播与意识形态的塑造之间存在非常紧密的联系。通常来说，新闻信息传播主要通过凝聚价值共识、引领正向价值、塑造社会心态等途径形塑主流意识形态。正因如此，法兰克福学派认为，媒介即意识形态［13］。马克思主义也将大众传播媒介视为上层建筑的重要组成部分［14］。数字时代算法推荐技术的广泛应用，使社会公众面临多元文化思潮的不断冲击，本土文化和外来文化、传统文化和现代文化冲突交融，导致意识形态安全面临一定风险，主流意识形态的政治认同和教化功能难以有效发挥。

算法推荐技术应用中的意识形态安全风险主要表现在两个方面：第一，信息传播更加隐匿，改变了意识形态阵地建设和主流价值观念传播的场域。政治传统的意识形态阵地建设和信息传播主要通过传统媒体在现实空间进行，依靠意识形态思想政治教育进行信息传递，进而积极改变人脑中思想政治素养的具体存在状态［15］。算法推荐技术将意识形态之间的较量拓展至虚拟空间，行为更加隐匿，方法更加多元，给意识形态安全造成了很大风险。第二，传播主体和渠道更加多元，改变了意识形态塑造的方式。传统的信息传播模式以信息生产者为主导，以信息传播渠道为依托。传统媒体掌握信息生产和渠道就可以实现信息传播进而实现思想引领和价值塑造。算法推荐技术改变了意识形态传播模式，信息传播由信息生产者为主导变为以算法逻辑为主导，以受众为本位，信息传播主体和传播渠道都更加多元，错误思想和言论很容易“孕育”甚至演化为失控的网络舆情，这对意识形态安全风险化解提出了严峻挑战。

二、算法推荐技术应用中意识形态安全的风险研判

习近平总书记强调，要“建设具有强大凝聚力和引领力的社会主义意识形态”［16］。主流意识形态在社会和政治领域起着非常重要的作用，它可以塑造和影响一个社会的价值观、政策制定、制度安排和社会行动。作为新兴的信息传播技术，算法推荐技术对主流意识形态安全提出了严峻挑战，算法推荐技术的广泛应用引起新闻信息传播的“去中心化”“信息茧房”“泛娱乐化”等现象，导致主流意识形态的主导地位降低、内容传播不力、价值引领不强。

（一）“去中心化”导致主流意识形态的主导地位降低

一般来说，“去中心化”是指在一个系统或组织中，权力、决策和控制不集中于单一的中央实体或机构，而是分散到多个参与者之间。主流意识形态的建构是一个复杂且长期的系统过程，需要思想政治教育根据教育对象的特点，通过新闻信息传播因时、因地、因势开展教育活动，不断增进社会公众对主流意识形态的认同感。算法推荐技术使新闻信息传播“去中心化”，这是因为“在能够轻易获得信息的情况下，人们通常喜欢简短、支离破碎而又令人愉快的内容”［17］。这种“去中心化”的信息传播方式导致主流意识形态的主导地位降低，具体体现在以下两个方面：