加强国际治理与合作 推动人工智能向善向好

习近平总书记在4月25日中共中央政治局第二十次集体学习时指出：“人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变人类生产生活方式。”人工智能（AI）技术极大解放了人的脑力，从根本上改变着知识生产范式，正以前所未有的速度和规模重塑人类文明图景，深刻影响着世界经济、政治、军事格局和人类社会发展，日益得到各国政府、产业界和学术界的高度关注。相比之下，人工智能治理体系的适应速度明显滞后于技术的突破性进展，人工智能国际治理问题日益突出。为此，我们需要准确把握全球人工智能发展态势，科学研判人工智能发展的风险挑战，加强国际治理与合作，推动人工智能向善向好、造福人类。

一、准确把握全球人工智能发展态势

从1956年诞生至今，人工智能已走过起起伏伏近70年的发展历程。近年来，以ChatGPT、Sora、DeepSeek等为代表的生成式人工智能技术持续取得重要突破，在全球掀起了人工智能的新一轮热潮。整体上看，人工智能发展呈现以下基本态势：

（一）专用人工智能日趋成熟。专用人工智能是指面向特定领域的人工智能，其任务单一、需求明确、应用边界清晰，因此形成了人工智能领域的单点突破，在局部智能水平的单项测试中可以超越人类智能。例如，人脸、虹膜、步态等生物特征可实现高精度高效率识别，并成功应用于执法、民政、救灾等多个领域；人工智能辅助诊疗系统已覆盖3000多种常见病，在27000多家基层医疗机构得到应用；特斯拉全自动驾驶实现了第一个端到端人工智能自动驾驶；等等。

（二）大模型技术取得重要突破。大模型是指具有超大规模参数和复杂计算结构的机器学习模型。作为当前人工智能领域最受关注的方向，大模型日益成为战略性基础设施，借助“预训练大模型+下游任务微调”的开发范式，可以有效缩减训练成本和开发周期，实现规模化生产。自2022年底ChatGPT发布以来，大模型进入爆发期，具备了多模态理解与多类型内容生成能力。2025年初，DeepSeek-R1横空出世，以开源创新、算力成本低等优势，使大模型真正“飞入寻常百姓家”。

（三）生成式人工智能焕发生机。生成式人工智能是指基于算法、模型、规则自动生成文本、图片、声音、视频、代码等内容的人工智能技术。相比于只能根据输入的数据进行处理的传统人工智能系统，生成式人工智能系统能够自己创造出新的内容。在大模型技术驱动下，生成式人工智能快速发展，广泛应用于专业问答、编程、诗歌创作、作画等方面，且生成能力十分强大，引起行业内的极大震动。例如，ChatGPT-4 Turbo入选《自然》杂志2023年度十大人物，这是计算机程序有史以来第一次入选。

（四）具身智能与人形机器人备受关注。具身智能是指物理实体通过与外部环境持续交互而获得的不断增长的智能，它可以突破传统人工智能依赖“算力+数据”堆砌、场景适应性不足的局限，以更接近生物智能的进化逻辑，为探索人类智能形成机制提供新视角，为推动科技成果向现实生产力转化提供强引擎。人形机器人作为具身智能的重要载体，为研究智能的涌现提供了理想平台。如今，具身智能研究已步入快车道，将通过“数据—算法—载体”的闭环迭代，进一步驱动人工智能从虚拟认知向实体智能的范式跃迁。

（五）人工智能驱动的科学研究快速发展。过去几百年，科学研究大体经过了实验观察、理论分析、计算模拟和数据密集型范式的变革。当前，人工智能驱动的科学研究正在引领新一轮变革，将彻底改变科学发现的方式。例如，AlphaFold2可以精准预测蛋白质的3D结构，AlphaFold3则以前所未有的精度预测所有生命分子的结构和相互作用，为生物医学研究带来了革命性变化。此外，人工智能已广泛应用于疫苗研发、芯片设计、气象预测等众多领域。

（六）人工智能加速赋能千行百业。人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变着人类的生产生活方式。一方面，人工智能正加速与实体经济深度融合、提升社会生产力，推动传统产业转型升级、促进新兴产业蓬勃发展、培育未来产业新高地，驱动“无人经济”快速发展。另一方面，人工智能在交通、家居、教育、医疗、养老等社会生活领域产生重要影响，为促进社会公平、增进民生福祉、提升人类生活品质和幸福感提供了更优方案。

（七）人工智能的社会影响日益凸显。伴随着人工智能的快速发展，其产生的社会影响也是多元的、全方位的。一方面，人工智能带来许多正面效应，如拉动经济、服务民生、造福社会；另一方面，人工智能也带来很多社会问题，如安全失控、法律失准、伦理失常、隐私失密等。例如，滥用生成式人工智能技术制作虚假信息，进行诋毁抹黑、敲诈勒索、恶意攻击等，带来极大的安全隐患；智能设备和算法对于个人隐私的发掘分析能力远超以往技术，行踪轨迹、消费数据、生物特征等个人信息和隐私安全问题日趋复杂，防范难度大大增加。

（八）通用人工智能任重道远。通用人工智能旨在研制出具有与人类相同智能水平乃至超过人类智能水平的机器，甚至可能使机器拥有自主意识。近年来，随着神经网络模型能力的不断提升，公众对人工智能产生过高期望，一些专家学者对通用人工智能的发展提出了一些不切实际的预测。当下人工智能距离人类智能水平还有巨大差距，在语义理解、推理、规划、泛化和持续学习等方面仍存在明显不足，还缺少对客观物理世界时空运行规律的本质理解，缺乏深层共情能力。人类距离实现真正的通用人工智能仍有很长的路要走。

二、科学研判人工智能发展的风险挑战

习近平总书记指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”人工智能在加速推进数字世界和物理世界深度融合的同时，也在一定程度上模糊了虚与实的边界，其固有的不确定性、不透明性、不可解释性逐渐凸显，将给人类社会带来诸多风险挑战。

（一）对国家安全的风险挑战。一是意识形态安全风险。历史虚无主义、民粹主义等错误思潮会借助算法推荐技术在网络空间不断扩张，对意识形态安全产生冲击。二是国家治理环境恶化风险。人工智能可以通过深度伪造技术制造虚假信息、混淆公众认知，也会运用精准算法传播加剧“信息茧房”效应、产生舆论操控，导致国家解释权趋弱。三是军事安全风险。军事智能化一旦形成技术“代差”，技术强国对发展中国家实施政治讹诈和技术突袭的可能性将增大。人工智能技术在核、太空等领域的跨域军事应用也将给军事安全带来极大风险。

（二）对产业发展的风险挑战。人工智能技术能力与产品形态的成熟、核心场景的确定、产业的融合程度以及行业的发展息息相关，并非靠短期大量的资金和资源投入就能达到成效，要实现成熟的商业应用，道路还很漫长。以ChatGPT为例，其初始投入成本约8亿美元，每日电费约5万美元，模型每次回答的成本约几美分。面对如此高昂的成本，一方面，资源垄断问题日益突出，科技巨头形成“数字霸权”，不断挤压中小企业的生存空间。另一方面，很多企业和创业团队一哄而上，部分国家政府也不甘落后，盲目跟风导致人工智能无序发展和资源浪费。此外，部分企业利用人工智能热点进行投机炒作，将加剧市场泡沫化风险。

（三）对社会治理的风险挑战。一是数据隐私泄露风险。人工智能的技术特性和应用场景决定了其在应用中极易获取大量隐私信息，可能在用户不知情的情况下收集行踪轨迹、浏览记录、消费数据、生物特征等，使个人信息和隐私保护受到严峻挑战。二是恶意攻击风险。不法分子利用深度伪造技术制作虚假视频、图像，实施敲诈勒索、恶意攻击等活动，对社会安全稳定、个人名誉和财产等造成威胁。三是信息污染风险。人工智能技术滥用使互联网中的虚假信息和低质内容日益泛滥，这类信息的“污染”会使模型对现实的认知产生扭曲，导致结果模型出现不可逆的缺陷。

（四）对伦理和法律的风险挑战。一是引起社会就业结构的重大改变。人工智能已可以自主完成高难度的复杂工作，极大降低内容生产和交互的门槛与成本，各行业人员都面临着人工智能的劳动替代风险，可能引发失业恐慌和社会秩序混乱。行业边界将进一步模糊，颠覆长期以来形成的社会分工体系。二是算法偏差和机器歧视加剧。人工智能算法在透明度、鲁棒性等方面本身就存在局限，将会加剧生成内容的偏见或歧视，放大社会不公。三是触发科技伦理问题。数字孪生、脑机接口和人机共生等科技伦理问题涉及人类生命安全、个人隐私安全、主体责任归属、社会公平公正等诸多风险，人形机器人的大范围应用也将给以人类为唯一主体的社会体系带来很多新问题，例如“AI伴侣”的法律地位问题。四是法律体系面临失效风险。人工智能系统的法律主体资格存疑、权利主体属性不明确，将产生传统法律难以规制的问题。例如人工智能创作内容的知识产权难以界定，无人驾驶系统的交通法规仍需完善，人工智能造成损失的责任难以划定，等等。

三、加快推进人工智能国际治理与合作

近年来，全球人工智能治理的主体和结构愈发多元化，呈现出全领域、多层级、广合作的总体特点。各项倡议、立法、规则呈井喷式涌现，覆盖政治、经济、法律、医疗、社会生活等各领域。在联合国框架下，各国及各类国际组织积极实施人工智能治理和监管，行业组织和企业也参与推动自律自治，地区合作、多边合作、双边合作持续加强。2023年，中国发布《全球人工智能治理倡议》，就各方普遍关切的人工智能发展与治理问题提出建设性解决思路，为相关国际讨论和规则制定提供了蓝本，体现了中国的大国责任担当。

然而，当前人工智能国际治理仍面临多重挑战。一是缺乏统一的全球治理框架。各国在重大问题上还缺乏共识，很多法规差异难以协调，非约束性的国际倡议效力有限，具有实质性约束力的治理规则构建尚需时日。二是各国利益诉求各异。发达经济体更关注技术安全与伦理问题，新兴经济体和其他经济体则强调经济与社会发展机遇，治理权力的不平衡进一步加剧了关注点的分化。三是治理碎片化。人工智能技术发展的快速性与治理体系构建的滞后性之间存在矛盾，静态法规难以应对动态风险，造成治理框架分散、效率低下。

习近平主席强调，坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理。具体而言，加快推进人工智能国际治理与合作，需要在以下四个方面着重突破：