我国应用ChatGPT辅助行政决策算法危机治理的探索与思考

[摘要]探讨ChatGPT辅助行政决策的可能性，提前预判其可能带来的危机并提出相应的治理对策。以文献分析为方法，就ChatGPT辅助行政决策进行了可能性分析，并基于其技术特性探讨ChatGPT辅助行政决策可能导致的算法危机。ChatGPT存在双面性，可能引发行政决策的安全性、科学性与公正性危机，因此要从多个层面防范其应用于行政决策当中的风险。为了规范ChatGPT在实际中的运用，要从强化ChatGPT辅助行政决策的监督机制、优化ChatGPT辅助行政决策的技术保障机制、搭建ChatGPT辅助行政决策的主体机制三个方面着手，引导ChatGPT辅助行政决策走上良性健康的发展轨道。

[关键词]ChatGPT；生成式人工智能；行政决策；数字政府；算法危机

一、 引言

十九届四中全会提出，“建立健全运用互联网、高新科技手段、生成式人工智能等技术手段进行行政管理的制度规则”1，数字政府建设的持续推进需要不断利用新的技术革命成果。2022年11月Open AI公司推出聊天机器人程序ChatGPT引起了广泛的社会关注。根据国家互联网信息办公室于2023年4月11日发布的关于《生成式人工智能服务管理办法（征求意见稿）》第二条的规定，所谓生成式人工智能，是指生成文本、图片、声音、视频等内容技术以回应提示工程的一种人工智能系统。从目前来看，学界关于生成式人工智能的探讨主要围绕两大方面：一是生成式人工智能在各行各业的应用前景，目前讨论最多的是生成式人工智为教育领域革新创造的机遇[1-3]；二是生成式人工智能的应用可能引发的风险，主要有著作权风险[4]、国家安全风险[5]、法律规制风险[6-7]等等。总体来看，目前关于生成式人工智能的研究较少关注到行政治理领域，部分研究数字政府建设与ChatGPT相结合的文献虽对此有所涉及2，但是未深入至行政决策的各个子系统当中。实际上，行政决策内部程序控制严格，以信息为手段，行政决策可分为几个不同的部分，每个部分都可能涉及对信息的收集、分析与运用，而ChatGPT正是一个超强的人工智能算法系统，其所有的外部功能表现实质上都可归于其背后对数据或信息的强大分析能力。在此背景下，探讨如何利用ChatGPT辅助行政决策，为新时代国家治理现代化提供最新的技术驱动具有重要意义。

二、 ChatGPT辅助行政决策的理论逻辑

从系统论的角度看，现代行政决策系统包括四个子系统，即行政决策中枢系统、行政决策咨询系统、行政决策信息系统和行政决策审批控制系统，其最终目标旨在提升政府行政决策质效、实现社会公共利益。随着以ChatGPT为代表的生成式人工智能的迭代与完善，数字技术在辅助行政裁量、收集决策信息、配置行政资源等方面为算法行政决策的发展提供了新视野。

1. ChatGPT优化行政决策中枢系统的运行

ChatGPT的应用有助于提升行政决策中枢系统运行的科学性。行政决策中枢系统在行政决策过程中居于核心地位，主要负责识别决策内容，确定决策过程的可行性和可能性，明确决策目标，组织、协调决策过程的展开和决策方案的设计，评估、选择决策方案以及监督决策执行。行政决策中枢系统类似于人类的“大脑”，负责领导、组织、协调行政决策的全过程，而ChatGPT具有高度的拟人性，能够在配合行政决策中枢系统运行的同时提升其科学化程度。

一方面，ChatGPT能够提升行政决策程序的科学性。在传统的行政决策活动中，决策主体需要搜集大量相关信息，经过反复推理与论证才能作出决策。并且，由于决策主体认知差异、主观偏好和程序差异等因素，行政决策程序繁冗复杂，决策内容也极易带有主观色彩。ChatGPT能够利用预训练语言模型（LM）生成初始文本，再通过数据训练打分模型（RM）对其进行判别、标注，以模型回答和人类满意程度为内容对标注语料进行微调，进而使用强化学习（RL）以打分模型为借力继续优化初始语言模型，最终输出较为精准且符合人类要求的文本内容。另一方面，ChatGPT能够实现行政决策内容的科学性。ChatGPT拥有海量的预训练数据库，GPT-3 的参数量为 1750 亿个，GPT-4的参数量增加至约一万亿个[8]。相较于GPT-3，GPT-4的数据库规模更大，可参考的数据信息涵盖范围更广。并且，ChatGPT依托于大型语言模型（LLM），能够进行自主学习，依托于底层的预训练数据库对决策问题进行系统性认识，并基于已有的人类偏好数据和关联政务数据科学确认决策目标，依据打分模型进行微调，以模型对生成文本的评判能力为评估决策方案提供数据支撑。

2. ChatGPT优化行政决策咨询系统的运行

ChatGPT的应用有助于提高行政决策咨询系统运行的民主性。行政决策咨询系统可以理解为行政决策智库，系统组成人员主要是专门领域的专家学者，其以自身科学的专业知识、专业技能以及丰富的实践经验为行政决策主体提供智识支持，为制定和优化行政决策方案提供专业建议和理论参考。民主性是重大行政决策程序的价值目标之一[9]，是维护行政相对人利益和社会公共利益的重要手段。

一方面，ChatGPT能够有效提升咨询系统的独立性，减少政府部门和行政机制的干预。ChatGPT具有一定的技术门槛，在GPT-3模型中包括96层Transformer解码器，以下一个词预测的方式进行无监督生成式预训练，以此获得文本自动生成能力[10]。在ChatGPT的算法设计架构中，政府部门和旧有的行政体制无法从中途对行政咨询过程进行不当干预，在一定程度上保证了咨询系统的独立性和自主性。另一方面，ChatGPT能够增强行政咨询过程的交互性，保证智库人员的民主参与。行政机关可以借助Codex模型生成代码，通过Insert&Edit模型对已生成的文本内容进行插入或修改，智库人员可以借助InstructGPT模型进行微调，生成合理性程度更高的答案。相较于现有的智能平台和智能对话方式，ChatGPT的拟人化程度更高，更能够增强行政机关和智库人员参与咨询的具身化体验。

3. ChatGPT优化行政决策信息系统的运行

ChatGPT的应用能够有效提升行政决策信息系统运行的准确性。行政决策信息系统的主要功能是为决策收集、储存、加工、传递信息，为决策方案的制定和决策结果的产生提供信息基础。首先，在信息输入阶段，ChatGPT能够打破“信息孤岛”，实现数据信息的共建共享。在政务服务过程中，各层级、各区域部门之间的信息来源互相无关联、信息平台之间保持独立的信息库，在信息处理方面联动性较差，加上有关信息的运用只能在单一的平台中应用，从而使信息不能够被互相传递，进而出现“信息孤岛”[11]。ChatGPT的介入能够有效破除旧有技术系统的掣肘，将政务数据、社会数据和网络数据纳入预训练数据库，以信息共享机制和通过一站式服务平台为行政决策提供信息数据集参考。其次，在信息处理阶段，ChatGPT能够凭借强大的算力提升信息处理速度。ChatGPT使用GPT-3.5模型训练的总算力消耗约3640 PF-days（即按每秒一千万亿次计算，运行3640天）[12]，相较于旧有的信息处理系统而言，拥有更强的算力和更快的数据处理速度。在超级算力加持而产生的量变下，ChatGPT拥有更优质的信息处理能力和更强大的创造能力[13]。最后，在信息输出阶段，ChatGPT的上下文关联能力和预测能力能够提高信息输出能力和决策预测能力。GPT-3模型利用Zero-Shot、One-Shot和Few-Shot，可以理解自然语言并据此进行推理，进而诱导模型输出答案[10]。当前，基于信息处理任务类型的不同，上述模型的应用场域和输出结果也存在差异。ChatGPT基于Transformer这一生成式预训练转换器，在决策信息处理过程中，能够利用解码器（Decoder）根据已有的信息参数预测数据的变化态势和决策结果，从而提升信息输出的效率和可用性。

4. ChatGPT优化行政决策审批控制系统的运行

ChatGPT的应用有助于实现行政决策审批控制系统运行的高效性。行政决策审批控制系统是行政决策的终端子系统，其主要负责依法对行政决策的有效性进行审查批准。传统的行政决策审批活动涉及多个行政机关，且各个行政机关的决策审批程序存在差异，以及相关行政机关的审批权限受到严格限制，上述因素严重降低了行政决策审批效率和行政决策执行效率。伴随民主政治和公共治理需求的变化，我国行政决策模式逐渐由管理主义模式向参与式治理模式转变[14]。

一方面，ChatGPT能够辅助简化行政决策审批流程，缩短审批时间，提高审批效率。在传统行政活动中，信息不对称和信息沟通不畅成为影响行政治理效能的重要因素。伴随算法自动化决策的产生，上述问题得到有效缓解，政府权力运行的广度、深度和密度得到增强[15]。例如，上海市实施“一网通办”改革后，接入事项3600项，累计办件量达3.07亿，让三省一市企业群众享受到了“同城服务”1。顺应这一发展趋势，运用ChatGPT将进一步提升政府服务效率。ChatGPT能够实现信息共享，有助于行政决策审批主体与审批事项相关主体进行沟通、协调；同时，ChatGPT具备自然语言理解与生成能力、上下文学习能力，能够不受物理时间与空间的限制，输出符合人类需要的高质量结果，在一站式服务平台中加快完成行政决策审批流程。另一方面，ChatGPT能够增强行政决策审批的民主化参与，提高执行效率。InstructGPT模型相较于Transformer或GPT-3，具备更加自然、真实、中立的内容生成特性[10]。依托该模型，行政决策审批内容能够在最小程度上受到审批主体的主观偏好等因素的不当袭扰。同时，利用ChatGPT的高度拟人性和交互性，可以增强社会公众对行政决策的认知和理解，促进行政决策的贯彻执行。

三、 ChatGPT辅助行政决策的算法危机

ChatGPT等自然语言处理模型的出现，为决策者提供了强大的信息抓取和处理能力。然而这种强大的能力也引发了行政决策的算法危机。具体而言，可以分为三方面的危机：决策的安全性危机、决策的科学性危机以及决策的公正性危机。

1. ChatGPT强大的信息抓取力引发决策的安全性危机

在使用ChatGPT进行决策辅助的过程中，由于ChatGPT抓取信息的能力十分强大，可能导致信息过度收集、信息产生泄露等安全性危机，具体如下：

ChatGPT辅助行政决策时具有信息泄露的风险。ChatGPT在处理信息时，需要从各种数据源中抓取和分析大量的信息，同时这种信息抓取的过程也带来了信息泄露的风险[16]。如果未能妥善保护抓取的信息，可能会被未经授权的人员访问、使用或泄露，从而导致决策的隐私和安全受到威胁。当代的信息环境智能化与自动化高度结合，从而加大了ChatGPT在数据过程中的安全风险，包括数据来源、提取、展示等[17]。首先，关于数据来源方面，只要用户启用了ChatGPT的应用，就会产生公司敏感信息方面的痕迹也就可能面临数据泄露的风险。假如这些敏感信息源属于国家级别，泄密的可能性将会是100%。比如据《Economist》报导，三星半导体员工疑似因使用ChatGPT，导致在三起不同事件中泄露公司机密。调查原因皆因员工将公司机密资讯输入ChatGPT而导致。其次，在数据提取的阶段，ChatGPT利用大数据功能将所录入的数据信息存储至系统内再在需要使用的时候进行随时提取，这就有可能导致在录入之时已经被相关用户所获取，从而导致这种非授权共享出现数据泄露的风险。所以不要把ChatGPT当作可靠的“机器人”。例如，亚马逊公司律师曾警告员工在进行与数据有关联的工作时不使用ChatGPT，原因在于ChatGPT会将接触到的录入数据视为训练信息，进而导致数据被动泄密的可能性以及削弱公司的核心竞争力。最后，ChatGPT在辅助行政决策时会受到信息虚假的干扰。由于ChatGPT的信息抓取能力强大，它可能会从各种数据源中抓取虚假或失实的信息，并在决策过程中误导决策者。虚假信息的干扰可能导致决策的错误和不准确，进而影响决策的结果和效果[18]。ChatGPT的特性中最突出的就是与高含金量伪造技术的结合。这种高含金量伪造技术整合文本、音频、视频等格式进行联想、模仿与学习功能进而产出以假乱真的政府文书，通过网络载体进行误导，引发舆情。假如心术不正的人利用ChatGPT现有的强大数据功能将其与高含金量伪造技术整合使用，轻则影响个人的信息安全问题，重则带来政治、经济、法律、社会等多领域的危害。比如，在学术领域，抄袭率是一项非常重要的指标，假如大量的学生只是把ChatGPT当作写作论文的工具，那么学术造假现象会越来越严重，不仅影响学术论文的质量，而且带来的潜在性社会风气危害是必然的，而且将会是巨大的。