生成式人工智能辅助行政决策的算法隐患及其治理路径

摘要：生成式人工智能（Generative AI）作为最新一代的人工智能技术，一经问世便引发各行各业的关注和担忧。就行政决策而言，生成式人工智能能够帮助行政主体实施社会数据采集分析、行为预测、方案演绎，进而辅助行政决策的信息采集、关键问题识别以及决策方案的最优化实现。但是，在生成式人工智能参与行政决策的三个阶段也存在不同程度的隐患：训练数据库的片面性可能会导致信息的不公正、对技术的过度依赖可能会导致安全风险、算法黑箱可能会引发公众对行政决策透明性的质疑。若要最大限度发挥生成式人工智能辅助行政决策的积极作用，应当强化算法歧视治理、明确技术的辅助性地位、增强算法的参与性，以此规范生成式人工智能在行政决策中的作用，促进生成式人工智能与行政决策的深度融合。

关键词：生成式人工智能；行政决策；算法；法律治理

中图分类号：D63    文献标识码：A    文章编号：1004-3160（2024）01-0099-13

生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。与以往的人工智能技术不同，生成式人工智能不仅可以提取信息，还可以利用现有的数字内容检查训练实例创建人工遗迹并学习其模式和分布[1]。人工智能在算力建设、电子政务、智慧城市、“互联网+政务服务”等多个方面，全面助推数字政府建设。可以预见，生成式人工智能这一更先进的技术将在未来广泛深入地参与到政府的行政决策中。2023年8月31日，百度、字节、商汤、中国科学院旗下紫东太初、百川智能、智谱华章等8家企业和机构的大模型产品已经首批通过《生成式人工智能服务管理暂行办法》备案，可正式上线面向公众提供服务[3]。随着生成式人工智能技术的展开，生成式人工智能辅助行政决策必将受到行政部门的关注，生成式人工智能辅助行政决策的形态和运用将日益丰富[4]。此外，生成式人工智能辅助行政决策也将带来一系列问题，需要加强法律规制。虽然有研究提及人工智能与行政决策的耦合，但至今为止缺乏系统、深入、全面的思考[5]。回顾研究传统人工智能辅助行政决策的成果可以发现，诸多研究侧重探讨传统法律制度受到人工智能的挑战性影响、人工智能时代法律制度转型的趋势、“法律终结”等等[6]，但这一思维已经不能适应生成式人工智能时代的需求。因此，我们应对生成式人工智能辅助行政决策进行前瞻性思考，从维护人民合法权益的方向思考其带来的算法隐患，同时寻找规制路径。值得注意的是，生成式人工智能的算法隐患与数据滥用问题引起了社会各方的担忧。为此，2023年7月10日，国家互联网信息办公室联合国家发展改革委、教育部等七部门发布《生成式人工智能服务管理暂行办法》（以下简称《办法》）。本文在分析生成式人工智能算法对依法行政的作用以及总结生成式人工智能算法植入行政法治领域边界的基础上，结合《办法》的相关规定，以期更好地提出解决生成式人工智能辅助行政决策算法隐患的前瞻性建议。

一、生成式人工智能辅助行政决策的功能

行政决策从启动到方案的出台，大概经历三个阶段，即信息的收集阶段、决策关键问题的识别阶段以及决策方案的最终出台。生成式人工智能在上述三个阶段都能对行政决策起到辅助作用。

（一）确保行政决策信息准确全面

信息的收集是行政决策的第一阶段，这一阶段也可以被视为科学决策的核心和前提，只有通过对行政决策信息的收集，才能够为行政决策的展开提供足量、有效的信息，从而为决策方案的最终确定提供现实依据。因此，行政决策的展开首先需要有信息支撑，庞大而有效的信息是保证行政决策具有正确性和科学性的前提。传统行政决策在信息的收集和处理上比较受限，主要的、核心的信息只能通过人工采集。面对海量的信息，人工采集会出现无能为力、无所适从的现象，而有限的信息储存技术以及落后的信息分析和处理技术则无法实现有效的信息提取[7]。在这种情况下，生成式人工智能技术在行政决策信息收集阶段的辅助运用可以极大提高信息采集与信息分析的效率，通过最低的成本投入实现决策信息收集的最大化。从目前来看，互联网和物联网已经渗透到各个领域，伴随着各类传感器、移动终端、机器人等智能设备的推广和应用，公民的日常生活在愈发智能化的同时，也促进了各类民生数据信息的集中化以及高效化[8]。目前国内外的生成式人工智能所采用的自然语言处理+搜索引擎集成的架构，其背后有大量语料库提供支撑，为辅助行政决策夯实信息基础。

一方面，在信息的收集阶段，生成式人工智能的辅助运用能够最大化实现信息采集的目的。例如，国内百度开发的“文心一言”人工智能正是通过搜索、信息流等应用层的协同来实现信息采集，由搜索服务每天获取几十亿次用户使用需求，每天进行1万亿次深度语义推理与匹配，提供真实和及时的反馈，从而倒逼人工智能的大模型与深度学习框架的优化。又如国外的ChatGPT技术，其所依托的训练数据集包括数十亿个单词级别的文本片段，这些文本片段是从互联网上收集来的，经过处理和清洗后，被用于训练ChatGPT系列模型。这些数据集的数量和多样性是训练出ChatGPT模型的关键，因为它们能够捕捉到自然语言的复杂性和多样性，从而使得ChatGPT能够对人类语言的各种表达方式做出响应。另一方面，在信息的分析和提取阶段，生成式人工智能可以有效完成信息的整理、分类和提炼。这类大语言模型是通过大量的文本数据进行无监督的预训练得到的，模型会根据上下文中已有的信息，预测下一个可能出现的单词或短语，这个过程就是语言模型训练。这个过程可以对信息进行高效融合和智能过滤，它可以筛选和提取各种信息的特征，充分挖掘出决策问题的实质，消除人为干扰，从而为决策者提供科学建议。

（二）抓捕行政决策关键问题

行政决策关键问题的捕捉是行政决策方案出台的重要一环，这一环节主要由为行政决策提供咨询服务的组织机构来进行，这一机构必须由专业人员组成，运用专业化知识对行政决策的具体问题进行分析和判断，并做出预测。在传统的行政决策中，关键问题的捕捉主要依靠来自不同领域的专家学者在已掌握的信息基础上对问题进行预先评估从而制定相应方案，在这个过程中，行政决策一方面受制于信息收集的广度，另一方面受限于对于信息的分析能力，往往难以及时捕捉关键性预警信息，从而耗费了大量人力、物力成本[9]，常常出现对关键问题把握不准、对可能出现的风险无法提前预知等问题。建构以需求为导向的行政决策计算方案，利用多年积累的行政决策信息进行辅助判断，可以充分发挥生成式人工智能的快速对应和精确求解的优点，在很多领域超越传统的行政决策模式。

其技术效用主要体现在以下两点。一是搜寻海量的数据并聚焦于行政决策所涉及的关键问题。在传统行政决策背景下，关键问题的识别大多都是以碎片化的信息和经验性的判断为基础的，因而不能保证决策的精确性[10]。但就生成式人工智能ChatGPT、紫东太初等模型而言，行政决策方案利用的是生成式人工智能技术基于整个互联网平台整合的庞大数据库，搜寻的数据是社会公众基于生活、生产需要而产生的客观信息，而非各类问卷所产生的问答式回答，在此基础上进行有针对性的检测，得到的信息精确性更高，更有利于辅助行政决策聚焦于关键问题。二是生成式人工智能构建的行政决策能够排除行政决策中的人为因素干扰，提高行政决策效率，提升决策质量。与此同时，利用生成式人工智能输出的行政决策也具有极强的灵活性，其在预训练完成后，还可以针对特定的任务进行微调。将预训练模型与特定任务的数据相结合，从而使模型在特定任务上具有更好的性能。生成式人工智能并非机械搜寻行政决策所需要的信息，而是具有自适应能力，可以辅助完成各种复杂的决策。

（三）出具行政决策最优方案

行政决策最优方案的确定是整个行政决策中的关键环节，这一环节不仅要统筹协调行政决策的全过程，还要基于已经收集到的行政决策信息并综合专家的意见最终确定行政决策的核心问题以及所想达成的目标，在此基础上形成行政决策的方案并在各类方案中确定最优方案。因此，行政决策方案的确定和出台需要考察行政决策的整个过程、行政决策的问题和目标，并对不同的备选方案进行科学评估。行政决策首先要确定决策议题，在传统行政决策背景下，行政决策议题的确定一般是在行政机构进行社会调研或者获得民意反馈之后[11]，虽然社会调研与民意反馈等能够反映出一定的民意基础，但在民意反馈的广度及深度上仍然存在欠缺。而在科技迅猛发展的大背景下，作为一种对话系统，生成式人工智能则能够在一定程度上改变传统行政模式下的对话失衡局面，使政府与公众在对话结构上始终处于平等的地位[12]。

首先，生成式人工智能可以帮助搭建公众和行政决策内部机构的沟通桥梁，保障行政决策方案的目标与公众需求的契合性，从而在大方向上保障行政决策方案的科学性。对于行政机构已经确定要研究的决策议题，通过智能技术先进的网络信息渠道，社会大众可以迅速了解到行政决策的相关信息，从而向决策中枢积极建言献策。这里的建言献策不仅包括了公众直接提出意见，更包括通过日常行为向行政机构提供真实、客观的数据信息，确保行政决策信息的真实性、客观性。其次，通过对大量客观信息的持续收集和分析，生成式人工智能可以在一定程度上提高行政决策方案与现实的契合性，从而保障决策的科学性。最后，生成式人工智能能够高效生成各种行政决策方案，并对行政决策方案的可能后果进行辅助预测，有助于帮助确定最优行政决策方案。生成式人工智能不仅可以根据设计人员的要求迅速生成各种设计方案，还可以对这些方案的性能进行初步评估。这样，就可以大幅度缩短设计时间，并有效减少设计过程中可能产生的浪费[13]。

二、生成式人工智能辅助行政决策的三重算法隐患

生成式人工智能在为行政决策提供坚实信息基础、提升行政决策关键问题识别效率以及助力确定最优行政决策方案的同时，也在不同程度上对行政决策的正义性、安全性以及透明性带来了挑战。

（一）行政决策信息收集阶段：算法歧视引发决策的正义性隐患

行政决策能否具有正义性，其前提和基础在于其掌控的信息能够为其决策提供何种路径指向。将生成式人工智能引入行政决策领域后，行政决策方案的最终出台就依赖于决策者掌握的信息量以及对这些信息的分析结果。但是，生成式人工智能在极大提高信息收集的广度与深度的同时，也不可避免存在信息收集过程中的公正性问题。

一方面，由于生成式人工智能在不同地区应用状况的差异，各地出台的生成式人工智能信息收集处理规则可能不同。不同的规制方法会导致信息收集出现数量、质量方面的差异，最终会影响到行政决策的正义性。在生成式人工智能辅助行政决策信息收集的过程中，由于不同地区信息技术发展水平的差异，可能会导致收集到的数据本身并不中立[14]，可能某一地区收集的信息偏多、另一地区偏少，最终的数据就不能真正具有广泛的代表性，由此造成信息收集本身的不正义。生成式人工智能辅助行政决策，那么行政决策就需要以庞大的数据量为基础。但从数据信息采集开始，划分数据口径有很多类型，这些都会影响到行政决策的制定。有些内容会带有“隐秘的偏见”，如获取数据的渠道主要是依靠厂商长期积累、公开爬取或来源于各类免费或者付费第三方数据库与数据集，但公开爬取的数据以及各类第三方数据库的信息可能并不具备与行政决策目标的贴合性，其既可能因为范围过窄而只反映整体之中的一部分信息从而导致决策的以偏概全，也可能因搜集过多与决策无关的信息，造成杂乱信息对于运算的干扰，降低运算精确性。错误的信息采集将对生成式人工智能的运算结果产生影响，正如人类在进行决策时会存在主观层面上的偏见一样，生成式人工智能同样会因为输入数据的局限性而造成决策结果的误差。[15]此外，生成式人工智能交互中仍会生成不少事实性错误，在一些老幼皆知的简单问题上也会出错。生成式人工智能并不会提供信息的出处，而且在信息推送形式上也采用了更为直接的方式，因而其带来的误导性可能更大，造成的危害也就更大[16]。数据归根结底是具有主观性的信息标识，在社会环境中可能带有偏见，一些弱势群体的呼声会被其他强势发声者的信息覆盖掉，错误信息甚至会干扰行政机关的判断，以上种种原因都会导致政府决策失去公正性。

另一方面，生成式人工智能本身在信息分析和处理过程中可能并不能保持中立，从而在极大程度上影响行政决策的公正性。行政决策除了需要掌握海量数据以外，还需要对海量数据进行分析和处理，这对于行政决策方案的最终确定同样具有重要意义。但是，在生成式人工智能辅助行政决策进行信息分析的过程中，由于算法工具性定位的偏差，可能导致在信息分析与处理过程中难以避免信息分析结果的不正义。从过去的技术应用实践来看，人们往往把智能技术作为一种非价值偏好的工具来使用，但是其内在的算法却打破了这种局限，因为它可以把自己的价值取向嵌入到算法的体系结构和规则定义中[17]。虽然生成式人工智能的内嵌似乎消除了行政决定的主观因素，不过，“计算和决策程序都取决于研发人员，那么研发人员自身的价值观和偏见便不可避免地会被写进代码中”[18]。庞大的信息处理需要能够真正满足政府道德需求、并立足于实现社会公共利益的算法。一旦某一算法承担了过量的个人价值和偏好，那么依托于这一算法而得出的统计分析结果就很难确保其正义性[19]。