生成式人工智能在刑事侦查中的应用价值、风险及规制

［收稿日期］2023-05-21

［作者简介］

魏健宇（1999），男，山西太原人，硕士研究生，从事刑事司法制度研究。

［摘  要］数字化时代，以ChatGPT为代表的生成式人工智能展现出了强大能力和潜在应用价值，随着人工智能技术的进步，生成式人工智能应用于刑事司法领域已成为时代趋势。在刑事侦查领域应用生成式人工智能，能够有效提升侦查效能，是打击网络新型犯罪和实现良好犯罪治理的必然要求。由于技术的两面性，生成式人工智能的应用也带来了国家安全、质量风险、法理风险的问题，我们既要认识到生成式人工智能给刑事侦查带来的进步，也要认识到应用中存在的风险，在审查层面、理论层面、应用层面规制生成式人工智能在刑事侦查中的应用，推动数字化司法发展的同时，将应用风险降到最低，保障我国刑事侦查事业不断发展前进。

［关键词］ChatGPT；刑事侦查；生成式人工智能；应用风险

［中图分类号］D925.2  ［文献标志码］A  ［文章编号］2096-1308（2023）04-0057-10

一、问题的提出

生成式人工智能作为计算机科学及算法领域的新技术，一经面世便引发了学界和各国政府的高度重视。2022年11月30日，由美国人工智能开发团队Open AI研发的生成式人工智能ChatGPT（Chat Generative Pre-Trained Transformer） 向社会大众公布，ChatGPT作为一款通过大模型参数预训练的人工智能聊天机器人，能够同访问者进行拟人化信息交互，并根据访问者发出的指令生成相应内容，目前ChatGPT最新版本已发展至GPT-4版本。ChatGPT的成功不仅证明了人工智能成为通用目的技术的潜在力量，也成为人类有史以来在通用目的技术领域影响范围、变革程度最大的通用目的技术［1］，身处重大技术变革时代，我们必须重视生成式人工智能发展带来的机遇与挑战。

我国已进一步加快推动生成式人工智能领域的专项立法，2023年4月11日，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》的通知，作为生成式人工智能专项立法的精准手术刀，征求意见稿第2条规定，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。可见我国目前趋向于将生成式人工智能作为一种技术来进行规制。作为一种通用目的技术，生成式人工智能可以为人类社会的发展进步提供强有力的支持，已经有学者从建设“数字政府”的角度提出了开发应用“GovGPT”提供智能政务服务的构想。［2］笔者认为当今社会已进入数字化时代，若将ChatGPT类生成式人工智能应用于司法领域，尤其是应用于刑事侦查，可有效助推中国式法治现代化的实现，在实现犯罪治理的同时，将节约大量司法资源并缓解一线司法工作者的办案压力，助推法治中国建设。

司法实践中使用生成式人工智能并非天方夜谭，2023年在哥伦比亚就有法官使用ChatGPT辅助其作出判决。［3］将生成式人工智能应用于刑事侦查主要涉及侦查启动程序、侦查程序的运行和侦查程序的终结。例如，在侦查启动程序方面，将经过预训练的生成式人工智能大模型接入司法系统，可通过预先设计的算法依靠大数据计算分析已经发生，但尚未被立案侦查的刑事案件，在处理突发的编造谣言引发网络舆情的事件中，可以利用生成式人工智能技术快速反应并生成相关事件的时间轴、舆情内容、影响范围等相关信息，根据生成结果为司法机关提供是否立案、侦查方向等行动导向。虽然具有丰富的应用价值，但生成式人工智能应用于司法领域还存在一定问题，在生成式人工智能与司法实践结合的研究领域中，有学者指出在使用生成式人工智能进行类案处理的过程中，面临的主要难题是如何使用生成式人工智能建立司法类案裁判的内在机理，以及如何实现算法与类案处理的有机结合。［4］

前述问题看似只关乎技术层面的开发问题，但实际从本质上反应了生成式人工智能算法作为一种技术与法律规制的矛盾所在。司法实践中，任何社会现实在法律适用中都需要被理解和被解释，这是由语言学规律所决定的，法律的适用离不开解释，想要精准把握和严格遵守法律规范的价值就必须对法律进行解释。［5］生成式人工智能运用于司法实践必然会面临法律适用的判断问题，受其预训练参数模型的影响会产生不同的结论，即使具备拟人化的表达能力，但其仍难以精准把握社会现实的动态变化，无法替代人在司法裁决中的价值判断作用，因此若过度依赖生成式人工智能来完成司法工作，则会因缺失价值判断而造成法律适用错误，甚至产生冤假错案的悲剧。

基于前述问题，为了避免生成式人工智能在刑事侦查程序中化身“投币售货机”式的简单工具或直接成为替代司法工作人员的“AI法官”，有必要将ChatGPT类生成式人工智能的运行规律、技术特性与刑事侦查规则的适用标准、价值判断进行有机结合，以应对潜在风险。本文立足于生成式人工智能在刑事侦查中的辅助性角色，从数字化司法实践的发展角度出发，探究该技术应用的潜在风险并提出相应的规制对策。

二、生成式人工智能在刑事侦查中的应用价值

生成式人工智能的发展为人类社会的发展注入了更为强劲的能量，生成式人工智能作为通用目的技术能够在社会的各个领域中发挥强大作用。生成式人工智能正如百年前的工业革命中出现的蒸汽机一般变革着我们的生活，而ChatGPT作为生成式人工智能最新产物中的先进代表，作为一种预训练的大型生成式人工智能语言模型很有可能成为撬动第四次工业革命的杠杆。［6］

（一）推动法治现代化的重要力量

党的二十大报告指出，“以中国式现代化推进中华民族伟大复兴”［7］。在中国式现代化的发展征途中法治成为实现中国式现代化的关键力量，实现法治现代化成为实现中国式现代化的题中应有之义。［8］法治现代化的发展离不开新时代新技术的应用，习近平总书记强调：“当今时代，数字技术、数字经济是世界科技革命和产业变革的先机，是新一轮国际竞争重点领域，我们一定要抓住先机、抢占未来发展制高点。”［9］作为数字技术中的先进代表——生成式人工智能已经向我们展现了它强大的功能和应用于社会各领域的巨大潜力，数字化时代司法机关依法履行职能离不开数字化技术的辅助。

生成式人工智能可有效提升法治建设工作的效能，进入数字化时代，我国司法机关借助数字化技术在法治领域已经取得一定成果。例如，在打击电信诈骗犯罪的专项行动中，司法机关借助大数据技术对异常交易进行监控，通过一系列数字化技术挽回了被害人的巨大损失。生成式人工智能技术的出现成为我国司法机关进一步提升数字化司法水平，提高工作效能的关键力量，生成式人工智能若能应用于司法实践，可以在程序文书撰写、司法程序监督、刑事预警和犯罪预测等方面发挥巨大作用，为建设法治中国和实现法治现代化，推动实现中国式现代化贡献力量。

（二）弥补数字化时代背景下传统刑事侦查的不足

刑事侦查作为刑事诉讼程序中的重要环节，在打击犯罪维护社会稳定方面发挥了重要作用，通过侦查程序发现、查明犯罪事实、收集犯罪证据，达到事实清楚、证据确实充分的标准，可以将其移送人民检察院审查起诉进而追诉犯罪行为。数字技术与犯罪手段结合之后改变了传统的犯罪模式、逻辑和手段，对侦查机关打击犯罪行为提出了更大的挑战［10］，为了应对犯罪形势变化，侦查机关必须作出相应调整，而生成式人工智能的出现有利于侦查机关补齐传统刑事侦查在数字化时代下的短板。

1.传统侦查程序的启动过于被动

立案作为刑事侦查的启动程序，除监察机关管辖和刑事自诉以外的普通刑事案件只有经过刑事立案才能进入刑事诉讼程序，从而实现追诉和打击犯罪的目的。实践中侦查机关处理的刑事案件主要来源于被害人、证人等知情人员的控告和举报，这既有受司法经济成本方面的限制，也有侦查技术方面的原因。

张全涛提出，由于近年来数字技术不断发展，大数据和人工智能都取得了长足进步，世界各国刑事侦查都开始利用新型数字技术开展犯罪预测、热点犯罪案件预警等预测性警务措施，进入风险社会后，我国公安机关利用大数据对犯罪行为进行预测、布控，已经成为推进国家治理能力和治理体系现代化的标志。［11］因此，在侦查机关逐步由被动接受信息转变为主动对犯罪行为进行预测、感知、布控的主动侦查模式背景下，生成式人工智能成为进一步推动侦查机关发挥主动侦查、积极发现和打击犯罪的辅助工具。

ChatGPT作为大型预训练语言模型可以理解和学习人类的语言表达与行为模式，此类型的生成式人工智能若与侦查机关的视频监控系统和网络监控系统连接，可通过对所获取信息与预训练中学习的犯罪模式进行分析比对，充分发挥大数据处理、运算优势，及时预测和监控犯罪行为的发生。例如，当生成式人工智能系统在网络监控系统中发现了异常流动资金和毒品犯罪相关信息后，可以对相关信息源头进行自动追踪并向侦查机关生成相应调查报告，为侦查机关及时发现、查清犯罪事实、收集犯罪证据提供帮助。改变传统的被动侦查模式，数字化时代推行“积极主动侦查模式”既与学界主张的“积极法律监督观”［12］相衔接对应，又有利于完善我国犯罪治理体系，保障人民安居乐业。

2.传统侦查技术不足以应对数字化犯罪

随着数字社会的发展，各类数字技术给我们的生活带来了翻天覆地的变化，随之而来的也有犯罪手段、犯罪类型的变化发展，近年来电信诈骗犯罪、网络虚拟财产犯罪、数据犯罪等新型犯罪层出不穷，严重破坏了社会主义市场经济秩序，侵害人民群众合法利益，面对数字时代的新型犯罪，传统侦查技术必须作出相应革新。传统的侦查模式，侦查行为主要围绕犯罪的物理空间展开，以犯罪现场为侦查核心，但将数字技术引入侦查后，侦查机关可借助数字技术提升侦查工作效率。［13］

生成式人工智能不同于过去弱人工智能和普通计算机程序，例如ChatGPT就采用了基于人类反馈的强化学习方法（RLHF）［14］，侦查机关可通过将生成式人工智能系统接入各类监管平台，利用生成式人工智能预训练中学习的犯罪模式对各类监管对象的异常行为进行分析，并生成相应的犯罪预测报告供侦查机关参考。除数据检测、犯罪预测等功能，生成式人工智能还拥有拟人化的连续对话能力，若能够将其应用于侦查讯问程序，该项技术可成为侦查人员提高讯问效率的关键技术。传统侦查行为中，侦查讯问一般由具有讯问经验的两名侦查人员负责，但由于犯罪嫌疑人心理素质、个人背景、反侦查能力等因素都会妨碍侦查讯问的顺利进行，因此对侦查人员的心理学、刑侦学等专门知识提出较高要求，从事讯问工作必须具备较高的讯问水平，但实践中经验丰富的讯问人员有限，若将生成式人工智能技术应用于侦查讯问，可使其结合侦查人员与犯罪嫌疑人的讯问内容及犯罪嫌疑人的背景资料及时分析讯问成果并引导侦查人员展开讯问。

（三）推进数字司法建设的契机

我国自2021年进入数字法治发展阶段，数字法治经历了技术应用、智能辅助和重塑再造不断升级进步的过程。我国司法机关在建设数字司法领域积极探索，在智慧警务、智慧检察、智慧司法等战略目标下，实现了“智能化”“网络化”“阳光化”的司法执法新样态。进入数字化时代后，学界也围绕数字法学及数字法治问题开展了深入研讨，致力于在数字化时代的浪潮中推动我国数字司法不断前进。［15］2023年以ChatGPT为代表的生成式人工智能进入大众视野，在人工智能愈发成熟的今天，生成式人工智能已经成为司法实践领域不可忽视的一股重要力量。

刑事侦查是刑事诉讼程序的重要阶段，为案件的起诉、审判奠定了重要基础，刑事侦查的结果在一定程度上影响到刑事案件的最终走向，在不断强调数字司法理念的现代社会，刑事侦查也应与数字技术实现融合发展。刑事侦查与生成式人工智能的融合将会是我国在数字司法领域的一大进步，在数字时代面对大数据犯罪、网络虚拟犯罪等新型犯罪治理问题，发展数字司法，借助数字技术是必然趋势，生成式人工智能应用于刑事侦查，能够推动刑事司法人工智能实践的发展，为促进数字司法发展进而实现数字法治的总体建设目标添砖加瓦。

三、生成式人工智能应用于刑事侦查的风险

埃隆·马斯克曾在公开场合表示，为了防止人工智能的发展给人类社会带来不确定的风险，应当暂停比GPT-4更为先进的人工智能技术研发。技术可以造福人类亦可能伤害人类，我们要认识到生成式人工智能应用于司法实践的利，也应当认识到可能面临的弊。笔者认为这类技术应用于刑事侦查可能存在的风险包括三类：一是不当使用可能对国家安全构成潜在威胁；二是生成内容质量、真实度影响侦查机关工作效能；三是生成式人工智能可能导致侦查权过度扩张。