“数字利维坦”的驯化：人工智能嵌入教育数据治理的法律规制

摘要： 作为新一轮科技革命的核心驱动力，人工智能正在全方位融入并重塑教育生态系统。《教育强国建设规划纲要（2024—2035年）》在强调人工智能助力教育变革时，特别指出要强化数据安全、人工智能算法和伦理安全。人工智能嵌入教育数据治理，虽可赋能教育治理数智化，但也对公民受教育权、隐私权等基本权利构成挑战甚至威胁。为防范“数字利维坦”危机，亟须相应的法律规制。欧盟《人工智能法》在教育数据治理领域，体现了保障公民受教育权、促进教育数据开放共享、鼓励教育科技负责任创新的价值意蕴。其分等级治理、全链条治理及契约性治理的多重策略，对我国在人工智能时代教育数据治理的法律应对有重要的借鉴价值。

关键词：人工智能；教育数据治理；欧盟《人工智能法》；法律规制

中图分类号：G434          文献标识码：A       文章编号：1672-0717（2025）02-0088-11

英国哲学家霍布斯在其经典著作《利维坦》中，借用《圣经》中上帝创造海上巨兽“利维坦”这一意象，将国家隐喻为人类自己制造的、联结最高主权的、具有绝对权威的“利维坦”。“国家利维坦”的诞生，旨在解决人类自身无法解决的问题，避免人类在自然状态下走向每个人反对每个人的战争[1]。然而，在享受国家保障安全美好生活的同时，如何将“国家利维坦”关进牢笼，约束国家权力的滥用，也一直是现代社会关注的核心议题。在以数据为新型“血肉”的算法时代，“利维坦”完成数字化重构，“数字利维坦”随之诞生。人们在对大数据、云计算、人工智能等数字技术高度依赖和崇拜的同时，也开始警惕“寡头垄断”型主体沿循“算法-规则-权力”的路径生成“数字特权”[2]，以及数字巨兽对人们隐私空间与数据安全的疯狂侵蚀。人工智能在推动教育深刻变革的同时蕴含着巨大的风险，遏制风险的关键是要通过法律规制驯化人工智能这只“数字利维坦”。作为数智时代的新型生产要素，教育数据是教育数字化、网格化、智能化的基础。教育数据通常被认为是对教育规划、教育教学、教育科研、教育管理等行为过程及输入输出的真实反映，涉及大量公共数据及个人隐私信息[3]。随着人工智能与教育领域日益密切的融合，不同类型、体量庞大的教育原始数据背后蕴含的复杂信息被深度挖掘，为教育主体的理性治理提供决策依据，赋能教育高质量发展。与此同时，教育数据在采集、传输、存储及应用等多个环节也面临着前所未有的挑战。

面对人工智能治理的崭新课题，世界各国都重视通过立法予以规范。欧盟采用统一性专门立法，通过具有法典性质的《人工智能法》（Artificial Intelligence Act）统一监管规则，其中明确涉及教育领域；美国积极推动各州自治，通过地方性立法防范人工智能风险。我国人工智能立法呈现出“小切口”的特点，对生成式人工智能、自动驾驶汽车及深度合成等问题出台了相关部门规章及地方规章。虽然国务院2017年印发的《新一代人工智能发展规划》中就指出人工智能技术对法律与社会伦理、个人隐私等问题可能带来的深刻挑战，第十三届、十四届全国人大常委会立法规划也均将人工智能立法列入其中，但我国目前尚未实现人工智能的统一立法。学界提出的《人工智能法示范法1.0（专家建议稿）》、《人工智能示范法2.0（专家建议稿）》（以下简称“《专家建议稿2.0》”）及《中华人民共和国人工智能法（学者建议稿）》（以下简称“《学者建议稿》”）等建言，体现了人工智能风险管理的整体治理思路，但均未针对教育领域制定特别条款。此外，我国现行的教育法律法规尚未将包括人工智能在内的数字技术纳入重点考量范围。在“教育法典化”进展如火如荼的背景下，作为教育领域“根本法”的教育法典有望对人工智能教育应用展开最为周延科学的规范，助益人工智能教育应用的健康发展[4]。因此，无论在人工智能立法还是教育法典编纂过程中，人工智能在教育领域的使用所引发的风险与挑战都亟须得到我国法治的回应。

《数字教育合作上海倡议》提出共商共议数字教育治理，倡导各国共同研发人工智能应用指南和管理规范，确保数字教育合乎伦理规范、安全可信。欧盟是全球教育水平领先的地区之一，其在推进教育数字化转型战略方面始终走在世界前沿。2021年4月，欧盟委员会在推进“数字单一市场”建设的进程中，提出了《人工智能法》立法草案；经多轮修订与讨论，2023年6月，欧洲议会以多数票通过了《人工智能法》的谈判授权草案；2023年12月，欧盟理事会、欧洲议会和欧盟委员会就《人工智能法》立法文本达成三方共识；2024年5月，欧盟理事会批准通过《人工智能法》[5]。2024年8月1日正式生效的欧盟《人工智能法》是世界范围内最先被提出的人工智能法案，为应对人工智能系统风险、支持人工智能技术创新做出了示范，其中涉及教育领域，对人工智能时代我国教育数据治理的法律应对有重要的研究及参考价值。

一、欧盟《人工智能法》中教育数据治理的价值意蕴

“鉴于条款”（whereas clause）是欧盟立法的一个特点，被要求用于说明适用相关执行条款（operative provision）的原因[6]。对欧盟《人工智能法》“鉴于条款”的解读，有助于理解其具体适用条款蕴含的价值导向。欧盟《人工智能法》“鉴于条款”共180条，第1条对该法的立法目标进行了总体性阐释，即为联盟内部市场中人工智能系统的开发、投放市场、投入使用及相关操作制定统一的法律规范体系。欧盟《人工智能法》的核心目标是推动以人为中心、可信赖的人工智能应用的广泛发展，确保对《欧洲联盟基本权利宪章》（以下简称“《宪章》”）中所规定的健康、安全和基本权利提供高标准的保护。此举旨在防范人工智能系统在联盟内可能产生的有害影响，同时有效助力创新活动的开展。该条同时指出，《人工智能法》将确保基于人工智能的商品和服务的跨境自由流动，从而防止成员国对人工智能系统的开发、营销和使用无端施加限制。欧盟《人工智能法》“鉴于条款”体现了保障公民受教育权、促进教育数据开放共享及鼓励教育科技负责任创新的教育数据治理的价值意蕴。

（一）教育数据治理是保障公民受教育权的基础

在欧盟法体系中，保护基本权利原则被认为是一项普遍适用的法律原则，具有宪法层面的重要地位。该原则不仅对欧盟各机构的行为起到约束作用，确保其在行使职权时尊重和保障公民的基本权利，同时也要求成员国在贯彻执行欧盟法时，严格遵循保护基本权利的原则[7]。《宪章》第14条对公民的受教育权进行了规定，赋予每一位欧盟公民接受教育、职业培训与技能训练的权利，是非歧视原则在教育领域的体现。

在数字化嵌入教育活动的过程中，教育主体可能正在遭受算法支配，处于被“控制”的境遇，从而潜藏着对公民受教育权的挑战[8]。2020年，受新冠疫情影响，英国学生“A-level”考试被取消，取而代之的是英格兰资格与考试监督办公室（Ofqual）通过基于学生在学校的排名及学校历史表现的新算法进行评分，以矫正教师评估普遍偏高的问题[9]。然而，这次评分结果遭到了大量学生的抗议，因为近四成学生的教师评分被新算法下调，且数据显示，学费不菲的私立学校不成比例地从所使用的算法中受益，该评级系统因而被指责为“令人震惊的不公平”。最终，英国政府表示将停止使用基于有争议的算法生成的考试成绩。英国“A-level”考试相当于中国的高考，学生必须达到一定的成绩才能确保自己进入理想的大学。这种选拔性的考试应客观公正地评价每位考生的能力和素质，为高等教育机会的分配提供依据，以保障考生平等的受教育权。学生的成绩、排名本属于传统类型的教育数据，然而对这些教育数据叠加新式算法的运用，就有可能使数字技术潜藏的“算法歧视”“算法黑洞”影响学生受教育权的实现。经济合作与发展组织在《2023年数字教育展望：迈向高效数字教育生态系统》中表示，基于各种学生特征的算法偏见是存在的，但国际研究的缺乏限制了对偏见的理解。如果在数字时代对教育数据治理缺乏必要的警惕，数字技术侵害受教育权的现象可能会越来越普遍，越来越隐蔽，也越来越难以救济。

欧盟《人工智能法》“鉴于条款”第56条指出，在教育领域部署人工智能系统，对于促进高质量的数字教育和培训，使学习者和教师获得必要的数字技能和能力，积极参与经济、社会和民主进程至关重要。然而，如果设计或使用不当，用于教育或职业培训的人工智能系统在某些情境下会实质性影响一个人的教育和职业道路，进而影响公民平等享有的受教育权。因此，欧盟《人工智能法》将此类人工智能系统视为高风险系统，划归至立法积极干预的强监管领域。

（二）教育数据治理是促进数据开放共享的前提

数据的核心价值在于互联互通，数据的跨境流动已成为各类资源要素交换与共享的关键基础和重要纽带。处于割裂状态的数据将造成数据孤岛，降低整个社会的运行效率。教育数据治理亦要促进开放和共享。数据采集的样本数量越充足、多样性越丰富，数据分析的可行性和准确度就越高。此外，不同部门、教育机构及平台之间若能最大限度地打破数据壁垒和数据垄断，将极大地提升教育数据的使用效能[10]。

在数智时代，教育数据的跨境流动逐渐成为欧盟成员国之间共享教育资源的前提，欧盟面临着教育数据开放共享和互通互联方面的巨大需求。欧盟各国的教育体系存在较大差异、教育机构种类繁多且数量庞大，在一定程度上阻碍了学生的跨国学习。“欧洲高等教育一体化”的概念伴随博洛尼亚进程的推进而逐渐深入人心。为了建立互通有无的欧洲高等教育区，欧洲学分转换系统（European Credit Transfer System，ECTS）应运而生。各国教育部部长对“欧洲学分”推崇备至，称其为“学术欧元”，并试图通过这种“统一货币”打通欧洲各国高等教育体系之间的壁垒[11]。ECTS的关键性文件包括课程目录、学生申请表、学习协议及成绩记录单等，记载了关于学生跨境学习的教育数据。历经三十多年的发展，ECTS已然成为世界范围内学分积累与转换制度的典范。虽然欧盟各成员国通过ECTS的实践已在跨境教育数据流动与共享方面积累了大量的经验，但在人工智能时代教育数据的跨境流动面临新的挑战，尤其是数据隐私与安全方面。

2018年，欧盟《通用数据保护条例》（General Data Protection Regulation，GDPR）正式生效。教育数据生命周期长、数量庞大、涉及大量未成年人隐私信息且包含多样化的参与者，属于特殊类型数据。法国教育数据伦理委员会2020年发布的《疫情背景下教育数据使用的伦理问题》报告讨论了教育数据跨境流动引发的潜在问题。该报告指出，教育数据具有商业价值和运作模式，是一种国家战略资源。然而，由于法国专业教育软件缺少其他国家专业教育软件的在线人数兼容力和功能性，一大部分法国教育参与者倾向于使用更便捷的在线教育软件，而不是更尊重GDPR规则、更符合法国价值观的在线教育软件，导致大量的教育数据已经掌握在一些国外平台手中，对于数据的使用和处理难以监管[12]。无论是出于对个人隐私数据的保护，还是对国家数字主权和价值观教育的担忧，欧盟已关注到教育数据跨境流动的风险。

欧盟《人工智能法》“鉴于条款”第8条指出，需要制定一个欧盟层面的法律框架，制定规范某些人工智能系统的市场投放与使用的统一规则，从而确保欧盟内部市场的顺利运作及对公共利益的高度保护，使欧盟能够受益于人工智能商品和服务的自由流动。在教育领域，教育数据的跨境自由流动是人工智能教育产品与人工智能教育服务跨境自由流动的前提。这种“自由流动”不是绝对的，而是在《人工智能法》框架下符合欧盟内部市场规则和价值观的“自由流动”，其目的是促进欧盟内部教育资源在安全、可靠、负责任的监管框架下进行共享、融合，提高教育资源利用率。

（三）教育数据治理是教育科技负责任创新的关键

当前，人工智能技术日益深度融入教育领域，教育科技行业迅猛发展。一些传统跨国教育公司，开始致力于转型为数据驱动、数字优先的全球教育领导者，他们通过收集、分析和使用大量教育数据和个人数据，开发数字教育产品，提供数字教育服务，发展学习平台等数据基础设施[13]；同时，一些新兴科技公司也瞄准数字教育市场持续发力。根据全球教育智库HolonIQ的统计，对教育科技初创企业的投资从2010年的5亿美元飙升到2021年的200亿美元；根据欧洲教育科技风投公司Brighteye Ventures的统计，在全球范围内，估值超过10亿美元的教育科技“独角兽”公司在2014年还不存在，在2021年就已有62家[14]。科技的创新在赋能教育数字化转型的同时也带了风险与挑战。欧盟提出“欧洲地平线计划”（Horizon Europe），以“负责任发展”“负责任研究与创新”为焦点，强调新兴技术的负责任创新对社会的积极贡献和正向价值，减少新兴技术带来的负面影响[15]。在教育科技迅猛发展的背景下，如何确保负责任创新是教育数据治理必须考虑并解决的问题。