智能时代未来学校建设及其伦理风险规避

摘      要：人工智能促使教育与技术的深度融合，技术驱动成为智能时代未来学校建设的基本特征。技术在助力未来学校建设的同时，存在着责任模糊、主体异化、道德缺失以及育人弱化等伦理风险。为规避智能技术对未来学校建设潜藏的伦理风险，具体实施的策略包括：完善各主体应有职责，明晰教育责任；重新定位师生关系，构建人机协同体；建立数据资源透明机制，发展学生健全人格；塑造温情氛围，重拾育人初心等。

关 键 词：智能时代  未来学校  学校建设  伦理风险

引用格式：杜芳芳，刘昭莹.智能时代未来学校建设及其伦理风险规避[J].教学与管理，2023（19）：15-19.

以人工智能为核心的第四次工业革命促使教育趋向与技术深度融合，掀起了全球教育信息化发展大潮[1]。技术驱动下未来学校的构建正如火如荼，“人工智能的全方位渗透激发了人们对未来学校的无限想象，更引发人们对未来学校的广泛热议”[2]。但在美好的憧憬之下，学校的育人初心正在被潜藏的伦理性问题逐渐消耗。因此，探寻智能时代未来学校建设中潜藏的伦理性问题，并提出相应的规避之策，是打造育人为先、人机相融的未来学校的前提。

一、技术驱动：智能时代未来学校建设的基本特征

1.技术支持未来学校学习空间的重构

未来学校学习空间的变革是针对传统学校的相对封闭性而进行的，主要是借助技术开始探索学习空间的建构。朱永新认为，在数字化和智能化的大背景下，未来学校将变成网络型或实体型的学习中心，是彼此连接的环岛，是跨区域、跨国界的开放体系[3]。2000年，美国的HTH（High Tech High）学校最早采用透明化的教室，并利用数字技术进行教学，可谓是未来学校的先驱；2006年，由微软公司出资，并与费城学区共同建设了第一所“未来学校”，同样借助信息技术，打破空间壁垒，为学生提供科技感强的虚拟空间；2010年，麦吉尔大学设计了主动学习教室，拥有可移动性的墙壁、互动式的家具，以及共享的屏幕，大大改变了学生的学习体验。2013年，我国实施未来学校创新计划，建设未来学校示范校，借助智能技术打造与学科相应的真实情境；2020年，印度金奈河湾学校基于乡村理念创新学校建筑，学校内部设计多种互通分区，且全部配备机器人辅助学生学习；同年，经济合作与发展组织（OECD）发布《面向未来教育：未来学校教育四种图景》报告，提出未来学校将突破学校围墙，进行无边界的学习。由此可见，未来学校利用智能技术变革学习空间，学生学习场所不再固定，学生的科技体验感不断增强，学校最终将突破校园的界限。

2.技术推动未来学校组织形态的变革

依托技术带来学校组织形态的变革已成为未来学校建设的核心。在智能时代，未来学校依托技术打破传统学校固有的组织形态，更新管理方式，为学生提供个性化学习。曹培杰认为：“未来学校通过相互融通的学习场景、灵活多元的学习方式和富有弹性的学校组织，形成个性化的学习支持体系，为学生提供私人定制化的教育。”[4]2012年，布鲁塞尔的The Future Classroom Lab凭借先进的技术创建智能空间，配备移动学习设备和智能机器人，为学生进行个性化学习提供充分的技术支持；2014年，法国可汗实验学校为学生提供个人学习平台，学生按照软件提供的最佳速度和最佳方式学习；同年，美国成立Altschool，该校以微型化和精细化为理念，利用数字技术实现学生自主平台的学习，利用可视化教育技术实现虚实结合，实行混龄学习、跨学科学习以及项目式学习；2019年，德国德累斯顿工业大学附属学校以开发和优化学习软件为行动导向，以数字化、个性化和混龄化为实施框架，借助信息技术变革学校的组织形式；我国同样在变革学校组织形式方面做了不少探索，依托技术打破传统的组织形式，追求新的教学空间，实行混龄教学。显然，在智能化大背景下，未来学校的探索离不开技术的支持，不论国内还是国外均依托技术实现学校组织形态变革，技术工具已成为未来学校探索的中流砥柱。

3.技术助力未来学校教学结构的创新

随着智能时代的到来，传统教学结构已不能满足社会对人才的需要，基于此，未来学校开始探索使用新技术助力教学结构的创新。首先，在人才培养方面提出了新的培养目标以顺应当今智能化的潮流。张生认为：“未来学校的建设必须以培养学生的高阶思维认知能力为目标与基本理念，以为未来社会提供创新型人才为目的。”[5]2020年，世界经济论坛（World Economic Forum）发布《未来学校：为第四次工业革命定义新的教育模式》报告，提出未来学校要培养学生创新创造、技术技能、人际交往的能力以及全球公民意识。其次，在课程体系方面，世界各地意在通过技术变革课程体系以达到人才培养的新目标。2016年，多伦多成立知识社会项目，培养学生的技术能力和创新能力，该学校为学生提供学习平台，并与技术公司合作，在此基础上学生可以和公司直接对话，学习新的技术，培养创新能力[6]；美国的TGS（Think Global School）开创了独特的Changemaker课程，该课程利用数字技术创建真实的实践场景，学生们在课堂中就可以体验到户外真实的场景，以此培养学生的动手能力。再次，在教学方法方面，教师面临着巨大的挑战。朱永新曾说：“未来的教师需要娴熟地运用智能机器人获取各种教育资源，学会各种数据处理的方法和技术。”[7]教师须扬弃传统的教学方法，在技术驱动未来学校建设中培养技术能力。最后，在教学评价方面，未来学校构建了数字时代新的评价框架，评价趋向定量化、精准化。放眼全球，世界各地都在探索评价领域的新路径，国外诸多国家如美国、德国、芬兰等都利用技术围绕评价全过程提出了独具特色的方案。我国也不例外，东莞市松山湖北区学校以学校数据为核心建立了学生综合素质评价、学生学业水平测试、教师专业发展、教师智慧教研和学校督导评价五个平台，进行全方位评价[8]，旨在以技术推动教育评价的改革。清华大学附属中学同样依靠技术构建了学生综合素质评价平台和评价模型。

在人工智能大背景下，未来学校的构建之路离不开技术的支撑，技术已全方位渗透到学校革新之中。虽说技术能够为教育发展带来无限可能，但也应理性地看待，正视技术进步之下所隐藏的伦理风险[9]。尽管目前未来学校的诸多探索只处于试点阶段，但其影响不容忽视，在享受技术驱动未来学校建设带来便捷的同时，必须意识到未来学校建设可能存在的技术伦理风险，防止学校陷入过度技术化的泥潭。

二、发现与反思：智能时代未来学校建设潜在的伦理风险

1.责任模糊伦理风险

关于教育责任，就其定义而言具有广义和侠义之分，其中广义的教育责任是一种教育义务，是指作为教育者应该做的事情；狭义的教育责任是一种过错责任，是指出现教育过失之后被强制性承担的后果。在智能时代，教育责任伦理显得尤为重要，它影响着教育活动的开展。

从广义角度看，传统学校模式下教育者是教学内容的设计者和教学的实施者，教什么、如何教以及如何更好地支持学生是教师的责任，教师对整个教学过程负责，但人工智能技术用于教学时，教育者则面临责任模糊的难题。比如，教师批改作文时会出现意见相左、难以定夺的情况，更何况是以算法为核心的智能机器人。使用自动写作评价系统时，如若只按照已有的算法进行机械式评分，可能会对学生写作热情以及能力带来损害，这应该由教师来负责吗？随之而来还有教育公平的问题，“因为教师并不是总能理解电脑进行学生评估的算法原理，也很难向家长解释”[10]，如若因为教师的理解偏差造成教育偏见，教师该负全责吗？

从狭义角度来说，未来会出现教育外包。比如，美国的AltSchool宣称“未来不再开设更多的实体学校，把更多精力用于网络学习平台的建构上”[11]，无疑将会有许多企业参与学校教育，学生将在虚拟世界中进行学习，那谁将承担起相应的教学责任？是技术设计者，还是提供支持的生产商？教育活动具有复杂性，只有人才能灵活应对教育活动中出现的突发情况，作出最有利于学生的选择。因为算法主导着智能机器的运作，而算法的开拓者又是智能技术的设计者。设计者不可能未卜先知想到所有可能出现的突发情况，当智能技术产品面临两难时，会对学生作出最有利的选择吗？若未作出正确的选择而对学生造成了伤害，教学责任又应该由谁来承担？是它的制造商，它的设计者，还是智能产品本身呢？无论是由哪一方面来负责，都会产生非议。若要让制造商或者设计者来负责，未免过于苛刻；若由人工智能产生来负责，更不可思议。人工智能时代，教育领域对于技术的责任判定很难有明确的追责，相较之下，传统模式下的教育教学责任的确定相对明晰。

2.主体异化伦理风险

（1）学习者情感性被异化。未来学校通过技术对学生实现智能推送，而冰冷的数据所传达的仅仅是学生存在的问题和解决方案。“技术将原本丰富生动的人际对话过程转变成没有情感的符号交流过程。”[12]未来学校易存在“只见数据不见人”[13]的问题，缺乏面对面情感的沟通与交流，容易把有血有肉的人物化为简单的数据。“天天和一堆‘不嗔不怒，不言不语’的数据为伴，久而久之，学生们会不会变得理性有余而感性不足？数据的精准会不会让学生变得精细、精明有余而不够大气？”[14]

（2）学习者主体性被消解。未来学校中技术的覆盖可能使学习者逐渐丧失主动性，走向“幼稚化”。在法国可汗实验学校，学校提供个人学习平台，学习者在平台规定的完成时间和提供的学习方式下完成个人的学习目标。在这个案例中，学习者根据智能平台进行学习，“如若学习者长期坐等教育人工智能定时定量的投喂，将有可能逐渐丧失能动性”[15]。另外，技术为主的未来学校可能使得学习者思维僵化且浮于表面。如项目评分系统（PEG系统）只关注文章的表面特性，忽视文章内容。若学校中应用该系统，不仅不能提高学生的写作质量，而且会使学生写作流于表面，囿于华丽辞藻之中。虽然智能机器会根据学生学习过程中的数据向学生精准推送学习资源，但这些资源完全围绕学生兴趣展开，缩小了学生学习的范围，使学生囿于技术限制的牢笼中。

（3）学习者社会性被遗忘。无边界的学习是未来学校的一大特征，虽然能提供个性化的辅导，培养更多优秀的学生，但这是以牺牲孩子的社交时间和情感交流为代价的。法国的Ecole42学校没有教师、课本和教室，学生每人一台电脑，学习由自我负责[16]，任何交流与沟通都是在虚拟环境中进行，这将导致学生的社会性难以得到培养。未来教育不是以输出精英为目的，而是要让孩子在教育新世界中得到更好的发展。杜威曾指出：“教育是社会生活的过程。”[17]所以，未来学校建设单纯依靠智能技术提供虚拟环境对话是行不通的。

3.道德缺失伦理风险

在未来，越来越多的人工智能技术将运用到学校当中，目前人脸识别技术走进教室已成为未来学校的试点项目，此项目意在提高课堂效率。人脸识别以学生个人信息为支撑，通过适时采集学生的表情、动作来分析学生在课堂上的投入程度，虽然在某种程度上可以提高课堂效率，但如何保证学生数据隐私的安全，如何界定学生信息的使用范围等问题值得深思。况且在这种严密的监管之下，学生如同“犯人”一般被时刻监控，这种做法是与教育本质背道而驰的，是有悖道德伦理的。再如美国的Alt School，为了监视学生的一举一动，在墙上安装了摄像头，全天候地对着学生，而学生并不会被告知是谁在背后监控他们，摄像头所采集的信息是被谁使用、如何使用以及使用的范围如何界定。除此之外，在课堂上学生可能佯装认真学习，那真正的教学就不可能发生，长此以往，学生的健全人格也必将遭到破坏。

4.育人弱化伦理风险

正如舒马赫所言：“教育以人的自由与发展为旨归，根本任务是传授价值观念，传授知识只是第二位。”[18]未来学校依附于人工智能，其教育最初的本心将可能被基于计算和数据驱动的技术所替代，其结果就是教育的育人初心随之湮没。在教学过程中，如若教师过于依赖数据，缺乏自身的判断，以数据为教学标杆，则会导致“学生的很多潜能因为没有药引而未被激发出来”[19]。虽然未来学校建设中学习的效率可能会大大提升，但随之产生的伦理问题不容小觑。目前，有关自适应学习系统的研究正如火如荼，基本原理是“基于大数据与分析得到待训练的样本，并用数据训练从而得到基于人工智能算法建构的、属于认知智能助力的精细化教学，而对于学生情感与品德的发展、教学内容价值观的传递等方面难以通过客观数据量化”[20]，这在一定程度上否定或淡化了学科育人的价值。再者，中小学德育工作评价模型算法中拟采用数学建模的方法形成多层评价结果。此模型包含四种算法：单项算法、关联算法、协同算法和复合算法[21]，并为德育目标、德育内容以及德育途径赋值，通过多种算法综合对学生进行德育评价。但德育目标在不同的属性之下有不同的目标，而且德育内容的权重又该如何分配？过分追求量化，憧憬以数据来衡量学生的德育，从而得到确定的结果，这将会导致动态的育人过程逐渐丧失温度。况且人具有综合实践性的特征，单一的德育评价无法与人在生活中表现出来的德性相统一。