学校人工智能应用亟需有效的社会监督.pdfVIP

第29卷第5期 开放学习研究Vol.29，No.5

2024年10月JournalofOpenLearningOct.2024

【教育创新探索】

学校人工智能应用亟需有效的社会监督

122

（英）本·威廉森（美）亚历克斯·莫尔纳（美）费斯·博宁格

（1.英国爱丁堡大学数字教育研究中心，英国爱丁堡EH88AQ；2.美国科罗拉多大学

-

博尔德分校国家教育政策中心，美国科罗拉多博尔德803090249）

肖俊洪译

  【摘 要】尽管缺乏完善的研究基础和监管保护措施，技术公司和相关政府部门依然在向学校推广人工智能（AI）应

用。目前在学校采用未经监管的AI应用程序已给社会与个人的自主带来了严重威胁。多年以来学界不断地发出警告，技术

的应用所造成的问题也非鲜见，AI时代之前的数字技术在学校的广泛使用产生诸多显而易见的风险，这些技术使决策变得

不透明，导致学生数据被挪为他用。在缺乏有效的社会监管的情况下引进不透明和未经证明的AI系统和应用程序很可能

使原有的问题变得更加严重。如果立法者和其他相关人士不拿出周密的想法和措施进行干预，以消除这些广泛存在的风

险，则很可能出现各种危害。文章探讨了这种情况下可能出现的危害，呼吁学校领导在政策制定者尚未完全了解AI并出台

保证AI在学校的应用受到社会有效监督和控制的政策之前暂缓推广AI应用程序。

  【关键词】

人工智能；企业化学校改革；教育技术；管理；学校商业主义

  【中图分类号】G434    【文献标识码】A    【文章编号】2096‑1510（2024）05‑0001‑13

译者导读：这是一篇促使我们以理性的态度对待AI在教育中的应用的文章。澳大利亚莫纳什大学（Monash

University）的教授尼尔·塞尔温（NeilSelwyn）经常被视为反对教育技术的“斗士”，但在我看来，这是一种误解，

误解了他的良好初衷。他著述甚丰，贯穿其中的是他的教育技术理念——要时刻警惕围绕教育技术的炒作，以理性

和负责任的态度对待教育技术在教育中的应用。2011年他在为《英国教育技术期刊》（BritishJournalofEducational

①

Technology）撰写的一篇卷首语中，提出了“技术悲观主义”这个概念。他所提倡的悲观主义不是被动地接受命运的

安排，而是不断地积极探索其他可能性。长期以来，教育技术领域充满技术乐观主义，人们坚信技术对教育来说有

百利而无一弊，因此不愿意“往坏处”想。稍有理性的人都应该明白这种思维定势的危害。技术越先进，技术乐观

主义所带来的风险可能越大。我认为当今尤为需要塞尔温教授的技术悲观主义论。

本期推出的这篇文章是由美国科罗拉多大学博尔德分校国家教育政策中心（NationalEducationPolicyCenter,

UniversityofColoradoBoulder）总结的关于教育人工智能在中小学的应用的报告，也可看作是一篇文献综述，主要目的

是给美国各级政府的教育政策制定者提出关于如何对待教育人工智能的建议。这篇文章所提出的建议对其他国家也

有借鉴意义，且不局限于中小学教育。

文章首先简要回顾了AI的三个重要发展阶段、AI在教育中的应用和教育人工智能差强人意的研究现状并介绍了这

个领域的新发展。文章在归纳和分析相关文献的基础上讨论了AI给教与学以及行政管理工作带来的风险，指出“当务

之急是要重点保证AI的开发符合伦理，保障学生权益并体现社会责任”。因为从相关研究的结果看，AI在教育中的应

用并非是不可避免的，教育人工智能既不是不可或缺的，也不总能产生好的结果。文章最后分别给美国的联邦、州

和学区三级教育政策制定者提出如何通过政策手段保证AI在教育领域得到负责任的应用的建议，并