风险社会视角下教育人工智能伦理风险分类框架研究.pdf

现代远距离教育2024年第3期总第213期

热点探索

风险社会视角下教育人工智能伦理风险分类框架研究

王佑镁，房斯萌，柳晨晨

（温州大学，浙江温州325035）

【摘要】人工智能技术发展的不确定性和应用的广泛性，给教育教学带来智能化、便利性和高效率的同时，也

可能带来技术滥用、数据泄密、侵犯个人隐私等伦理风险问题。如何对教育人工智能应用过程中非规律性、高频发

性、系统性的伦理风险进行分类，已经成为当前学术界关注的焦点。基于贝克的风险社会视角，从教育人工智能伦

理风险因素的内在联系出发，分析教育人工智能应用场景与伦理风险来源，提出建立教育人工智能伦理风险分类

框架，归纳四种类型伦理风险，包括教育数据风险、机器算法风险、技术本体风险和教育应用风险等，并提出伦理风

险防范策略，助力人工智能技术在教育领域的可持续健康应用。

【关键词】风险社会；教育人工智能；伦理风险

【中图分类号】G43【文献标识码】A【文章编号】1001-8700(2024)03-0028-10

分类框架，并试图寻找恰当、合理的“风险”管理工具。

一、问题的提出

因此,在推进人工智能教育应用的过程中，必须重新

随着人类理性智慧的持续进化和实践探索边界审视并调整教育新技术的生存实践，以应对这些日益

的不断延伸，现代文明在蓬勃发展的同时，其背后也凸显的现代性风险。同时，教育人工智能伦理风险的

悄然隐藏着风险的暗流,为社会的持续发展蒙上了一特殊性使得以人工智能技术为主要规避手段的传统

层隐忧的薄纱。现代性所面临的困境实际上是源于式风险规避形式已经无法满足现实需求，探索和构建

人类非理性生存方式之中的风险。正如吉登斯等社适应新时期教育人工智能伦理风险科学化和新型化

会学家的警示，当前最为紧迫的威胁实际上是源自人的分类框架，已经成为当下教育机构追求创新发展的

类自身对科学与技术无限制追求所引发的潜在危机。迫切需求，也是管理层面确保教育人工智能可持续发

这些风险不仅侵蚀生态环境、重塑社会结构，更在无展在政策和法律层面的重要诉求。

形中影响着个体的心理与行为。人工智能技术具有

二、人工智能教育应用及其伦理风险

发展的不确定性和应用的广泛性，人工智能在与教育

深度融合过程中，虽推动教育的创新与变革，但也伴人工智能与教育系统的融合展现出深度交织的

生伦理风险，需审慎应对。例如，算法不可解释性和多维互动关系，将人工智能应用于教育领域是符合逻

算法偏见可能导致教育不公平，自适应学习的个性化辑的必然趋势[3]。人工智能正逐步深并丰富教育

推荐会强化学生某些不良学习行为和习惯，教育数据领域的教、学、管、评以及研究等各个教育场景，构建

的隐私保护和安全将受到更大的威胁等[。一个全新的数字教育生态系统,给教育领域带来深刻

社会学家贝克认为，现代社会是一个风险社变革[41]。顾小清认为，以数据智能驱动学、教、管、评

会[2]。在《风险社会》一书中,贝克以理性化的思维深等核心业务的结构重塑，是推进智慧教育的实践路

度剖析了“风险社会”的内在运作机制，将风险视作现径[5]。李永智指出,在实践中，目前的数字教育主要

代化进程中的自然产物。风险社会理论为审视教育聚焦在数字技术赋能教育上，积极推进数字技术与

人工智能应用的风险生存机制提供了一个独特的视教、学、研、测、评、管等教育教学主要环节的融合创

角。在这一预设背景下，探究教育人工智能伦理风险新[6]。教育部部长怀进鹏也表示,将推进人工智能的

【基金项目】国家社会科学基金教育学重大课题“新一代人工智能对教育的影响研究”（编号：VGA230012）。

【作者简介】王佑镁，博士，温州大学大数据与智慧教育研究中心教授,博士生导师；房斯萌，温州大学大数据与智慧教育研究中心

硕士研究生；柳晨晨，博士，温州大学大数据与智慧教育研究中心副教授。

28

赋能计划，旨在深化智能技术在