教育领域生成式人工智能应用的伦理风险管理框架研究.pdf

电化教育研究

DOI:10.13811/ki.eer.2024.10.004理论探讨

教育领域生成式人工智能应用的

伦理风险管理框架研究

王佑镁袁王欣颖袁柳晨晨

渊温州大学大数据与智慧教育研究中心袁浙江温州325035冤

[摘要]生成式人工智能对内容生产与传播产生了革命性影响袁教育领域进入了智能化与风险性并存的人机协同

时代袁教育人工智能应用伦理风险频繁发生袁急需通过标准化的风险评估工具进行科学管控遥文章从技术与教育两个向

度出发袁将教育领域生成式人工智能应用的伦理风险归纳为技术本体风险尧教育数据风险尧机器算法风险和教育应用风

险四大类遥借鉴ISO31000风险管理标准与应用指南袁搭建野风险识别要风险分析要风险评估要风险应对冶四级流程的伦

理风险管理框架遥构建风险源检查表袁以风险矩阵为主要评估工具袁在实践中统计得出各类伦理风险综合等级遥教育领

域生成式人工智能应用的伦理风险管理框架袁将为教育教学有效实施伦理风险管理工作提供借鉴价值遥

[关键词]生成式人工智能曰伦理风险曰教育人工智能曰风险管理曰风险评估

[中图分类号]G434[文献标志码]A

[作者简介]王佑镁渊1974要冤袁男袁江西吉安人遥教授袁博士袁主要从事人工智能教育尧人工智能伦理风险研究遥E-mail院

wangyoumei@126.com遥

果缺乏公众参与及政府必要的保障和监管袁人工智能

一尧问题的提出[4]

就无法完全融入教育遥我国发布叶生成式人工智能服

2024年初袁Sora的发布重燃公众对生成式人工务管理暂行办法曳袁强调生成式人工智能应当遵守法律

[5]

智能的关注遥作为一种视觉生成式人工智能袁Sora不法规袁尊重社会公德和伦理道德遥因此袁需要在伦理风

仅具备理解人类话语能力袁还能模拟物理世界规则袁险发生之前着手开展风险管理行动袁以提高生成式人

在某种程度上改变了教育资源的呈现方式遥生成式人工智能在教育领域应用的科学性袁实现良性发展遥

工智能既能够以教为主袁依据教学目标生成创作型教伴随着技术智能化与自主性的发展以及教育主

[1]

学素材袁辅助教师设计有创新性的教学活动曰又能够观性强尧复杂性突出的特点袁教育领域生成式人工智

以学为主袁根据学生能力和进度给予合适的指导和反能应用的伦理风险管理始终是一大难题袁亟待管控化

馈袁拓展学生的思维和理解能力曰还能够以管为主袁为教解遥目前袁教育领域的风险评估主要依靠专家判断或

育治理提供支持袁提供改进教师教学行为和学生学习经验总结袁此类方法较为主观遥对于特定的伦理风险袁

[2]

行为的反馈信息遥可见袁生成式人工智能在教育中的也缺少标准的量化方式遥为此袁采用何种方式对教育