面向未成年人的人工智能技术发展蓝图——面向未成年人的人工智能技术规范研究(四).pdfVIP

2024年第4期渊总第372期冤

DOI:10.13811/ki.eer.2024.04.006理论探讨

面向未成年人的人工智能技术发展蓝图

要要要面向未成年人的人工智能技术规范研究渊四冤

李玉顺袁沈希袁安欣袁吴永和1112

渊1.北京师范大学教育技术学院袁北京100875曰

2.华东师范大学教育信息技术学系袁上海200062冤

[摘要]随着ChatGPT等新型人工智能技术的进一步发展袁未成年人成长面临着新的风险与挑战袁急需构建面向

未成年人的人工智能规范体系遥文章从人才发展尧AI向善和人机共融视角出发袁构建了面向未成年人的人工智能技术规

范体系模型院野技术内容规范冶将基础性尧时代性和价值性三个维度的知识结合在一起袁旨在从核心素养的角度规范学生能

接触到的人工智能技术内容曰野技术工具规范冶围绕可用性尧适用性尧安全性尧价值观对AI学习工具的设计尧开发和应用全过

程提出规范要求袁旨在从应用监管角度保障未成年人的使用体验曰野技术伦理规范冶基于以人为本尧公平公正尧安全可控原

则袁对人工智能技术伦理治理提出要求袁旨在从安全伦理角度促进未成年人尧社会尧自然和人工智能的和谐共处遥

[关键词]人工智能曰未成年人曰技术规范曰核心素养曰应用监管曰安全伦理

[中图分类号]G434[文献标志码]A

[作者简介]李玉顺渊1969要冤袁男袁江苏宝应人遥教授袁博士袁主要从事基础教育信息化尧课堂学习方式变革理论与实

践尧慕课及在线学习等研究遥E-mail院lyshun@遥

段袁其自身人格塑造和培养容易受到人工智能技术

一尧引言[2]

影响遥同时袁随着ChatGPT等新型人工智能技术的

21世纪以来袁野互联网+冶颠覆与重构教育系统袁进一步发展袁未成年人成长也面临着新的风险与挑

给未成年人带来便利的同时袁也伴随着诸多风险与挑战袁未成年人教育也将产生更多野科技向善冶野本真育

战遥随着智能技术赋能教育的变革逐渐深化袁技术赋人冶的现实诉求遥从国家层面进行顶层设计和规划需

能教育变革迈入了深度发展的阶段袁解构与重构的特更重视技术伦理和人文包容袁对潜在的风险进行预测

征日益明显袁在这一进程中越来越多的研究者关注到和管理袁以规范和引导人工智能技术的正向应用袁加

了人工智能技术带来机遇背后的巨大风险遥联合国教速数字技术驱动的文明变局遥

科文组织于2021年发布叶人工智能伦理问题建议为此袁本研究将探索面向未成年人的人工智能技

书曳袁其中特别强调要野提供充分的人工智能素养教术规范袁构建面向未成年人的人工智能规范体系框架袁

育冶袁野以负责任和合乎伦理的方式冶将人工智能技术以指导人工智能核心素养尧应用监管尧安全伦理等标准

[1]

应用于教育袁从宏观层面为规范人工智能教育伦理规范的研制袁从系统全局观的角度为建立以人为本尧面

提供了国际经验遥技术与人的发展关系问题日益成为向未成年人的人工智能技术规范研究提供理论指导遥

宏观教育治理尧微观育人实践中的时代性命题遥

二尧面向未成年人的人工智能技术应用现状

智能技术逐渐成为新时代学生学习的有力支

撑袁但未成年人正处于高认知尧低控制的成长发展阶面向未成年人的人工智能技术规范袁是人工智能

基金项目院2021年度国家社会科学基金重大项目野面向未成年人的人工智能技术规范研究冶渊项目编号院21ZD328冤