生成式人工智能嵌入教育应用的风险生成及其规制.pdfVIP

现代远距离教育２０２４年第４期总第２１４期

热点探索

生成式人工智能嵌入教育应用的风险生成及其规制

刘骥，丘霖

（陕西师范大学，陕西西安７１００６２）

【摘要】生成式人工智能为教育领域带来发展机遇的同时，也引发了教育风险。从风险主体、风险范围与风

险程度三个维度分析，发现生成式人工智能的教育风险包括直接与间接教育风险、全域与局域教育风险以及短期

与长期教育风险。通过整合提炼联合国教科文组织与世界主要发达经济体生成式人工智能教育应用的政策实践

经验，提出积极且谨慎拥抱生成式人工智能的教育应用、促进生成式人工智能成为人的发展的助推器、加强生成式

人工智能的基础技术与应用策略研究。

【关键词】生成式人工智能；教育风险；风险规制；人的发展

【中图分类号】Ｇ４３【文献标识码】Ａ【文章编号】１００１－８７００（２０２４）０４－００１２－０８

此，如何在生成式人工智能迅速嵌入教育应用的大背

一、问题提出

景下，有效识别、降低与规避其潜在教育风险，使其聚

随着生成式人工智能（ＧｅｎｅｒａｔｉｖｅＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉ焦于促进人自由而全面的发展与教育高质量发展，是

ｇｅｎｃｅ）等智能技术的应用与发展，数字化浪潮逐渐涌当前教育数字化所面对的时代之问。基于此，精准规

向教育领域，为传统教育模式带来深刻影响，并接近制生成式人工智能所带来的教育风险，总结生成式人

触发颠覆性变革。Ｓｏｒａ与ＧＰＴ－４ｏ作为该领域的最工智能教育应用的域外国际经验，制定符合我国国情

新技术代表，其先进的自然语言处理能力结合深度学的生成式人工智能风险应对策略，具有重要的学术价

习智能算法，为教育数字化转型提供了强大的技术支值与实践意义。

撑。党的二十大报告指出，推进教育数字化，并统筹

二、生成式人工智能嵌入教育的风险生成机制

部署教育、科技、人才三大战略。在数字化发展进程

不断加速的时代境域下，以云计算、大数据、生成式人随着生成式人工智能等新兴技术的高速发展，现

工智能等新一代信息技术主导的新科技革命正在推代社会在创造文明新形态的同时也在制造新风险模

动着教育数字化转型与技术性变革。中共中央政治态，以“风险”为显著特征的现代社会已经出现，对教

局第五次集体学习会议强调，教育数字化是我国开辟育数字化转型也提出新要求。在现代社会发展过程

［２］

教育发展新赛道和塑造教育发展新优势的重要突破中，新兴智能技术作为兼具建设性与破坏性力量，

口［１］。作为“数字中国战略”的一部分，推进教育数字导致现代社会风险结构不断重组、广度迅速扩大与强

化转型是贯彻落实科教兴国战略、人才强国战略、创度纵深演变的速率持续提高。特别是信息互联技术

新驱动发展战略的重要先手棋。然而在教育领域，生在社会各领域的广泛应用加大了现代社会中风险感

成式人工智能的教育应用机遇与风险并存，日益出现知与风险治理之间的时间差，赋予了风险社会新的时

动荡源与风险点增多、多类型多维度风险加快交织堆代内涵。德国社会学家贝克（ＢｅｃｋＵ）提出“风险社

叠、公众风险焦虑程度日渐提升等现实问题。伴随伦会”（ＲｉｓｋＳｏｃｉｅｔｙ），为深入理解与剖析充满复杂性与

理、隐私与信息