生成式人工智能嵌入思想政治教育的伦理风险及其治理路径.pdfVIP

生成式人工智能嵌入思想政治教育的伦理风

险及其治理路径

作者：周刚

来源：《唯实》2024年第05期

近年来，以互联网、大数据、人工智能为核心的数字技术迅速发展，特别是2022年以

来，以ChatGPT为代表的生成式人工智能技术取得重大突破。生成式人工智能是指基于机器

深度学习自主生成具有一定逻辑性的文本、图像、视频等内容的模型及其相关智能技术。生成

式人工智能一经推出，就对包括教育在内的众多行业产生重塑性影响。思想政治教育是高等教

育的重要组成部分，伴随着高等教育数字化转型的不断深入，人工智能技术与思想政治教育融

合日益紧密，其潜在的伦理风险如伦理准则失衡、道德标准失守等随之逐渐凸显，并可能削弱

思想政治教育实效。因此，具有前瞻性地审视生成式人工智能嵌入思想政治教育的伦理风险表

现样态，探究伦理风险生成逻辑及其治理路径，对于推动思想政治教育数字化转型具有重要意

义。

一、生成式人工智能嵌入思想政治教育

伦理风险的多重样态

生成式人工智能技术在通过优化育人过程、挖掘育人要素、拓宽育人空间深度嵌入思想政

治教育的同时，其潜在伦理风险日益凸显。这种伦理风险既源于人工智能的一般性伦理风险，

也具有思想政治教育的显著意识形态属性，主要呈现出伦理关系失衡、伦理行为失当、伦理规

范失控等风险样态。

伦理关系失衡，师生主体地位消解及自我认知失调。生成式人工智能在融入思想政治教育

的过程中，打破了原有学校教育中师生之间的强相关结构，有可能降低教师在课堂上的主导地

位，影响师生之间的互动程度，削弱师生的主体地位，并可能导致学生自我认知的失衡。

其一，生成式人工智能的融入淡化了师生之间的联系，消解着教师的主体地位。一方面，

以ChatGPT为代表的生成式人工智能能够理解和生成人类语言，利用其内置算法和模型，基

于问题生成相应的答案，形成“人—机器—人”的虚拟交互关系。受教育者可以通过ChatGPT直

接获取题目答案，批改课程作业，教师的信息主导优势和地位被不断消解。另一方面，随着生

成式人工智能技术的发展，受教育者越来越依赖数字交往平台，师生之间交往进一步弱化，阻

碍了师生之间的情感交流，教师主体地位被进一步弱化。加之部分教育者数字化素养偏弱，在

教学过程中运用生成式人工智能技术难度较大，有可能加剧教育领域的“数字鸿沟”。

其二，生成式人工智能的潜在“画像”功能，导致受教育者自我认知失衡。大数据驱动的生

成式人工智能契合了思想政治教育的多样化特征，能够根据学生需求提供个性化、定制化学习

内容，不断提升思想政治教育的精准性。生成式人工智能在提供信息方面的确带来了便利，但

长期的“信息投喂”也可能导致受教育者陷入“信息茧房”困境。人工智能算法往往会根据用户喜

好和浏览习惯，推送相似或重復信息，使得用户接触到的信息范围变得狭窄，难以获得更为丰

富和全面的内容。对于受教育者而言，长期接触这类偏窄的信息，可能会导致其思维固化，难

以形成全面、客观的自我认知。

伦理行为失当，造成数字技术过度依赖与算法偏见加剧。大数据和算法推荐是生成式人工

智能的核心技术，但其在丰富思想政治教育形式、创新思政教学方法的同时，也存在过度依赖

数字技术、算法权力异化等伦理风险。虚拟智能教育空间更多以数字技术作为主要支撑，其伦

理判断以量化形式表征，难以模拟并理解师生关系和道德观念，学生难以从冰冷的数据中感受

到人文关怀。

其一，过度依赖生成式人工智能技术，会弱化受教育者的批判思维和创新能力。一方面，

随着生成式人工智能技术的快速发展，其对信息数据进行加工、筛选和复合能力显著增强，极

大地方便了人们的学习和生活，同时也容易使受教育者陷入算法的“舒适圈”，进而产生对技术

的盲目崇拜，过分依赖机器生成的信息弱化了人们对信息的筛选和加工能力。另一方面，当个

体与ChatGPT等生成式人工智能进行交流时，其对话内容和形式与“人类交互”高度相似，致使

个体产生认知的舒适性，缺乏对真实世界的直接接触和感悟，容易引发对现实情况的误判。以

撰写文献综述为例，使用ChatGPT可以较快获得相关文献并生成文献综述，但并不能替代研

究者的学术素养训练，过度依赖这种工具将导致研究者丧失学术研究应有的深入思考能力。

其二，算法偏见可能冲击自由、公平等价值观念，撕裂网络主流意识形态价值认同，进而

影响社会公平。一方面，以ChatGPT为代表的生成式人工智能在预训练过程中需要庞大的数

据支撑，这些数据本身就可能带有对特定群体的社会偏见，进而加深刻板印象，从而加剧社会

不平等。联合国