ChatGPT等生成式人工智能诱发意识形态风险的机制、逻辑与治理.pdf

成都行政学院学报2024.3（总第153期）

ChatGPT等生成式人工智能

诱发意识形态风险的机制、逻辑与治理

王干一

（陕西理工大学马克思主义学院，陕西汉中723000）

作为生成式人工智能产品的代表，ChatGPT自2022年11月由美国人工智能公司

OpenAI发布以来，受到世界瞩目。它的爆火在国内外掀起了生成式人工智能研发的浪潮，

“文心一言”“通义千问”“混元助手”等国产生成式人工智能产品也在不断追赶着这

一脚步。作为一种大型语言模型，ChatGPT具备强大的语言理解和文本生成能力，实现

94了从弱人工智能到强人工智能的转变，在人工智能发展史上具有里程碑意义。ChatGPT

丰富的应用场景，拓展了人类的生产和生活空间，深刻塑造和变革着人们的思维方式和

价值观念。以ChatGPT为代表的生成式人工智能产品开启了人工智能发展的新领域，为

世界各国之间博弈，特别是意识形态领域的斗争提供了新场域。隐藏在生成式人工智能

背后的风险，对我国主流意识形态安全造成很大威胁。党的二十大报告指出，全党必须“主

动识变应变求变，主动防范化解风险”[1]。基于此，本文对ChatGPT的生成机制和基本

［

中图分类号：D64文献标志码：A文章编号：1008-5947(2024)03-0094-12

收

稿

基金项目：陕西理工大学2023年校级教育科研项目（JYYJ2023-08）。

日摘要：以ChatGPT为代表的生成式人工智能实现了从弱人工智能到强人工智能的

期

]转变，深刻改变着人类的生产生活和交流交往方式。其在资本逻辑主导下催生的“泛

2

0

2

4

娱乐化”“数字拜物教”和“数字殖民”，削弱了主流意识形态的凝聚力和引领力。

-

0

4生成式人工智能诱发的意识形态风险内嵌于其全生命周期的各个环节，从技术逻辑上

-

0

2看，可归结为来源于数据、加剧于算法、溢出于模型。其治理策略包括：推进主流意

识形态智能变革以突破智能鸿沟阻隔，强化主流价值引领以突破数字帝国主义围堵，

夯实主流意识形态阵地建设以维护新型场域空间主权。

关键词：ChatGPT；生成式人工智能；意识形态；风险

作者简介：王干一（2000-），男，河南郑州人，陕西理工大学马克思主义学院硕

士研究生。

ChatGPT等生成式人工智能诱发意识形态风险的机制、逻辑与治理

逻辑进行初步探析，以期为防范ChatGPT等生成式人工智能诱发的意识形态风险提供解

决思路。

一、生成式人工智能诱发意识形态风险的机制

从技术层面看，以ChatGPT为代表的生成式人工智能，其全生命周期包括数据获取、

数据准备、模型训练和部署、人工模型评估四个阶段。基于强大的算法、算力和大数据

发展而产生核心技术，是生成式人工智能生命周期得以运行和延续的支撑。为了使嵌入

ChatGPT等生成式人工智能中的意识形态风险得以显现和可控，有必要覆盖生成式人工

智能全生命周期来考察其运作机制。

（一）数据获取阶段：基于网络文本语料库预训练藏匿西方价值预设

海量多源的数据集是ChatGPT的“养料”，其语言训练和内容输出质量离不开