生成式人工智能意识形态风险：逻辑审视、样态呈现及防范对策(1).pdfVIP

党政研究２０２４４

生成式人工智能意识形态风险：逻辑审视、

样态呈现及防范对策

钟海齐冰

〔摘要〕生成式人工智能与意识形态高度关联。从技术特性来看，意识形态传播样态改

变、意识形态管理难度增大、技术特性虚化意识形态阶级属性三个层面是其意识形态风险的底

层逻辑。生成式人工智能，在生成内容方面存在疏离主流意识形态理论体系风险，在技术表现

形式上弱化主流意识形态主导权，在传播范围上挤占传播空间等是其意识形态风险的主要呈现

样态。为了应对这些意识形态风险，我们应加强制度保障，充分发挥马克思主义在意识形态领

域指导地位的根本优势；通过理论引领强化重点群体教育；加快核心技术和意识形态关联性技

术研发；完善行业发展规范，不断提升对生成式人工智能技术意识形态风险的防控能力。

〔关键词〕生成式人工智能；意识形态；信息茧房；Ｓｏｒａ

〔中图分类号〕Ｄ６４〔文献标识码〕Ａ〔文章编号〕２０９５－８０４８－（２０２４）０４－００１４－０９

年月，公司发布———一款人工智能技术驱动的自然语言处理

２０２２１１ＯｐｅｎＡＩＣｈａｔＧＰＴ

工具，后续相继推出升级版本，引起全球关注。生成式人工智能是指在生成式模型、

ＡＩ

训练数据等的基础上，生成文本、图片、音频、视频、代码等多样化内容的内容生产方

式。目前市面流行的ＣｈａｔＧＰＴ、文心一言等均属于“生成式预训练模型”（ｇｅｎｅｒａｔｉｖｅｐｒｅ－

ｔｒａｉｎｉｎｇｔｒａｎｓｆｏｒｍｅｒ），一种用来分析和预测语言的人工智能模型，它可以帮助我们进行自

然语言处理，例如机器翻译、自动文摘和快速问答等。此外，还有能够实现描绘图像

（模型）、音频制作（模型）、影视创作（模型）、互动娱乐

ＤｉｆｆｕｓｉｏｎＭｕｓｅＮｅｔＤｒａｍａｔｒｏｎ

（综合运用上述模型）等不同功能的生成式人工智能模型。年月，发布人

２０２４２ＯｐｅｎＡＩ

工智能文生视频大模型Ｓｏｒａ，再次引发社会对生成式人工智能大模型技术发展的极大关

注。意识形态是人类思维的产物。人的思想、意志是由物质条件决定的。基于知识生产的

生成式人工智能“生产内容”“生产过程”等与意识形态高度关联，密切关注生成式人工

智能意识形态风险，具有重要的理论和现实意义。

〔基金项目〕国家社科基金项目“生成式ＡＩ的道德推理研究”（２３ＢＺＸ０７９）

〔作者简介〕钟海，北京体育大学马克思主义学院副教授，博士；

齐冰，北京体育大学马克思主义学院副教授，硕士生导师，北京１０００８４。

１４

··

一、生成式人工智能意识形态风险逻辑审视

生成式人工智能意识形态属性一方面来自技术本身，也就是马尔库塞强调的科学技术

作为第一生产力对于剩余价值生产的巨大作用，进而增强资本主义统治在经济、政治、文

〔１〕

化领域的全方位渗透。生成式人工智能的这一意识形态属性并未超越传统意义上科技发

展与意识形态互动的讨论范畴。另一方面，就生成式人工智能技术特性来看，其主要功能

是提高人类知识生产效率，与航天、生物工程等技术最大的不同在于其介入到人类思维外

化领域。我们可以从意识形态传播样态、意识形态管理难度、虚化意识形态阶级属性三个

层面审视生成式人工智能意识形态风险的底层逻辑。

（一）“人机对话”重塑意识形态传播样态

１．意识形态人际传播转向“机—人”传播

“语言在实际运用中（包括在传授中）总是自觉地或不自觉地以一定的意识形态为导

〔２〕

向”。有学者将“语言的物