数字利维坦：生成式人工智能的意识形态风险与治理路径——以ChatGPT为例.pdf

数字利维坦：生成式人工智能的意识

形态风险与治理路径*

———以ChatGPT为例

刘锐**

摘要ChatGPT的诞生，标志着人类信息传播迎来了一次全新的革命

性变革，但其引发的意识形态风险及对社会治理的挑战亦不容忽视。本文聚

焦这种由技术引发的数字利维坦效应，以ChatGPT为例，分析生成式人工智

能的意识形态风险生成机制，将其划分为技术生成机制造成的意识形态风

险、制度权力介入引发的意识形态风险以及媒介使用因素引发的意识形态风

险共三大类，并就如何走出生成式人工智能的“科林格里奇困境”，提出破

解数字利维坦困局的建议：以审慎包容为治理原则，未雨绸缪，兼顾治理与

发展；增加主流媒体信息供给，提升主场驾驭能力；健全智能治理机制，为

全球治理贡献中国方案；建立技术控制标准，规范数据和算法模型使用。

关键词数字利维坦生成式人工智能意识形态风险治理

一数字利维坦：生成式人工智能的达摩克利斯之剑

自2022年底以来，ChatGPT的问世再次掀起人工智能的旋风。短短五

天内，其用户就超过了100万人，仅仅两个月时间，注册用户就超过1亿

*基金项目：国家社科基金重大项目“中国特色国际传播战略体系构建研究”（项目编号：

22ZDA087）、上海社科规划项目“计算政治对舆论安全的挑战及治理”（项目编号：

2022BXW004）、上海交通大学文科青年人才培育计划项目“百年大变局下西方对华舆论

战新态势、新策略研究”（项目编号：2023QN020）

**上海交通大学人文艺术研究院副研究员。

·342·

数字利维坦：生成式人工智能的意识形态风险与治理路径

人。以ChatGPT为代表的生成式人工智能的到来，宣告了“数字交往2.0

时代的到来”[1]，它减弱了内容生成和内容传播环节中“人”的因素的作

用，“人类有史以来第一次失去了对信息流生成和传播的掌控”[2]，智能

媒体成为真正意义上的转译者和交往平台。

ChatGPT的诞生标志着人类信息传播迎来了一次革命性变革。它凭借

卓越的自然语言处理能力，成为推动第四次工业革命的重要力量。这种以

数据和算法驱动的“暗网式”大集市传播模式，是一次社会权力的重新转

[3]

移和分配，将对现有传播法则、秩序及伦理产生深远影响。尽管ChatG-

PT在智能生产、传播及决策等方面可能带来积极效应，推动AIGC（人工

智能内容生成）向AIGD（人工智能决策生成）的转变，但其犹如一把达

摩克利斯之剑，引发的意识形态风险及对社会治理的挑战亦不容忽视。

这种由技术引发的社会风险被称为数字利维坦效应。所谓“利维坦”

（Leviathan），原指《圣经·旧约》中上帝创造的巨型海洋怪兽。随着新媒

体、人工智能等信息技术的横空出世，人们在全面感受数字技术带来工作

生活便利的同时，亦逐渐产生一种被技术所束缚的压迫感。“技术利维坦”

直观地揭示了技术力量在社会治理中的重大暗礁及潜在风险。例如，海德

格尔站在现象学的哲学角度，对科技的负向作用进行了批判。他认为“技

术是一种解蔽方式”[4]，然而，这种解蔽同时也是一种遮蔽，它将一切置

于可计量、可操作、效率化的枷锁之下，忽略或者遗忘了对存在本身的追

问。另有学者以“赛维坦”形容科技异化所产生的风险，它如同“力量极