“常人的神谕”：ChatGPT类生成式人工智能与人类未来.pdf

人工智能与观念变革

“常人的神谕”：ChatGPT类生成式

人工智能与人类未来

隋婷婷 郭 喨

摘要：ChatGPT等生成式人工智能是一种能够理解人类语言和意图的“全领域超级智能”，重

新定义了“智能的边界”。ChatGPT具有基于自然语言进行无监督训练的主导性技术特征，其优点

在于广泛的自适应性，缺点在于对数据质量的高度依赖以及缺乏可解释性。这一特征既形塑了生

成式人工智能擅长处理自然语言的优势，也使其无法被轻易地转化为传统的“专家系统”，同时还

存在“生成式错误”与“生成式偏见”等问题。依赖不甚严谨的“常人知识”语料库，这是其“生

成式错误”的来源；基于特定语料库生成的文本可能表现出特定文化的固有偏见，训练阶段要素

错配可能导致关联偏见，这是其两类“生成式偏见”的来源。作为先进的“神谕智能”，ChatGPT

天然地带有“无所不知”的隐喻，但“生成式错误”与“生成式偏见”的存在，以及内在拒绝“噪

声”与“意外”以求与“人类均值”保持一致，又使ChatGPT显著地表现出“常人”状态，使其

与人类的交互整体呈现为“常人的神谕”。是否宽容甚至主动拥抱“噪声”与“意外”，是人类与

生成式智能系统的重要差异。将之视为人类的“外置大脑”与“延展认知”，是人类面对“常人的

神谕”时的理性选择。

关键词：ChatGPT；生成式人工智能；生成式错误；生成式偏见

基金项目：国家社会科学基金青年项目“人工智能算法的伦理嵌入”（23CZX048）

中图分类号：TP182文献标识码：A文章编号：1003-854X（2024）07-0091-08

当前，人工智能在各个领域的突破性进展不仅级生成式人工智能的自然语言处理（NLP）技术，

赋能了社会的生产、生活，也重塑了人类驾驭世以ChatGPT为代表的新一代生成式人工智能，凭

界的方式。ChatGPT等生成式人工智能以其强大的借自注意力（self-attention）机制，通过对海量自

智能内容生成技术（AIGeneratedContent，AIGC）然文本数据的无监督预训练（pre-trained），展现出

（2）

深刻地影响了赛博社群与现实世界的人机交互模了前所未有的语言理解和语境感知能力。同时，

式，也重新定义了“智能的边界”。ChatGPT与人ChatGPT能够将深度学习获取的知识应用于训练集

类的交互整体可以概括为“形式上的神谕，实质上中未遇到的任务，对不熟悉的话题做出符合人类认

的常人”，体现为“常人的神谕”。我们如何看待和知和社会逻辑的推理。其推理能力甚至超越了对字

对待“神灵”一般的ChatGPT（以及其他功能强大面意思的简单解释，实现了对语言材料中相应主体

的生成式人工智能同类），如何调适人类、人类智心理状态的归因，这属于一种可比拟人类心理理论

（3）

能与生成式人工智能的关系，这是一个重大挑战。（theoryofmind）的能力。因此，此处的“神谕”

是一种有趣的隐喻：它不仅像“神灵”那样能够接

一、神谕：生成式人工智能的隐喻受自然语言提问和“祈祷”（正如人类面对“神灵”

时所做的那样），也能用文字（及语音）方式呈现

ChatGPT是神谕（oracles）智能的典型代表。（1）相应答案，这种智能系统的输出本身已经具有了

较之以往的分析式人工智能，以及可视为较为初“超常”的能力、“神谕”的味道——近似来自于一

2024.7|