生成式人工智能浪潮下的“群体偏见”问题及其应对策略——以ChatGPT为例.pdfVIP

经验交流

生成式人工智能浪潮下的“群体偏见”问题及其

应对策略

——以ChatGPT为例

沈笑颖

 （上海工程技术大学马克思主义学院，上海201620） 

摘要：生成式人工智能的出现标志着人工智能技术的新飞跃，但也蕴含着助推“群体偏见”的巨大风险。文章以ChatGPT

为例，揭示了生成式人工智能的发展可能会由于弱势群体边缘化加剧、集体意识刻板固化、群体认知偏差加强而导致社

会排斥深化，一定程度上也强化了“群体偏见”的产生条件，并在分析其作用机理的基础上，提出相应应对策略。

关键词：生成式人工智能；群体偏见；ChatGPT

完善生成式人工智能治理体系是促进人工智能健时，学习较差的群体往往易于成为偏见接受者。此类“群

康发展的重要保障。2023年7月公布的 《生成式人工智能体偏见”具有明显的敌意性和传播性，一旦形成广泛认同

服务管理暂行办法》 明确规定，在算法设计、训练数据选便难以消除。由此可见，“群体偏见”产生条件可以归纳为

择、模型生成和优化、提供服务等过程中，要采取有效措几个方面：一是群体有区分。以群体为单位，至少存在两

施，防止产生民族、信仰、国别、地域、性别、年龄、职业、个及以上群体，且所处地位具有高低、主次之分。二是个

健康等歧视，这一规定表明生成式人工智能发展要遵循别存在判断失据。个体对自身所处群体之外的外群体成

促进公平正义的伦理规范。但实践证明，生成式人工智员接触相对要少，导致个体对外群体判断依据缺乏。三是

能也会显著加剧各种群体偏见。形成广泛认同。缺乏依据的判断形成传播导致消极的、敌

一、“群体偏见”的产生及其在生成式人工智能浪潮对的态度被广泛接收并形成共识。

下的延伸（二）“群体偏见”在生成式人工智能浪潮下的延伸

（一）“群体偏见”及其产生条件体现

偏见是人们在事实不清、依据不足的情况下，对个体生成式人工智能浪潮下，“群体偏见”的衍生主要体

或群体产生的脱离实际的认知及消极态度，严重的偏见现为内容生成规模化、内容载体更迭以及人机交互方式

甚至会导致歧视行为。按照偏见的对象，可以划分为“群转变。一是内容生成规模化。在生成式人工智能浪潮下，

体偏见”与“个体偏见”。“群体偏见”与“个体偏见”相比，人机协同逐渐成为内容生产新趋势，而生成式人工智能

受主观因素影响多，判断依据匮乏，呈现更为消极的倾生成内容依赖于数据集，一旦数据集存在“群体偏见”，

向，并伴随着明显敌对性。例如，学生频繁迟到可能表明结合其内容生成规模化、生产效率高的特点将进一步扩

该学生缺乏时间观念，尽管迟到原因未明确，但基于过往大影响范围。二是内容载体更迭。生成式人工智能平台

经验合理怀疑其之后将继续迟到，这一“个体偏见”具有作为新的内容载体，遵循“内容为王”，平台企业必将充

较为明确的支持依据，是具备一定合理性的推断，此类偏分利用这一新型内容生成方式，借助其优势，提供便捷

见将随个体行为的改变逐渐消除。然而，“群体偏见”则是的服务。然而，作为新兴技术的生成式人工智能尚存“群

群体外部成员基于刻板印象对某一群体所有成员持有依体偏见”等道德伦理问题，投射于生成式人工智能的“群

据不足的消极判断，如某学生经常迟到且成绩较差，以此体偏见”将随着其影响力的提高而全方位渗透各领域。

推断学习成绩不好的学生均没有时间观念，这一刻板印三是人机交互方式转变。ChatGPT以“人的语言”的而非

象的形成意味着以学习成绩为衡量标准来区分学生群体“机器的语言”接收用户意图，最终输出结果，打破了非

作者简介：沈笑颖1997女汉族上海人主要研究方向马克思主义中国化

（—），，，。：。

235