技术向善：人工智能大模型伦理风险识别及治理路径.pdfVIP

•哲学研究

技术向善:人工智能大模型

伦理风险识别及治理路径

1,21

李子浩,李天云

(1.上海交通大学国际与公共事务学院,上海200030;2.上海人工智能实验室,上海200232)

[摘要]人工智能大模型与人类社会的交互提升到空前水平,推动人类社会生

产生活和治理方式的转型优化,但人工智能大模型领域存在的伦理风险及其防范治

理路径仍有待认知和深化探究。正确把握和理解人工智能大模型伦理风险识别及治

理路径有利于为政策制定者及相关从业人员提供理论参考和决策依据。聚焦全球人

工智能大模型伦理风险领域,选取人工智能大模型技术风靡以来全球范围内13个具

有代表性的伦理事件进行整体性分析,可识别、归纳出人工智能大模型领域存在的虚

假/错误信息风险、心理诱导风险、隐私泄露风险、歧视偏见风险和不良内容风险五类

伦理风险,应加强对不同风险类型生成规律及其溢出效应的理论认知,并从技术路

径、监管路径、认知教育路径和国际合作路径提出治理对策。

[关键词]人工智能大模型;生成式人工智能;伦理风险;治理路径;技术向善

[中图分类号]G311;D618[文献标志码]A

[文章编号]1000-8284(2024)08-0030-13

++

人工智能大模型是“超大算力超强算法海量数据”结合的产物,通常拥有数百

亿甚至数千亿个训练参数。它不仅能够生成高质量的自然语言文本,还能处理如图

[收稿日期]2024-05-29

[基金项目]国家社会科学基金重大项目“全过程人民民主重大理论与实践问题研究”

(22ZD168);科技创新2030———“新一代人工智能”重大项目(2022ZD0160103)

[作者简介]李子浩(1996),男,上海徐汇人,博士研究生,从事科技创新政策、人工智能治理研

究;李天云(1995),男,云南曲靖人,博士研究生,从事数字民主人工智能治理研究,本文通讯作者。

·30·

技术向善:人工智能大模型伦理风险识别及治理路径

像、视频、音频等多种媒体数据,并通过学习不同模态之间的关联,实现更加智能化的

信息处理。与传统人工智能系统相比,人工智能大模型具有更高的复杂性和泛化能

力。传统人工智能通常需要针对特定领域或单个任务进行特殊设计和优化,而人工智

能大模型则具备更强的迁移学习能力,即使是对未见过的数据或任务,也能表现出良

好的适应性和鲁棒性。近年来,以ChatGPT、LLaMA、书生为代表的生成式人工智能技

术快速迭代、突飞猛进,然而其衍生出的“幻觉”、可解释性、公平性等问题,也引发了

对人工智能大模型伦理治理的探讨。2018年到2023年上半年,我国先后出台了《新

一代人工智能伦理规范》《关于加强科技伦理治理的意见》《网络安全标准实践指南—

人工智能伦理安全风险防范指引》以及《互联网信息服务深度合成管理规定》等多个

关于人工智能伦理治理的文件,以引导人工智能大模型向善发展。然而,新兴的人工

智能大模型相比于传统人工智能具有更强的社会通用性和泛化能力,并在发展中带来

技术性与社会性风险高度融合、边界模糊的问题。尽管已有部分文献对人工智能技术

风险进行综合性、整体性探讨,但在人工智能大模型领域中究竟存在哪些具体伦理风

险?应该如何加以应对?目前仍缺乏深入的研究。只有以充分识别人工智能大模型

的伦理风险为前提,深入探究其本质原因和溢出效应,并制定科学完备的治理