人工智能伦理治理研究报告（2023年）.pdf

人工智能伦理治理

研究报告

(2023年)

中国信息通信研究院知识产权与创新发展中心

中国信息通信研究院科技伦理研究中心

2023年12月

前言

伴随人工智能的迅速发展和广泛应用，人类正在进入一个“人机

物”相融合的万物智能互联时代，人工智能技术的应用在给人们带来

生活和工作便利的同时，也带来了系列伦理挑战。2022年3月，中共

中央办公厅国务院办公厅印发《关于加强科技伦理治理的意见》，对

科技伦理治理工作进行了系统部署，将人工智能列入科技伦理治理的

重点领域。

人工智能伦理是开展人工智能研究、设计、开发、服务和使用等

活动需要遵循的价值理念和行为规范。人工智能技术的突破发展，引

发了技术应用的伦理争议，特别是生成式人工智能技术的发展应用引

发了偏见歧视、隐私侵犯、责任不明、虚假内容传播等伦理挑战。

为应对人工智能技术应用带来的风险，世界各国积极推动人工智

能伦理国际治理合作。各国政府通过出台人工智能伦理原则、发布人

工智能伦理治理指引、提供技术治理工具等加强本国本地区的人工智

能伦理治理监管。我国通过积极完善人工智能伦理制度规范，探索人

工智能伦理治理技术化、工程化、标准化落地措施，加强人工智能治

理国际合作等举措推动人工智能向善发展。

人工智能伦理治理是多主体协作的全流程治理，是以敏捷机制协

调人工智能发展与安全的重要治理模式。未来一段时期，人工智能伦

理治理将与产业创新活动增强协调；多学科多主体参与、分类分级治

理、技术工具开发等措施将有效推动人工智能伦理治理机制完善；全

民科技伦理素养的提升将有效防范人工智能伦理风险；全球人工智能

伦理治理合作也将推动人工智能技术造福人类。

中国信息通信研究院首次发布《人工智能伦理治理研究报告》蓝

皮书。本报告在总结分析人工智能伦理治理相关特点的基础上，对人

工智能生成内容、自动驾驶、智慧医疗三个典型应用场景的伦理风险

进行分析，并结合国内外人工智能伦理治理实践，提出人工智能伦理

治理的四点展望，以期为更加广泛深入的讨论提供参考。

人工智能伦理治理研究报告（2023年）

一、人工智能伦理治理概述

（一）人工智能伦理的概念与特点

“伦理”是人的行为准则，是人与人之间和人与社会的义务，也

1

是每个人源于道德的社会责任。伦理作为价值规范，为不同场景的行

为提供引导。在科技活动中，伦理从价值引导和实践规范层面指导技

术研发应用。

人工智能伦理是开展人工智能研究、设计、开发、服务和使用等

科技活动需要遵循的价值理念和行为规范。人工智能伦理关注技术的

“真”与“善”，并为人工智能发展提供更广阔的讨论空间。人工智

能伦理包含价值目标与行为要求两个方面。在价值目标上，人工智能

伦理要求人工智能各阶段活动以增进人类福祉、尊重生命权利、坚持

公平公正、尊重隐私等为目标。在行为要求上，人工智能伦理要求人

工智能技术做到安全可控、透明可解释，在人工智能研发应用各环节

强化人类责任担当，提倡鼓励多方参与和合作。

人工智能伦理呈现出哲学性、技术性、全球性三大特点。一是人

工智能伦理拓展了人类道德哲学反思的边界。人工智能伦理蕴含了人

与机器相互关系的伦理思考，拓展人类关于善、理性、情感等问题的

探索。人工智能伦理的讨论既包含了对人工智能主体、人格、情感方

面的本体伦理问题研究，也关注人工智能应用是否符合社会道德要求。

关于人工智能伦理的讨论体现着当代人对社会生活的价值理想，将人

与人交往的伦理规范扩展至人与技术交互的反思。二是人工智能伦理

1辞海编辑委员会.辞海[M].上海：上海辞书出版社，1979:221.

1

人工智能伦理治理研究报告（2023年）

与人工智能技术的发展应用密切相关。从1940年人工智能第一次浪

潮中阿西莫夫提出“机器人三原则”，到2004年人工智能第三次浪