世界互联网大会：2024年全球人工智能治理研究报告.pdf

全球人工智能治理研究报告

上海社会科学院

武汉大学

同济大学

中国现代国际关系研究院

中国信息通信研究院

中国社会科学院世界经济与政治研究所

北京邮电大学

北京航空航天大学

北京理工大学

中国人民公安大学

中国政法大学

复旦大学

南京邮电大学

浙江师范大学

伏羲智库

联合发起

前言

人工智能技术是新一轮科技革命和产业变革最具代表

性的颠覆性技术，给人类社会带来巨大发展机遇的同时，也

带来了诸多全球性挑战。人工智能技术的普及应用已惠及医

疗、教育、交通、农业、工业、金融、文化、生态等诸多领

域的发展；与此同时，人工智能的误用、滥用和恶用已危及

个体、群体、社会、生态以及价值规范等不同层面的安全。

2022年生成式人工智能技术取得突破性进展以来，新一轮

全球人工智能治理浪潮席卷世界。

在此背景下，上海社会科学院、武汉大学、同济大学、

中国现代国际关系研究院、中国信息通信研究院、中国社会

科学院世界经济与政治研究所、北京邮电大学、北京航空航

天大学、北京理工大学、中国人民公安大学、中国政法大学

等中国智库和高校的专家围绕全球人工智能治理的基本现

状、主要议题和体系建设等问题展开了研究。本报告中的“全

球人工智能治理”，是指国际组织、各国政府、科技公司、

非政府组织等行为体为实现人工智能在全球的安全发展与

和平利用而共同制定共同实施一系列原则、规范、标准、政

策、法律和制度的协作过程。需要指出的是，关于人工智能

技术在军事领域的应用问题有独立的国际规制进程，本研究

I

报告不涉及为军事目的开发或使用人工智能的全球治理进

程。

II

目录

前言I

一、全球人工智能治理现状1

（一）多边平台的进展1

（二）多方机制的成果2

（三）相关国家/地区的做法3

（四）科技企业的实践5

二、全球人工智能治理的十大重要议题6

（一）国家主权原则和人工智能发展6

（二）社会变革和可持续发展6

（三）技术创新和产业发展7

（四）人机情感和生命伦理8

（五）内容安全风险8

（六）模型算法安全风险8

（七）数据安全和隐私保护9

（八）产品责任和风险9

（九）知识产权保护10

（十）智能鸿沟和国际协作10

三、构建完善全球人工智能治理体系11

（一）目标宗旨11

（二）原则共识11

1.尊重国家主权11

2.统筹发展和安全11

3.坚持平等互利普惠12

（三）行动路径12

1.坚持以人为本12

2.坚守智能向善12

3.赋能千行百业12

4.防范应对安全风险13

5.加强国际合作能力建设13

6.完善全球治理机制14

附录：近年来全球人工智能治理重要文件概览16

一、全球人工智能治理现状

1956年，达特茅斯会议正式确定了“人工智能”术语，

开辟了人工智能科学的独立研究。此后，人工智能发展经历

了数次起伏，并于上世纪九十年代取得了一定突破。1997

年深蓝超级计算机战胜国际象棋世界冠军，它不仅引起了公

众对于技术未来的思考，也促进了国际社会关于人工智能伦

理的早期讨论。

随着人工智能技术向机器学习、强化学习、深度学习等

方向演进，2016年AlphaGo战胜围棋世界冠军成为标志性

事件，全球人工智能治理迈入制定原则方针的探索阶段。如

2016年，电气电子工程师学会提出《人工智能的道德准则

设计》，为自主和智能系统的设计和开发提供指引；2017

年，全球行业领袖发起《阿西洛马人工智能原则》，提出技

术发展“有益于人类”的守则等。

2022年以来，ChatGPT问世并风靡全球，加速推动人

工智能从“小模型+