（已压缩）网络安全研究2024年第2期（总第79期）：全球人工智能治理发展报告-水印版.docx

目录

目录

CONTENTS

一、人工智能治理概念内涵… 1

（一）概念内涵 1

（二）核心目标 1

（三）治理主体 3

二、全球人工智能治理趋势和特点… 3

（一）国际组织 3

（二）国家和地区 4

（三）科技企业 6

三、我国人工智能治理已开展的举措… 7

（一）政策发展 7

（二）标准发展 7

（三）行业发展 8

（四）国际合作与倡议 9

四、人工智能治理难点、风险和挑战 11

（一）各国立法步调不统一，全球监管框架难以落地… 11

（二）部分国家寻求规则主导权，在推动人工智能治理过程中存在政治化苗头 11

（三）全球智能鸿沟进一步放大数字鸿沟弊端，治理能力弥合难以追赶鸿沟扩

大速度 11

（四）人工智能安全监管滞后，仍较大程度依靠企业自我约束… 12

五、促进我国人工智能治理的对策建议… 12

（一）完善顶层设计 12

（二）实施有力监管 13

（三）推动技术发展 13

（四）强化国际合作 13

本期主题：

全球人工智能治理发展报告

一、人工智能治理概念内涵

当前，全球人工智能技术快速更迭，以ChatGPT为代表的生成式人工智能技术不断催生新场景、新业态、新模式和新市场。在赋能人类社会经济进步的同时，人工智能“狂飙突进”式的发展也给全球带来安全隐患和风险挑战。

（一）概念内涵

根据“全球治理委员会”的定义：治理是个人和制度、公共和私营部门管理其共同事务的各种方法的综合。人工智能治理是一个涉及伦理、法律、技术等多方面的概念，结合“治理”定义，我们将人工智能治理的概念定义为：人工智能治理是多方主体通过制定和执行原则、标准、指南与政策法规等，确

保人工智能技术在尊重人权、保护隐私和安全的前提下，促进其安全、可靠和健康发展的过程。

（二）核心目标

人工智能治理的核心目标是确保人工智能安全、可靠、可控，在此基础上，最大限度地发挥其在经济、社会和文化领域的积极作用，防范和控制可能出现的风险与负面影响。为实现人工智能的安全、可靠、可控，我们结合方滨兴院士、中国联通等在人工智能安全架构设计方面的观点，提出了一个五层安全架构模型，包括供应链安全、数据安全、算法安全、应用安全与伦理安全，以系统化地识别和应对人工智能在不同层面上的安全需求。

图1人工智能安全架构

一是供应链安全。人工智能供应链安全是指在人工智能供应链的整个生命周期中，确保所涉及的训练框架、第三方库、操作系统、数据库、芯片、云服务等软硬件和服务的安全性、完整性和可靠性。

二是数据安全。人工智能数据安全是指通过采取必要措施，确保人工智能系统使用的数据得到有效保护，并且合法、安全地被利用，同时具备持续保障数据安全状态的能力。

三是算法安全。人工智能算法安全是指在整个人工智能系统的设计、开发、部署和使用过程中，确

保算法的公正性、透明性、鲁棒性和抗攻击能力，同时采取必要措施保护算法免受未经授权的访问和篡改，以及确保算法的决策过程和结果合法、合规。

四是应用安全。人工智能应用安全是指确保人工智能应用在实际操作中的安全性和可靠性，防止其被滥用或误用，保障应用的输出和行为符合预期。

五是伦理安全。人工智能伦理安全是指在人工智能系统的整个生命周期中，确保其设计和行为遵循以人为本的原则，尊重并保护个人权利，促进社会价值和公共利益，

同时避免产生不公平、歧视或责任不清等问题。

（三）治理主体

一是国际织。国际组织是人工智能治理的协调者和推动者，致力于促进各国在人工智能领域的合作与交流，共同应对人工智能治理全球性挑战。一方面，搭建国际合作平台，促进各国在人工智能治理方面的协作与信息共享，共同探讨人工智能的未来发展方向与治理机制。另一方面，牵头统筹或参与制定人工智能的国际标准，确保人工智能技术的可信度和互操作性，促进全球范围内的技术交流与合作。

二是政府部门。政府部门是人工智能治理的主要监管者和推动者，保障人工智能技术的安全、可靠、可控。一方面，制定和执行人工智能治理相关的政策法规，明确人工智能技术的研发、应用和管理等方面的要求和规范，为人工智能技术的健康发展提供制度保障。另一方面，针对人工智能技术开展监管和执法，确保人工智能技术的应用符合法律法规和道德准则，防止滥用和误用现象的发生。

三是科技企业。企业不仅是人工智能技术的研发者和应用者，更是治理环节中的重要参与者和实践者，是推动人工智能技术健康发展的重要力量。一方面，遵循人工智能伦理原则，如可信、公平、非歧视等，确保技术的公正性和透明度，明确人工智能技术的研发、应用和管理等方面的要求和规范，推动企业内部治理体系逐步完善。另一方面，参与行业自律与标准制定，推动形成行业共识，共同应对人工智能带来的挑战和问题。

除了国际组织、政府部门与科技企业外，非政府组织、高等院校、科研机构等也在人工智能治理中发挥着重要作用，