人工智能安全治理框架1.0版 2024.pdf

人工智能

安全治理框架

全国网络安全标准化技术委员会

2024年9月

目录

1.人工智能安全治理原则……1

2.人工智能安全治理框架构成………………2

3.人工智能安全风险分类……3

3.1 人工智能内生安全风险………………3

3.2 人工智能应用安全风险………………5

4.技术应对措施………………7

4.1 针对人工智能内生安全风险…………7

4.2 针对人工智能应用安全风险…………9

5.综合治理措施………………10

6.人工智能安全开发应用指引………………12

6.1 模型算法研发者安全开发指引………12

6.2 人工智能服务提供者安全指引………13

6.3 重点领域使用者安全应用指引………14

6.4 社会公众安全应用指引………………15

人工智能安全治理框架

人工智能安全治理框架

（V1.0）

人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。

落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为

推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工

智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本

框架。

1.人工智能安全治理原则

秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促

进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点

和落脚点，构建各方共同参与、技管结合、分工协作的治理机制，压实相关主

体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人

工智能技术研发和应用生态，推动人工智能健康发展和规范应用，切实维护国

家主权、安全和发展利益，保障公民、法人和其他组织的合法权益，确保人工

智能技术造福于人类。

1.1包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取

包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的

风险及时采取措施。

- 1 -

人工智能安全治理框架

的措施。

2.3综合治理措施方面。明确技术研发机构、服务提供者、用户、政府

部门、行业协会、社会组织等各方发现、防范、应对人工智能安全风险的措施

手段，推动各方协同共治。

2.4安全开发应用指引方面。明确模型算法研发者、服务提供者、重点

领域用户和社会公众用户，开发应用人工智能技术的若干安全指导规范。

3.人工智能安全风险分类

人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期

各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当

使用、滥用甚至恶意利用带来的