人工智能 风险管理能力评估 编制说明.docx

1

《人工智能风险管理能力评估》

（征求意见稿）编制说明

一、工作简况

1.任务来源与起草单位

根据国家标准委关于下达2023年第四批国家标准制修订计划的通知，国家标准《人工智能风险管理能力评估》制定计划下达，项目计划号为T-469，由全国信息技术标准化技术委员会提出并归口。

本文件由中国电子技术标准化研究院、中国科学院软件研究所、华为技术有限公司、中建科技集团有限公司、安全AI、中国医学科学院生物医学工程研究所、北京旷视科技有限公司、威麟信息技术开发（上海）有限公司、北京理工大学、中科南京软件技术研究院、浪潮软件科技有限公司、OPPO广东移动通信有限公司、上涛依图网络科技有限公司、山东省计算中心（国家超级计算济南中心）、国际商业机器（中国）有限公司、浙江大华技术股份有限公司、云从科技集团股份有限公司、英特尔（中国）有限公司、中国工程物理研究院计算机应用研究所、电子科技大学、中国科学院计算技术研究所、北京航空航天大学、上海仙塔智能科技有限公司、上海计算机软件技术开发中心、联想（北京）有限公司、联仁健康医疗大数据科技股份有限公司等单位共同编写。具体参与单位将根据实际参与情况进行调整。

2.编制背景及意义

近年来，人工智能产品已经在智慧医疗、智慧交通、智慧司法、智能教育等方面取得了较大的突破。然而，人工智能产品性能和设计特点都不一样，产品质量参差不齐，人工智能产品在推动人类社会进步的同时，也可能引发一系列风险。这些风险中包括了人工智能产品开发过程中涉及的

2

技术风险、应用风险、管理风险，不仅对使用者安全、自然环境造成的物理影响，也对使用者宗教信仰、文化、情感造成的精神影响。

此外，开发过程涉及的人员机制和组织流程也会对人工智能产品落地具有直接影响。而良好的风险评估有助于降低产品失败的几率、避免可能的资金与时间损失、相对提高企业本身的附加价值，更有利于人工智能产品的广泛应用，并提高社会及公众对人工智能产品使用的信心。

因此，确保人工智能技术平稳安全落地，不是被动地在发生危险后紧急处理相关问题，而是提前预防人工智能产品在不同应用场景中存在的潜在风险，防止技术手段在实际运用中可能出现的故障、失效、被入侵等隐患，有必要在人工智能领域建立面向人工智能产品的风险评估相关的标准，来引导人工智能产品的开发和应用全生命周期涉及的各类组织开展相关工作，建立人工智能产品设计者、制造者、使用者以及其他利益相关者合作共赢的生态体系。

本文件提出了人工智能风险管理能力评估参考模型，规定了人工智能风险管理能力框架、能力等级和评估方法。本文件适用于对组织级人工智能利益相关方所提供的人工智能风险管理能力的评估。

3.工作过程

2023年12月28日，该标准研制计划正式下达。

2024年1月-2月，在该标准立项材料基础上，中国电子技术标准化研究院组织软件所、安全AI、中建科技集团等核心参与单位代表讨论标准框架和完善方向，形成工作组讨论稿。

2024年3月，编制组在北京组织标准开题暨标准研讨会，充分调动社会各界力量参与标准研制。

2024年4月-8月，编制组多次召开标准研讨会，持续完善标准草案。2024年9月，编制组在青岛召开标准研讨会，形成标准征求意见稿。2024年10月，编制组在听取了标准化专家的修改意见后，形成标准征

3

求意见稿与编制说明。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1.标准的主要内容

本文件提出了人工智能风险管理能力评估参考模型，规定了人工智能风险管理能力框架、能力等级和评估方法。

本文件适用于对组织级人工智能利益相关方所提供的人工智能风险管理能力的评估。

该文件主要技术内容包括：

--人工智能风险管理能力评级--人工智能风险管理能力评估

2.标准编制依据

该文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

该文件的术语、概念等主要参考：GB/T24353:2022《风险管理指南》、GB/T23694:2013《风险管理术语》、GB/T41867:2022《信息技术人工智能术语》、ISO/IEC22989:2022《人工智能概念和术语》、ISO/IEC23894:2023《人工智能风险管理指南》、ISO/IEC31000:2018《风险管理指南》、ISO/IEC42001:2023《人工智能管理体系》等标准。

3.标准编制原则

确保本文件规定的内容科学合理，具有普适性，可以为我国人工智能的风险识别、防范、应对提供统一指导和参考。

三、主要试验[或验证]情况分析

在标准研制过程中，在中科