美国人工智能风险管理与治理体系现状及特征.pdfVIP

网络空间战略论坛

CyberspaceStrategyForum

美国人工智能风险管理与治理体系现状及特征

文│上海社会科学院信息研究所吴宇昂

【摘要】美国在2023年逐步建立起较成熟的美国人工智能风险管理与治理体系。该体系不仅界定了

人工智能风险的内涵，也依据各参与方的职能区分为治理、测量、管理和映射等四个方面。在美国国内，

白宫、国会、国防部、管理和预算办公室、国家标准与技术研究院等各司其职，初步组成了风险管理流

程的各个环节。在国际社会，美国与盟友合作，共同形成风险治理标准并达成共识，希望推动自己的人

工智能治理框架走向国际社会，形成可信赖的风险治理合作平台。

【关键词】人工智能；风险治理；美国

人工智能的更新迭代使其风险不断增加，

错误信息、数据滥用、深度伪造等问

题正成为各利益相关方关注的重要挑战。美国国

家标准与技术研究院（NIST）在2023年1月发布

的《人工智能风险管理框架》（AIRMF）（以下

简称“框架”）中提出了人工智能管理框架，包

括治理、映射、测量和管理等四个角度（详见下

图）。治理在框架中发挥奠基作用，通过加强政

策透明度、完善问责制、加强技术能力等方式，

图美国NIST的人工智能管理框架

不断完善人工智能风险管理的整体框架。映射则

是为了针对特定场景定制人工智能风险解决方案。一、美国人工智能风险管理体系现状

测量以确定评估标准和评估工具为主，分析、评估、

测试和监控人工智能风险及其相关影响。管理则美国国内人工智能风险管理的主要参与者包

是在风险治理相关措施都已经确立的情况下，结括白宫、国会、管理和预算办公室（OMB）、

合实践经验评估当前措施的可行性，并提出建议NIST和以国防部为代表的特定领域部门等。

的更新路径。管理与治理是一组侧重不同的概念。（一）白宫的“治理”角色

管理侧重优化组织内部的运作体系，改善业务效白宫在美国人工智能风险管理体系中负责提

率，优化资源分配，并提升决策质量。治理则更出战略与规划，并连接各方的人工智能风险管理

注重监管和规范社会层面的人工智能技术发展，成果，承担管理框架中的“治理”角色。

确保其在透明度、可解释性、伦理道德等多方面2023年10月，拜登政府发布《关于安全、可

均符合参与方利益。因此，美国国内人工智能治靠和值得信赖的人工智能的行政命令》（Executive

理参与者提出了人工智能管理框架。在国际社会，OrderontheSafe,Secure,andTrustworthy

美国则与多国共同达成了人工智能治理合作意向。DevelopmentandUseofArtificialIntelligence）（以

借助NIST的人工智能管理框架，分析美国人工智下简称“行政令”）。行政令要求，对国家安全、

能风险管理和治理的主要动作及意图，以及美国网络安全、公共卫生安全构成严重风险的企业，

目前人工智能风险管理与治理未来的可能发展方需要借助NIST开发的红队测试标准在模型训练阶

向和存在的挑战，可供相关方参考。段向联邦政府通报测试结果。行政令还要求美国

64/2024.03

网络空间战略论坛

CyberspaceStrategyForum

商务部部长联合NIST主任、能源部部长、国土安管理流程作出了三个方向的区分，具有较强的可