AI 安全、信任和责任 （AI STR） 认证.docx

人工智能安全、可信、负责任（AI-STR）

认证

AISafety,Trust,andResponsibility(AI-STR)Certification

介绍手册

什么是AISTR认证

人工智能安全、可信和负责任(ArtificialIntelligenceSafety,Trust,andResponsibility；AISTR）认证由世界数字技术院(WDTA)基于WDTAAISTR系列国际标准推出的一项全球性认证项目。该认证旨在为人工智能(AI)应用的开发者和使用者提供一套全面的安全与合规保障，推动全球AI技术的安全和负责任应用。

AISTR认证不仅局限于技术层面的安全评估，更涵盖了伦理和法律合规性的全面审查。通过该认证，确保AI技术在实际应用中能够负责任地处理各种潜在风险，包括数据隐私的保护、算法偏见的消除以及其他可能对社会产生负面影响的问题。AISTR认证不仅为企业提供了在快速发展的AI领域中保持领先的保障，还帮助其在全球市场中建立起广泛的信任与声誉。通过推动安全、可信和负责任的AI应用，AISTR认证助力构建一个更加安全和公平的数字未来。

AISTR

AISTR标准

2024年4月，WDTA在联合国日内瓦总部万国宫举办的第27届联合国科技大会AI边会“塑造AI的未来”上发布了两项具有重要意义的国际标准：“生成式人工智能应用安全测试标准”和“大语言模型安全测试方法”。这是国际组织首次在大模型安全领域发布国际标准，为业界提供了统一的测试框架，推动人工智能技术的安全、可靠发展。

新华网在现场对标准的发布进行报道，https:///news/p/520906.html

标准发布现场图，地点：瑞士联合国万国宫

标准介绍

《生成式人工智能应用安全测试标准》为测试和验证生成式AI应用的安全性提供了一个框架，它定义了人工智能应用程序架构每一层的测试和验证范围，确保AI应用各个方面都经过严格的安全性和合规性评估。

《大语言模型安全测试方法》为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序。

《大模型供应链安全要求》概述了大语言模型供应链的安全保护框架，针对开发和运维管理过程中涉及的供应链安全风险与供应活动管理提出了要求，提供了常见的供应链安全风险和典型案例，指导供应链中的供需双方进行安全风险评估和管理。

标准相关单位

生成式AI应用安全认证

该认证旨在评估和验证生成式人工智能（GenAI）应用在安全性、可信度和责任性方面的表现。认证覆盖了多层次的测试和验证标准，包括基础模型选择、嵌入和向量数据库、提示执行、代理行为、微调、大模型响应处理测试以及AI应用的运行时安全，确保AI应用在其整个生命周期内的安全性和可靠性，以提高AI应用的安全性，减轻潜在的安全风险，提升整体质量，并推动AI技术的负责任开发与部署。

评估依据

WDTAAISTR-01GenerativeAIApplicationSecurityTestingandValidationStandard世界数字技术院WDTAAISTR-01《生成式人工智能应用安全测试标准》

评估对象

基于大语言模型（LLM）构建的人工智能应用

办公营销设计虚拟人开发人力客服财税

办公

营销

设计

虚拟人

开发

人力

客服

财税

根据场景细分的AI应用

电商游戏文娱金融工业政府医疗法律农业生物医药智慧城市房产建筑

电商

游戏

文娱

金融

工业

政府

医疗

法律

农业

生物医药

智慧城市

房产建筑

根据行业细分的AI应用

*以上为部分场景和行业

评估范围测试和验证框架包括以下8个方向：

评估范围

01基础模型选择验证基本模型的合规性数据的适当使用API安全性02嵌入和向量数据库测试数据完整性测试数据质量数据匿名化过程

01基础模型选择

验证基本模型的合规性

数据的适当使用

API安全性

02嵌入和向量数据库

测试数据完整性

测试数据质量

数据匿名化过程

03使用RAG的提示和知识检索

有效提示的构建

提示模板的创建和使用

外部API的集成

04提示执行/推理

LLM应用API测试

缓存机制和验证过程的测

试

05代理行为

内存利用率

知识应用

计划和动作启动

06微调

数据隐私测试

基本模型选择的重新评估和模型部署

07响应处理

对AI的响应、相关性、毒性和伦理

考虑进行事实核查测试

08AI应用运行安全

验证基本模型的合规性

数据的适当使用

API安全性

认证证书

证书模板