- 1、本文档共57页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
信息安全技术
机器学习算法安全评估规范
Informationsecuritytechnology—
Assessmentspecificationforsecurityofmachinelearningalgorithms
2023-08-06发布
2024-03-01实施
I
GB/T42888—2023
目次
前言 Ⅲ
1范围 1
2规范性引用文件 l
3术语和定义 1
4概述 2
4.1安全原则 2
4.2安全要求分级 2
5机器学习算法技术安全要求和评估方法 2
5.1安全要求 2
5.2评估方法 5
6机器学习算法服务安全要求和评估方法 9
6.1安全要求 9
6.2评估方法 9
7机器学习算法安全评估流程 11
7.1流程要求 11
7.2评估准备 11
7.3评估方案 11
7.4评估执行 12
7.5评估结论 12
7.6评估报告 12
附录A(规范性)算法推荐服务安全要求 14
附录B(规范性)算法推荐服务评估方法 21
参考文献 29
GB/T42888—2023
信息安全技术
机器学习算法安全评估规范
1范围
本文件规定了机器学习算法技术和服务的安全要求和评估方法,以及机器学习算法安全评估流程。
本文件适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安
全评估,也可为监管评估提供参考。
2规范性引用文件
本文件没有规范性引用文件。
3术语和定义
下列术语和定义适用于本文件。
3.1
机器学习算法machinelearningalgorithm
功能单元通过学习新知识技能或整理已有知识技能以改进其性能的算法。
3.2
机器学习算法提供者machinelearningalgorithmprovider
利用机器学习算法实现特定功能的组织。
注:本文件中简称算法提供者,包括算法技术提供者和算法服务提供者。算法技术提供者是指算法技术的开发和
提供方,算法服务提供者是指使用应用算法技术的服务提供方。
3.3
算法推荐服务algorithmicrecommendationservice
互联网信息服务算法推荐internetinformationserviceofalgorithmicrecommendation
应用算法推荐技术提供信息的服务。
注1:应用算法推荐技术是指利用机器学习算法实现生成合成类、个性化推送类、排序精选类、检索过滤类、调度决
策类等算法技术,向用户提供信息的活动。
注2:本文件将生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法统称为五类算法。
3.4
算法生存周期algorithmlifecycle
机器学习算法从设计到退役的演进过程。
注1:算法生存周期包括设计开发、验证确认、部署运行、维护升级、退役下线。
注2:一般算法服务处于部署运行阶段。
学兔兔www.bzfxw.标淮下载
GB/T42888—2023
3.5
健壮性robustness
机器学习算法在受到干扰或攻击等情况下维持其性能等水平的能力。
[来源:GB/T28457—2012,3.8,有修改]
3.6
准确率accuracy
对于给定的数据集,得到正确结果的样本数占总样本数的比率。
3.7
生成合成信息generativesyntheticinformation
利用虚拟现实、深度学习等技术对文本、图像、音频、视频、场景模型等进行生成或者编辑所得到的
信息。
4概述
4.1安全原则
机器学习算法安全原则:
a)公平合理:符合社会伦理道德,遵循社会公序良俗,维护我国社会群体间权利公平、机会公平、
过程公平和结果公平的状态;
b)公开可解释:工作原理具备一定的可解释性且向用户充分公开;
c)诚实可信:严格遵照设计、遵守承诺,不欺骗、不误导、不隐瞒,充分尊重服务对象和社会利益。
4.2安全要求分级
机器学习算法安全要求分为基本级与增强级:
a)基本级:对机器学习算法的基本安全要求;
b)增强级:当机器学习算法可能涉及影响国家安全、社会安定、公民生命财产安全等关键事项决
策时符合的增强安全要求,对应条款用粗体表示。
5机器学习算法技术安全要求和评估方法
5.1
文档评论(0)