面向生成模型的模型窃取方法-丁杨.pdfVIP

ThenameoftheDepartment

BeijingForestStudio

部门名称

北京理工大学信息系统及安全对抗实验中心

面向生成模型的模型窃取方法

硕士研究生丁杨

2022年07月17日

内容提要

•背景简介

•基本概念

•算法原理

•优劣分析

•应用总结

•参考文献

2

背景简介

•预期收获

–1.了解模型窃取方法的发展历史

–2.理解面向生成模型的模型窃取方法的技术原理

–3.了解生成模型窃取效果的评价指标

–4.了解模型窃取在网络安全领域中的应用

3

背景简介

•模型窃取的发展历史

–2016年，Tramer等人通过求解从机器学习模型结构导出的方程来提取模型的参数，

但只限于SVM、随机森林等简单的模型

–2017年，Papernot以牺牲替代模型的准确性为代价，通过近似目标模型的决策边

界，近似窃取了DNN模型

–2018-2019年，Orekondy等一些科学家先后在已知训练数据、已知训练数据种子样

本等条件下，实现了对DNN的窃取

–之前的研究都着眼于判别模型，必威体育精装版的研究表明，生成模型也面临模型窃取风险

4

基本概念

基本概念

5

基本概念

•模型窃取

–概念：一类隐私数据窃取攻击，攻击者通过向目标模型进行查询获取相应结果，

窃取目标模型的参数或者对应功能

–目的：

•免费使用模型功能

•进行白盒对抗攻击

–方法

•构建方程求解参数

•基于元模型

•构建替代模型

6

基本概念

•构建方程求解参数

–获取模型的算法、结构等相关信息，然后构建公式方程来根据查询返回结果求解

模型参数

–考虑逻辑回归模型

=∙+∈，∈

–通过+1个线性无关的输入及结果构造公式求解和

∙+=−1

−11

∙+=

111