人工智能安全：原理与实践 课件 第10章 成员推理攻击原理与实践(10.1成员推理攻击原理简介).pptx

李剑博士，教授，博士生导师网络空间安全学院lijian@bupt.edu.cnJanuary23,2025第10章成员推理攻击原理与实践10.1成员推理攻击原理简介

本章介绍成员推理攻击（MembershipInferenceAttack）是一种针对机器学习模型的隐私攻击，目的在于判断特定的数据样本是否被用于模型的训练过程中。本章主要讲述成员推理攻击的原理与应用。在实践部分，主要讲述基于影子模型的成员推理攻击。

1.成员推理攻击概述成员推理攻击揭示了机器学习模型可能泄露关于其训练数据的敏感信息，尤其是在模型对训练数据过度拟合的情况下。通过成员推理攻击，攻击者可以推断出某个特定的输入是否是模型训练数据的一部分。这在涉及敏感数据的场合尤其危险，比如医疗或金融数据，因为它可能导致隐私泄露。如图所示为成员推理攻击示意图。

2.成员推理攻击分类成员推理攻击在实施攻击时，通常有两种场景：白盒和黑盒。成员推理攻击可以根据攻击的方法论分为直接攻击和间接攻击。成员推理攻击还可以根据攻击的应用场景分为在线攻击和离线攻击。

3.常见的成员推理攻击方法常见的成员推理攻击方法包括影子模型攻击（ShadowModelAttack）、基于模型置信度的攻击和基于差分隐私的攻击模型。（1）影子模型攻击（2）基于模型置信度的攻击（3）基于差分隐私的攻击模型

4.影子模型攻击影子模型攻击是一种针对机器学习模型的成员推断攻击（MembershipInferenceAttack）。其核心思想是利用一个或多个与目标模型训练方式相似的影子模型来推断某个数据样本是否被用于目标模型的训练集中。

5.影子模型攻击的步骤影子模型攻击的步骤如下：1.数据收集2.影子模型训练3.输出分析与标签生成4.攻击模型训练5.攻击执行

小结本小节简单介绍成员推理攻击原理。

祝同学们学习进步！致谢