人工智能安全：原理与实践 课件 第11章 属性推理攻击原理与实践(11.1属性推理攻击原理简介).pptx

李剑博士，教授，博士生导师网络空间安全学院lijian@bupt.edu.cnJanuary23,2025第11章属性推理攻击原理与实践11.1属性推理攻击原理简介

本章介绍属性推理攻击通常利用机器学习和数据挖掘技术，从公开或已知的属性中推测出隐私属性,因此从隐私保护的角度研究属性推理攻击具有重要的理论意义和实用价值。本章主要讲述属性推理攻击（AttributeInferenceAttack）的概念、原理、攻击场景和常用方法。在编程实践部分讲述了一个基于神经网络的属性推理攻击。

1.属性推理攻击介绍属性推理攻击的目标通常包括个人敏感信息，用户行为模式，社交关系等。除了造成对用户隐私的严重侵犯，通过属性推理攻击获取的信息，攻击者可以进一步进行社会工程学攻击，例如假冒身份进行诈骗、获取更多个人敏感信息，甚至进行身份盗用。如图所示为机器学习中的属性隐私问题。

2.属性推理攻击的攻击场景属性推理攻击通常包含以下具体攻击场景：第一种是社交网络用户的隐私信息（如性别、年龄、兴趣爱好等）通过其社交关系和互动行为被推断。第二种是推荐系统中的属性推理攻击，推荐系统用户的隐私信息（如性别、年龄、收入水平等）通过其历史浏览和购买记录被推断。第三种是位置数据中的属性推理攻击，攻击者通过用户的地理位置数据推断用户的隐私属性。

3.属性推理攻击常用方法而属性推理攻击通常有以下攻击方法：（1）第一种是基于对抗变分自动编码器，它结合了变分自动编码器（VAE）和生成对抗网络（GANs）的优点。（2）第二种是基于图卷积网络的属性推理，它适用于处理图结构数据，通过聚合节点的邻居信息进行特征学习，可以用于社交网络中推断用户的隐私属性。（3）最后一种常用方法是基于隐马尔可夫模型的属性推理，隐马尔可夫模型是一种统计模型，通过观测序列推断隐藏状态序列，可以用于时间序列数据中的隐私属性推断。

小结属性推理攻击是指攻击者通过访问用户的部分数据和相关信息，推断出用户的其他属性或敏感信息的攻击方式。本小节主要介绍属性推理攻击的攻击场景和常用方法。

祝同学们学习进步！致谢