人工智能安全-12-2-大数据隐私攻击与保护.ppt

*人工智能安全

--大数据隐私攻击与保护提纲关系型数据隐私保护位置隐私保护社交网络匿名保护技术k-匿名是一种经典的用于针对关系型数据而提出来的隐私保护方法，它包含了两方面问题：一是k-匿名原则，用于控制匿名程度；二是，k-匿名算法的设计与实现。匿名化原则基本原则：K-匿名原则是要求所发布的数据表中的每一条记录不能区分于其他K-1（K为正整数）条记录。K=2多样化原则（l-diversity）：在划分等价类时，除了考虑准标识符外，也考虑敏感属性。L是等价类中敏感属性不同值的个数。同时也满足L=2的多样化原则提纲关系型数据隐私保护位置隐私保护社交网络匿名保护技术位置隐私保护常见的场景是基于位置的服务（LBS），服务商根据用户提供的位置信息进行服务推荐。但用户希望保护自己的位置隐私，由此服务质量和位置隐私之间存在矛盾。对于轨迹隐私，常见的场景有路径规划、行程推荐等。位置隐私保护技术的主要方法有随机噪声、模糊化、K-匿名等添加随机噪声添加随机噪声的基本思想是在位置数据中加入噪声，将噪声位置和真实位置一起发给服务提供商，并根据真实位置过滤出服务提供商返回的结果。考虑更多的实际情况不同地点用户访问的概率各不相同。例如：沙漠、海洋等地点人烟稀少，用户访问的概率较低，而公园、广场等人流量，用户访问的概率高。可以通过定义查询度来度量不同地点用户访问的概率，并挑选与真实位置查询度相近的地点生成假位置。考虑真实环境下的约束条件，降低位置的可追溯性，保证用户的位置隐私。模糊化所谓模糊化就是把精确的经纬度点位置扩大为一个区域，降低位置的精度，从而实现真实位置的隐私保护。而这个区域可以用圆、矩形等各种形状来表示，但是需要得到服务端的支持，允许对提交的区域进行服务检索。K匿名作为经典的隐私保护方法，K-匿名也可以用在其他非结构化数据的隐私保护中。在位置服务中要划分等价类，就需要有足够数量的位置请求，因此只适用于位置请求比较密集的区域。时间模糊化假如矩形框是一个敏感位置区域，具体实现可以采用延时方式，等待区域内有多个用户。真实位置模糊化位置不同方法的安全性和可用性分析随机化噪声位置技术的安全性取决于位置的合理性模糊化：所设定的区域越大，可用性就降低基于等待策略的位置K匿名：需要等待，对实时性要求不高的应用是合适的提纲关系型数据隐私保护位置隐私保护社交网络匿名保护技术由于社交网络具有图结构特征，其匿名保护技术与结构化数据有很大不同。关系数据隐私保护模型仅考虑攻击者将关系数据中每条记录的属性值作为背景知识进行隐私攻击,忽略了社会网络中结点之间的关系、社会网络图结构、结点在图中的结构和位置重要性等均可作为攻击者的背景知识进行隐私攻击社会网络中的隐私信息社交网络中的典型匿名保护需求为：某个人是否存在于社交网络中某个人是社交网络中的哪个节点用户属性用户关系结构社交网络隐私攻击大数据隐私的攻击方法包括链接攻击、一致性攻击、背景知识攻击等等，但针对社交网络数据的攻击有更多独特的方式。针对节点的攻击针对边的攻击针对子图的攻击隐私保护方法社交网络隐私保护方法有多种方法，既可以采用K-匿名，也可以采用加噪声等方法。这里，介绍节点K-匿名、子图K-匿名和数据扰乱。实现K-匿名比较好的方法之一是聚类，将社交网络中所有结点聚类成若干超点，其中每个超点至少包含K个节点，由于在超点中节点相互之间不可区分，因此在该社会网络中，节点受隐私攻击而导致隐私泄露的概率小于1/K。子图k匿名数据扰乱数据扰乱的基本思想是通过对社交网络图进行随机化修改，类似于差分隐私的添加噪声，使得攻击者不能准确推测出原始真实数据，从而起到保护社交网络数据隐私的作用。包括数值扰乱和图结构扰乱。*