22672126_“深度伪造”技术安全风险分析及政策建议 .pdfVIP

Bus

“深度伪造”技术

安全风险分析及政策建议

■卫霞白国柱王蓓蓓张文俊︱文

2017年，网友“deepfakes”使用生成对关注度较高的有FaceApp、FacesWap、

抗网络（GenerativeAdversarialNetworks，DeepfaceLab、OpenfacesWap等，这些应

GAN）技术制作了大量女明星换脸的色情视频，用程序大多支持一键式操作，使用者无需技术

聚集了近2万名用户，引起极大关注，其中一个门槛，方便易操作。在国内，陌陌公司发布的

视频播放量甚至超过150万次。网友将这类虚假社交应用Zao也在2019年“大出风头”，通

图像、视频称之为：Deepfakes，即深度伪造。过该应用，用户可以把自己的脸换到电影明星

的身上，并插入到著名的电影或电视片段中；

在华为应用市场中也可搜到“AI换脸”等应

国内外掀起了对GAN技术的研究热潮用App，截至2020年10月14日安装量达

13万次。

关于GAN技术的研究，国内外有上百种相

关衍生模型相继被提出，其中不乏经典模型，

以CGAN、LAPGAN、DCGAN、CoGAN、GAN技术会对公众社会产生不良影响

WGAN、PGGAN、SAGAN、BigGAN、Style-

GAN等为代表，创新之处涵盖对模型结构的改进、由于生成效果逼真，基于生成对抗网络的

深度伪造技术理论扩展以及应用方便等多个方面，人脸生成技术势必会得到广泛应用。在教育领

当然各模型生成图像的效果也越来越逼近真实图域，该技术可以改变传统的枯燥阅读和讲座的

像，达到以假乱真的地步。例如，大量的测试样模式，以令人信服的方式向学生提供知识；在

例表明，采用Style-GAN模型生成的人脸已与真艺术领域，该技术可以采用较低成本“复活”

实的人脸无法分辨，测试图像如图1所示。过世的表演者，如过世的保罗·沃克得以在《速

度与激情》后续电影中继续飙车；在自我表达

领域，该技术可以提供将真实自己的拟像整合

到一系列多媒体中的能力，从而产生类似于“虚

拟现实”效果，自主表达个性。然而，技术是

一把双刃剑，在带来广泛应用的同时，难以辨

伪的Deepfakes与高度开放流动的社交网络结

合，令虚假的信息以高度可信的方式呈现给社

会公众，其影响力能被成千上万倍放大，对个人、

图1Style-GAN模型测试图像社会乃至国家都会产生影响。

在代码托管服务平台Github中，基于对个人产生严重伤害

GAN衍生的深度伪造应用数量有很多，其中新技术成为主流威胁之前常被用来作为个