AI安全系列-以子之矛-攻子之盾-从deepfakes深度伪造技术看AI安全-浙商证券.pdfVIP

证券研究报告

AI安全系列：以子之矛，攻子之盾

——从deepfakes深度伪造技术看AI安全

行业评级：看好

2023年6月26日

分析师刘雯蜀研究助理刘静一

邮箱liuwenshu03@邮箱liujingyi@

证书编号S1230523020002

-2-

摘要

1、Deepfakes技术始于2014年，随着AI大模型能力的提升关注度持续增高

Deepfakes定义可分为广义和狭义两个层次，其中广义上指利用了以生成对抗网络技术（GAN）为主体的深度学习技术制造的

看起来很真实但实际上属于虚假的图片或视频。随着AI大模型的能力不断突破，deepfakes受到的关注度持续增高。

2、生成式AI模型是Deepfakes的技术基础，而人脸伪造技术是deepfakes的一个重要分支

生成式AI是深度学习的一个分支，根据生成内容的类别，生成式AI模型可进一步被分为生成式语言模型和生成式图片模型。而

随着多模态模型的应用逐步深入，生成式AI模型也开始向多模态方向发展。目前主流生成式AI模型包括VAE、GAN、diffusion

模型等，stablediffusion模型的发布再次使得生成式AI的输出质量大幅提升。95%

人脸伪造技术是deepfakes的一个重要分支，可被进一步划分为有目标可视身份伪造和无目标可视身份伪造，其中有目标可视身

份伪造技术已经在俄乌冲突中有所应用。添加标题

3、生成式AI技术的迭代增加伪造图片的真实度，同时增大AIGC识别难度

考虑到：1）数据层面，可供训练的数据集规模扩大，带来模型效果的大幅提升；2）算法层面，算法框架的迭代与组合，使得

模型训练更加高效、稳定；3）算力层面，算力水平的提升，助力更加高效的复杂模型训练，AI伪造图片的真实度不断增加，使

得识别难度增大，带来的潜在风险提升。

4、反AI生成市场空间约64亿元

针对AI生成图像可能带来的风险，各国政府陆续推出政策加以约束。根据我们测算，反AI生成市场空间约64亿元，其中监管侧

44亿元，企业侧20亿元。

5、部分反AI生成相关公司

上市公司：美亚柏科、东方通2

非上市公司：瑞莱智慧、中科睿鉴、Illuminarty（海外）、AIVoiceDetector（海外）、Google（海外）

-3-

风险提示

1、AIGC监管以及识别技术研发以及相关产品落地不及预期

2、报告中对各类模型的介绍与总结基于对于相关论文内容的理解，具有一定主观性

3、报告中对于反AI生成的市场空间测算存在主观判断及口径差异

4、由AI安全需求带来的市场竞争加剧

5、板块政策发生重大变化

3