可怕的人工智能换脸术.docx

?

?

可怕的人工智能“换脸术”

?

?

李瑶

联合科研界和产业界的力量，共同做好前瞻技术研究，掌握应对之策。

霍金、马斯克等科学家、企业家们担忧的人工智能威胁，终于随着技术的快速发展，显露出冰山一角。

近期，美国和德国联合科研团队在一次试验中，成功利用人工智能技术让美国前总统奥巴马和俄罗斯总统普京在演讲视频中“换脸”，代替对方演讲。欧美人工智能领域的研究人员与智库人士在研究报告中提醒，要高度警惕人工智能技术被恶意使用滥用的风险。

国内专家表示，基于人类和国家安全的考量，相关部门应高度关注恶意使用人工智能技术的潜在风险，需要联合科研界以及产业界的力量，共同做好前瞻技术研究，掌握应对之策。

AI“换脸”效果逼真

美国斯坦福大学和德国慕尼黑工业大学的联合研究团队近期使用一种名为“生成对抗性网络（GAN）”的人工智能技术，成功将美国前总统奥巴马和俄罗斯总统普京的演讲面部动作和声音剪辑互换，实现“换脸”。

在公开的演示视频中，研究人员将奥巴马的头部动作、面部表情、讲话动作、眨眼等精确地“复制”到普京的脸上，配上奥巴马的原声，最终效果呈现为普京在朗读奥巴马的演讲内容，常人难以分辨。

美、德科学家的这次试验不是技术人员第一次用人工智能技术给公众人物“换脸”制作假视频。

早在今年4月，美国制片公司“猴爪（MonkeypawProductions）”就曾利用名为“深度仿真（DeepFake）”人工智能技术，制作了一段虚假视频，视频中奥巴马对现任美国总统特朗普进行了严厉的批评。但实际上奥巴马的表情动作合成自“猴爪”公司的创始人乔丹·皮尔。

2017年7月，应美国情报高级研究计划局（IARPA）的要求，哈佛大学曾对此类技术进行研究，并发布一本名为《人工智能与国家安全》的报告，得出结论认为，目前人工智能技术的“伪造”水平已经较为强大，能够逼真地实时修改视频上个别人的面部表情和说话时的嘴唇运动;能为有足够丰富音视频资源的个人生成用真实声音合成的录音;并能自动生成逼真的音响效果，给无声视频配音。

美国制片公司曾用人工智能技术制作了一段美国前总统奥巴马的虚假视频。

报告还预测，在不久的将来，这些技术工具将不只供高级计算机科学家使用，还可以面向任何人。

这意味着，业余爱好者也可以借助相应的工具生成大规模的逼真高清晰度视频、音频和文件类伪造品。

警惕潜在风险

技术本无善恶，但它被恶意使用的可能性，还是引起了一些担忧。

美、德“变脸术”试验团队研究人员贾斯特斯·泰斯表示，他们意识到这项技术的危险性，虽然它的初衷可能是应用于电影配音和特效制作，但也可以被恶意应用到政治、舆论、金融等其他领域，或者普通民众的生活中。

乔丹·皮尔表示，他的公司制作并对外公布“奥巴马批评特朗普”虚假视频，也是为了警醒外界，让人们理解这项技术的潜在危险。

《人工智能与国家安全》报告认为，一旦人工智能伪视频生成工具向未经培训的业余爱好者开放，网络信息舆论生态的绝大部分可能被伪造品占领。人工智能技术的发展将对新闻舆论、政府通信、刑事审判证词、国家安全、公众安全等领域带来一定风险。

从舆论传播层面看，由人工智能技术实现的伪内容与网络攻击和社交媒体僵尸网络相结合，不仅让假新闻更难鉴别，一旦黑客控制官方的新闻机构网站或社交媒体账户，用于散播假的文本、視频和音频。

从公众安全层面看，犯罪者可利用受害者的图片、声音冒充受害人跟另一个人聊天、交易，不仅危害他人隐私、财产乃至生命安全，伪造出来的“现实”与“事实”也会给检验分析人员带来更多干扰，侵蚀社会信任度。

从国家安全层面看，一旦比顶级电影特效还真实的人工智能伪造品被恶意使用在领导人及其他关键人物身上，不仅会导致领导人形象受损，如果伪造领导人发出有悖于国家安全利益的政治观点或指令，也将导致恶果。

做好前瞻研究

为规避人工智能“换脸术”潜在的安全风险，欧美国家安全机构正在联合高校进行前瞻研究，研发相应的反制工具和技术。

美国国防部高级研究计划局（DAPRA）在今年5月资助了一项名为“媒体内容鉴定”的计划，联合纽约州立大学研究团队研发出全球首款“反变脸”的人工智能刑侦检测工具，通过对大量虚假视频的甄别试验，目前辨别准确率达到99%。

不过这只是阶段性的应对成果，达特茅斯大学数字取证专家汉尼·法里德表示，机器学习系统可以接受更先进的训练，然后超越当前的反变脸工具。

换句话说，现有人工智能刑侦取证工具的诞生，仅仅标志着人工智能视频伪造者和数字刑侦人员之间人工智能“军备竞赛”的开始。这会是一条长期而充满复杂可能的艰巨道路。

“媒体内容鉴定”计划负责人大卫·古宁也表示，美国国防部高级研究计划局将继续进行更多测试来“确保开发中的识别技术能够检测到必威体育精装版的造假技术”。

国内一些网络安全领域的专家认为，我国也必须高度警惕人工智能技术被恶意使用的舆论安全和国家安全