对抗样本迁移性增强技术研究.pdfVIP

对抗样本迁移性增强技术研究

摘要

以深度学习技术为代表的人工智能技术在计算机视觉、自然语言处理等多个领域

都取得了远超传统算法的效果并取得了广泛应用。然而现有结构的深度学习模型普遍

存在鲁棒性不足的问题，极易被攻击者精心制作的对抗样本误导，给出错误的预测结

果，这阻碍了深度学习技术在自动驾驶，医疗诊断等敏感领域的应用。研究如何生成

攻击性更强的对抗样本有助于深入理解深度学习模型的工作原理，揭示模型的弱点，

推动深度学习技术的进一步发展和更安全、更广泛的应用。本文针对现有黑盒迁移攻

击算法普遍存在的不足提出了两种解决方法：

1、针对对抗样本生成过程中迭代轨迹多样性不足和没有充分利用替代模型反馈信

息的问题，本文提出了基于加速梯度下降的对抗样本生成算法，通过引入Nesterov加

速梯度下降算法稳定对抗样本生成方向，避免对抗样本被替代模型中较差的局部极值

点捕获，为了进一步增加对抗样本生成路径多样性，该算法使用两条迭代路径同时更

新对抗样本，此外，在成功攻击替代模型之后，本文提出的算法将继续推动对抗样本

朝着错误分类的方向前进，使得对抗样本学习到更多错误分类的特征。在Stanford

Dogs数据集上的实验表明，该算法能够减弱白盒攻击成功率与黑盒迁移攻击能力之间

的制约，提高所生成对抗样本对各类黑盒模型的攻击成功率。

2、针对对抗样本扰动范围大，没有在对模型决策有重要影响的关键特征所在区域

进行针对性扰动的问题，本文提出了基于显著图的对抗样本生成算法。该算法通过生

成输入图片的显著图确定其对模型决策有重要影响的关键特征区域，再使用掩码对图

片的关键特征区域进行针对性攻击。该算法能够限制对抗扰动的生成区域，重点破坏

对模型决策有重要影响的关键特征。在StanfordDogs数据集上的实验表明，该算法能

够在减少修改图像总像素的同时增加对抗样本的迁移性。

关键词：迁移攻击；黑盒攻击；对抗样本；深度学习

对抗样本迁移性增强技术研究

ABSTRACT

Artificialintelligencetechnologyrepresentedbydeeplearningtechnologyhasachieved

farbetterresultsthantraditionalalgorithmsandhasbeenwidelyusedinmanyfieldssuchas

computervisionandnaturallanguageprocessing.However,theexistingstructureofthedeep

learningmodelgenerallyhastheproblemofinsufficientrobustness,anditisveryeasytobe

misledbytheattackerselaboratelycraftedadversarialexamples,givingwrongprediction

results,whichhinderstheapplicationofdeeplearningtechnologyinsensitiveareassuchas

automaticdrivingandmedicaldiagnosis.Studyinghowtogeneratemoreaggressiveadversarial

examplescanhelptodeeplyunderstandtheworkingprincipleofdeeplearningmodels,reveal

theweaknessesofthemodels,andpromotethefurtherdevelopmentofdeeplearning

technologyandsaferandwiderapplications.Inthispaper,twosolutionsarepropo