基于交叉验证的稳定影响函数的影响图像识别与分析.pdf

摘要

图像分类是统计机器学习的基础任务之一，同时也是图像分割、图像检索、目

标检测等图像识别和分析任务的核心，它在自动驾驶、智慧交通、医学医疗、农业

监测等实际应用领域中都起着至关重要的作用。当前，深度神经网络模型已经成为

图像分类任务的主流/基准模型，然而拥有大量神经元和隐藏层的深度神经网络模型

由于其黑盒特性，往往缺乏良好的可解释性，即一个神经网络模型为什么会做出好

或者不好的预测，以及它是通过怎样的方式做出这样的预测的？因此，深度神经网

络模型的可解释性研究已经成为统计机器学习领域的核心研究问题之一，并且也是

当前的研究热点。赋予模型行为更好的理解和解释，对于改进模型、提升模型预测

性能、提出新的模型预测方法等均具有重要意义。

特别地，在基于深度神经网络模型的图像识别中，研究者发现在部分图像上添

加一个不可感知的微小扰动，就可以使得原先分类准确的图片被错误分类，从而使

得深度神经网络模型面临严重的图像安全问题。显然，识别出对扰动敏感的有影响

图像便可以解释模型的错误预测行为，即如何识别出这些有影响图像是其中的关键，

基于经验影响函数的影响图像识别方法为我们提供了一种新的解决方案。然而，注

意到基于单次实验的影响图像识别特别容易受训练集的影响，从而导致不鲁棒的识

别结果。为此，首先给出了理论影响函数的表达式，证明了基于单次实验的经验影

响函数事实上是理论影响函数的点估计，但是因为它没有考虑训练样本的随机性而

呈现出了极大的不稳定性。接着，提出了一种基于交叉验证多次投票集成结果的稳

定经验影响函数的影响图像识别方法，理论上证明了提出的稳定经验影响函数具有

比基于单次实验的经验影响函数更小的方差和更大的真正影响图像识别概率。最后，

ImageNet数据库、Flower_photos数据库，以及花卉图像数据库上的图像分类实验验

证了提出方法的有效性和优越性。

关键词：图像分类；可解释性；模型预测；交叉验证；影响图像；影响函数

I

目录

摘要I

ABSTRACTI

1绪论1

1.1研究背景及意义1

1.2国内外研究现状2

1.2.1深度神经网络模型的可解释性研究现状2

1.2.2基于影响函数的模型可解释性研究现状5

1.3本文研究内容及方法6

1.4文章结构7

2深度神经网络模型的可解释性方法9

2.1LIME方法9

2.2SHAP方法10

2.3置换重要性方法11

2.4积分梯度算法11

2.5基于影响函数的影响样本确定方法12

2.6基于影响函数的数据重加权方法12

2.7CLIF方法13

2.8本章小结13

3基于交叉验证的稳定影响函数的影响图像识别方法15

3.1基于单次实验的经验影响函数的影响图像识别方法15

3.2理论影响函数18

3.3基于交叉验证的稳定影响函数的影响图像识别方法18

3.3.1交叉验证方法21

3.3.2基于交叉验证的稳定影响函数的影响图像识别方法23

3.4基于交叉验证的稳定影响函数的影响图像识别方法的理论分析25

3.5本章小结30

4实验分析31

4.1实验数据库31

4.2实验设置与实验框架33

4.3实验结果与分析35

4.4本章小结46

5总结与展望49

5.1总结49

5.2展望49

参考文献57

攻读学位期间取得的研究成果63

致谢65

个人简况及联系方式67

承诺书69

学位论文使用授权声明71

Contents

ChineseAbstractI

AbstractI

Chapter1Introdu