面向深度学习模型的鲁棒性解释方法研究-吴晓豪.pdfVIP

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

面向深度学习模型的鲁棒性解释方法研究

硕士研究生吴晓豪

2024年12月15日

问题回溯

•相关内容

–2024.06.03夏志豪：《图神经网络的反事实解释方法》

–2024.01.17段学明：《DNN中的理论可解释性》

–2023.11.19夏志豪：《智能模型解释技术及其攻击方法》

2

内容提要

•预期收获

•题目内涵解析

•研究背景与意义

•研究历史与现状

•知识基础

•算法原理

–MeTFA

–RobustAGA

•特点总结与工作展望

•参考文献

3

预期收获

•预期收获

–1.掌握深度学习模型解释方法的基本概念

–2.理解模型鲁棒性解释方法的算法原理

–3.了解模型鲁棒性解释方法的发展趋势和应用前景

4

内涵解析与研究目标

•内涵解析

–解释方法：用于揭示模型决策逻辑的技术，有助于使用者

理解模型是如何基于输入数据做出特定预测或决策

–鲁棒性解释方法：解释方法在面对输入扰动或对抗攻击

时，仍能提供一致的解释结果

输入图像

•研究目标

–面向深度学习模型的可解释性研究

–研究目标模型解释方法鲁棒性的关键问题

–结合深度学习、梯度对齐、正则化等理论

–实现解释方法鲁棒性的提升，同时保持模型准确性

解释图像

5

研究背景与意义

•研究背景

–深度神经网络技术发展迅速，在图像识别、自然语言处理等领域发挥重要作用

–复杂模型的决策过程难以展示，导致使用者对模型决策的信任感降低

–模型的解释方法有受到自然扰动或对抗攻击的风险

•研究意义客户资金

市场环境国家经济走向

–提升使用者对深度学习模型决策过程的信任

–助力深度学习模型在金融、医疗等高度依赖

模型解释性能的领域的应用落地

–促进可信人工智能体系完善与深入发展Bank

证券行情

6

研究历史与现状