面向深度学习组件的漏洞挖掘-刘力源.pdfVIP

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

面向深度学习软件库的漏洞挖掘方法

硕士研究生刘力源

2021年12月12日

内容提要

•背景简介

•基本概念

•算法原理

•优劣分析

•应用总结

•参考文献

2

背景介绍

•预期收获

–1.了解深度学习软件库的功能及研究其安全性的意义

–2.了解面向深度学习软件库的漏洞挖掘方法

–3.了解现有方法的局限性、改进策略

3

背景介绍

•研究人工智能安全的最终目标是什么？

–功能+性能：预测或分类的实现、准确性

–必威体育官网网址、正常运行

•人工智能系统的安全威胁来自何处？

–模型缺陷

–外部攻击

–…

–底层组件

•深度学习算法直接使用较为复杂

–解决：开发高阶的应用程序接口

–问题：框架带来的安全问题直接影响到上层模型

4

背景简介

•框架开发者并未重视安全问题

5

背景简介

•漏洞

–定义：系统设计、实现或操作和管理中的缺陷或弱点，可以被利用来违反系统的

安全策略

–关于缺陷（Bug）：硬件、软件或协议上的逻辑错误和安全策略弱点

•漏洞挖掘

–静态挖掘

•分析程序的词法、语法和语义等，结合数据流、控制流信息

–动态挖掘

•在实际执行程序的基础上采用的分析技术

6

面向深度学习软件库的漏洞挖掘

基本概念

基本概念

•深度学习K

系统典型

K

架构C/C++e

r

a

s

硬件操作系统编程语言低阶库高阶库应用层