《人工智能安全》教学大纲.doc

《人工智能安全》课程教学大纲

一、课程基本信息

课程名称

中文：人工智能安全

课程编号

英文：MachineIntelligenceandInformationCountermeasure

学分/学时

2学分/48学时

必修（）/选修（√）

开课学期

6

课程类别

学院特色创新创业课程

适用专业

网络空间安全专业，信息安全专业，密码学专业，人工智能专业

先修课程

信息安全概论、Python高级语言程序设计

授课教师

二、课程教学目标

通过学习本课程，使学生深刻理解人工智能安全的基本概念，系统地掌握机器学习的原理和信息对抗技术，培养机器学习和信息对抗领域复杂工程解决能力、创新能力和实践能力。通过课上互动、Python语言编写程序，培养学生刻苦努力、积极进取精神，以及认真的工作学习态度。具体目标为：

课程目标1.掌握人工智能安全中的发展和相关研究，包括人工智能安全综述（包括定义、历史、特征、发展现状与趋势、分类、人工智能的安全、伦理和隐私问题等）、人工智能安全的战略规划（外国、中国、中国地方省市的战略规划及策略，国内外人工智能安全的研究机构）；

课程目标2.学习关于人工智能安全的相关基础知识，包括：人工智能安全的概念和模型；生成对抗网络GANs；深度神经网络；卷积神经网络；对抗样本生成算法；随机森林算法；贝叶斯分类算法；SVM分类算法；长短期记忆网络；梯度下降算法；深度伪造技术；影子模型攻击技术；神经网络；算法歧视；Tacotron模型；梅尔谱图；长短记忆网络；混合注意力机制；深度学习；迁移学习；小样本学习；图神经网络；代码漏洞分析等）。

课程目标3.了解产业现状，包括人工智能安全应用、产业现状及趋势（包括人工智能安全技术的商业应用、人工智能安全行业综述、中国人工智能安全产业现状和发展趋势）、人工智能安全标准化体系和标准化（如国内外研究现状、人工智能安全标准体系结构、人工智能安全标准化需求分析等）、人工智能安全内涵与体系架构（包括人工智能安全内涵与体系架构、人工智能安全风险分析、人工智能安全管理现状和人工智能安全发展建议等）；

课程目标4.深刻理解人工智能在安全领域的应用和研究现状，包括人工智能在安全领域的应用、人工智能的安全威胁及防御（包括人工智能安全风险分析）、智能安全应用情况（包括智能安全事例）、智能安全管理现状、智能安全相关技术等。

课程目标5.学习、实践、体会人工智能安全方向的科研创新过程。主要包括：生成对抗网络模拟Sin曲线；模型窃取；数据投毒；人脸活体检测；验证码识别；图像对抗；图像去噪；垃圾邮件过滤；网络攻击检测；模型逆向攻击；人脸伪造；成员推理攻击；属性推理攻击；模型公平性检测与提升；图像水印去除；语音合成；视频检测；代码漏洞挖掘等。

三、课程目标与支撑的毕业要求指标点

本课程的知识点支撑网络空间安全专业毕业要求中的5个指标点：1.4、2.2、3.2、4.3和12.1。如下表所示，本课程的5个课程教学目标，分别对应工程教育专业认证标准规定的毕业要求中的5个指标点。表1所示为课程目标与支撑毕业要求的指标点。

表1课程目标与支撑毕业要求的指标点

毕业要求指标点

课程目标

达成途径

评价依据

1.4掌握网络空间安全专业知识及技术，能够将这些专业知识和关键技术用于解决网络空间安全领域的复杂工程问题。

课程目标1.掌握人工智能安全中的发展和相关研究，包括人工智能安全综述（包括定义、历史、特征、发展现状与趋势、分类、人工智能的安全、伦理和隐私问题等）、人工智能安全的战略规划（外国、中国、中国地方省市的战略规划及策略，国内外人工智能安全的研究机构）；

通过课堂讲授等方式使学生掌握人工智能安全中的基本概念、理论基础和人工智能发展历史，通过课后作业巩固课堂知识；在平时作业和期末考试中考察对于基本概念和基本原理的理解掌握。

考核内容约占总成绩的20%，包括平时作业和期末考试。

2.2能够根据网络空间安全领域中复杂工程问题的需求描述，运用数学、物理等自然科学和工程科学原理及方法进行分析表达，建立解决网络空间安全领域中的复杂实际工程问题的抽象模型。

课程目标2.学习关于机器学习和信息对抗的相关基础知识，包括：人工智能安全的概念和模型；生成对抗网络GANs；深度神经网络；卷积神经网络；对抗样本生成算法；随机森林算法；贝叶斯分类算法；SVM分类算法；长短期记忆网络；梯度下降算法；深度伪造技术；影子模型攻击技术；神经网络；算法歧视；Tacotron模型；梅尔谱图；长短记忆网络；混合注意力机制；深度学习；迁移学习；小样本学习；图神经网络；代码漏洞分析等）

通过课堂讲授和学生使用Python语言编程等方式使学生掌握人工智能安全中的基本概念、理论基础和人工智能发展历史，通过平时作业巩固课堂知识；在平时作业和期末