AI算法开发与优化作业指导书.docVIP

算法开发与优化作业指导书

TOC\o1-2\h\u17440第1章引言 3

20871.1研究背景与意义 3

50091.2算法的发展历程 4

273331.3本书内容安排与学习目标 4

14595第2章算法基础理论 4

210362.1机器学习概述 4

155382.2深度学习基本概念 5

220262.3数学基础 5

200862.4常用优化算法介绍 5

27213第3章数据处理与特征工程 5

205203.1数据预处理 5

226273.1.1数据清洗 6

83133.1.2数据整合 6

151883.1.3数据变换 6

43843.2特征提取与选择 6

239613.2.1特征提取 6

30113.2.2特征选择 6

38243.3数据降维 6

171793.3.1主成分分析（PCA） 7

310903.3.2线性判别分析（LDA） 7

312503.3.3tSNE 7

309043.4数据可视化 7

309543.4.1散点图 7

191583.4.2直方图 7

186233.4.3热力图 7

292933.4.43D图 7

20438第4章监督学习算法 7

67034.1线性回归 7

321494.1.1基本原理 7

34554.1.2算法步骤 7

274234.2逻辑回归 7

141024.2.1基本原理 8

158434.2.2算法步骤 8

240194.3支持向量机 8

173204.3.1基本原理 8

228274.3.2算法步骤 8

153124.4决策树与随机森林 8

4524.4.1基本原理 8

81764.4.2算法步骤 8

2116第5章无监督学习算法 9

35675.1聚类分析 9

274965.2主成分分析 9

185005.3自编码器 9

204275.4异常检测 10

9491第6章神经网络与深度学习 10

202446.1神经网络基础 10

192516.1.1神经元模型 10

167376.1.2感知机 10

216056.1.3多层前馈神经网络 10

233306.1.4神经网络的训练 10

261796.2卷积神经网络 11

27596.2.1卷积神经网络原理 11

81156.2.2卷积神经网络结构 11

74096.2.3卷积神经网络的应用 11

263386.3循环神经网络 11

89596.3.1循环神经网络基础 11

174196.3.2长短时记忆网络 11

141266.3.3门控循环单元 11

60476.3.4循环神经网络的应用 11

211666.4对抗网络 11

119136.4.1对抗网络原理 11

197946.4.2对抗网络的训练 11

34826.4.3对抗网络的应用 11

71096.4.4对抗网络的拓展 12

21869第7章算法优化策略 12

185407.1梯度下降法 12

271937.1.1批量梯度下降法（BatchGradientDescent，BGD） 12

175047.1.2随机梯度下降法（StochasticGradientDescent，SGD） 12

100967.1.3小批量梯度下降法（MinibatchGradientDescent，MBGD） 12

228177.2动量法与Nesterov加速梯度 12

258857.2.1动量法（Momentum） 12

22877.2.2Nesterov加速梯度（NesterovAcceleratedGradient，NAG） 12

13697.3自适应学习率优化算法 13

232817.3.1AdaGrad 13

128857.3.2RMSProp 13

147397.3.3Adam 13

311797.4二次优化方法 13

319327.4.1牛顿法（NewtonsMethod） 13

63537.4.2拟牛顿法（QuasiNewtonMethods） 13

181237.4.3共轭梯度法（ConjugateGradient）