机器学习数学知识点梳理.pptxVIP

机器学习与深度学习的数学知识点汇总

目录CONTENTS01高等数学/微积分02线性代数与矩阵论03概率论与信息论04最优化方法05图论/离散数学

高等数学/微积分1微积分是现代数学的基础，线性代数，矩阵论，概率论，信息论，最优化方法等数学课程都需要用到微积分的知识。单就机器学习和深度学习来说，更多用到的是微分。积分基本上只在概率论中被使用，概率密度函数，分布函数等概念和计算都要借助于积分来定义或计算。几乎所有的机器学习算法在训练或者预测时都是求解最优化问题，因此需要依赖于微积分来求解函数的极值，而模型中某些函数的选取，也有数学性质上的考量。对于机器学习而言，微积分的主要作用是：1.求解函数的极值2.分析函数的性质

高等数学/微积分

线性代数与矩阵论2相对于微积分，线性代数似乎用的更多，而且有一部分属于矩阵论/矩阵分析的范畴，超出了工科线性代数教材的范围。下面列出线性代数和矩阵论的常用知识点。

线性代数与矩阵论

概率论与信息论3概率论与信息论在机器学习中用得非常多。概率论的知识，一般不超出工科教材的范畴。而信息论是很多同学没有学过的，不过只要你理解了微积分和概率论，理解这些概念并不是难事。下面列出常用的概率论与信息论知识点。

概率论与信息论

最优化方法是机器学习的灵魂，用于确定模型的参数或预测结果。不幸的是，工科专业一般没有学过这门课。不过只要你理解了微积分和线性代数，并不难推导出这些算法。下面列出常用的最优化方法知识点。最优化方法4

最优化方法

图论/离散数学5机器学习中的某些问题可以用图论的方法解决，如流形学习，谱聚类。某些算法的表达也可能用到图论的知识，如深度学习中的计算图，NAS中的网络拓扑结构图。概率图模型让很多初学者谈虎色变，它是图论与概率论的完美结合。下面介绍常用的图论知识点。

图的基本概念某些特殊的图最短路径问题拉普拉斯矩阵、归一化拉普拉斯矩阵Dijkstra算法如二部图，有向无环图等，在深度学习中经常会用到它们。机器学习中的很多算法，如流形学习，使用图论的半监督学习，谱聚类都离不开它。理解这个矩阵和它的性质，是理解这些算法的基础论如顶点，边，有向图，无向图等。邻接矩阵与加权度矩阵，图论中的核心概念，边一般都带有权重的。

谢谢收看