人工智能应用 课件 黄源 项目5--9　深度学习--人工智能的应用 .pptx

项目5深度学习;通过对本章的学习，了解深度学习的概念和特点，理解人工神经网络的模型与研究内容，理解深度学习的应用与深度学习常见框架。

了解深度学习的概念和特点

理解人工神经网络的模型与研究内容

理解深度学习的应用

理解深度学习常见框架

;5.1认识深度学习;深度学习以神经网络为主要模型，一开始用来解决机器学习中的表示学习问题，但是由于其强大的能力，深度学习越来越多地用来解决一些通用人工智能问题，比如推理、决策等。目前，深度学习技术在学术界和工业界取得了广泛的成功，受到高度重视，并掀起新一轮的人工智能热潮。图5-1显示了神经网络，神经网络主要由相互连接的神经元（图中的圆圈）组成。

;深度学习的发展离不开大数据、GPU及模型这3个因素。

（1）大数据

当前大部分的深度学习模型是有监督学习，依赖于数据的有效标注。例如，要做一个高性能的物体检测模型，通常需要使用上万甚至是几十万的标注数据。（2）GPU

当前深度学习如此火热的一个很重要的原因就是硬件的发展，尤其是GPU为深度学习模型的快速训练提供了可能。深度学习模型通常有数以千万计的参数，存在大规模的并行计算，传统的以逻辑运算能力著称的CPU面对这种并行计算会异常缓慢，GPU以及CUDA计算库专注于数据的并行计算，为模型训练提供了强有力的工具。

（3）模型

在大数据与GPU的强有力支撑下，无数研究学者的奇思妙想，催生出了一系列优秀的深度学习模型，并且在学习任务的精度、速度等指标上取得了显著的进步。;5.2人工神经网络;图5-2显示了感知机模型，感知器是一种数学的模型，它可以看作是在模仿生物的神经元，有多个输入，一个激活函数和一个输出。一个感知器的输出可以连接到其它感知器的输入上，这样就实现了最基础的人工神经网络。感知器激活函数设计的初衷，也是在模仿神经元的激活状态。

;（2）感知机原理

感知机接收多个输入信号，输出一个信号。这里所说的“信号”可以想象成电流或河流那样具备“流动性”的东西。像电流流过导线，向前方输送电子一样，感知机的信号也会形成流，向前方输送信息。但是，和实际???电流不同的是，感知机的信号只有“流/不流”（1/0）两种取值，一般人们认为0对应“不传递信号”，1对应“传递信号”。图5-3是一个接收两个输入信号的感知机，x1、x2是输入信号，y是输出信号，w1、w2是权重（w是weight的首字母）。图中的矩形框称为“神经元”或者“节点”。输入信号被送往神经元时，会被分别乘以固定的权重（w1x1、w2x2），感知器的每一个输入都和权重相乘，然后再把所有乘完后的结果加在一起，也就是相乘后再求和，求和的结果会作为激活函数的输入，而这个激活函数的输出会作为整个感知器的输出。最后神经元会计算传送过来的信号的总和，只有当这个总和超过了某个界限值时，才会输出1，这也称为“神经元被激活”。这里将这个界限值称为阈值，用符号θ表示。;5.2.2神经网络;从最简单的单个神经元来讲述神经网络模型的架构，如图5-7所示是一个最简单的单个神经元的网络模型，它只包含一个神经元。人工神经网络中最小也是最重要的单元叫神经元。;（3）前馈神经网络

前馈神经网络是深度学习中最基本的网络结构，它通常由3部分组成，包括input（输入层）、hidden（隐藏层）和output（输出层）。前馈神经网络最左边一层称为输入层，最右边的一层称为输出层，中间一层称为隐藏层。输入层从外部世界获取输入信息，在输入节点中不进行任何的计算，仅向隐藏节点传递信息。隐藏层中的节点对输入信息进行处理，并将信息传递到输出层中，隐藏层是由处于中间位置的所有神经节点组成，因为不能在神经网络训练过程中直接观测到它们的值而得名。输出层负责计算输出值，并将输出值传递到外部世界。前馈神经网络模型如图5-8所示。

;（4）神经网络的学习

神经网络的学习也称为训练，指的是通过神经网络所在环境的刺激作用调整神经网络的自由参数，使神经网络以一种新的方式对外部环境做出反应的一个过程。神经网络最大的特点是能够从环境中学习，以及在学习中提高自身性能。经过反复学习，神经网络对其环境会越来越了解。

;（5）激活函数

激活函数（ActivationFunctions）对于人工神经网络模型以及卷积神经网络模型去学习理解非常复杂和非线性的函数来说具有十分重要的作用。神经网络的输出是上一层输入的加权和，所以网络线性关系过于显著，属于线性模型，对于复杂问题的解决存在难度；但是当每个神经元都经过一个非线性函数，那么输出就不再是线性的了，整个网络模型也就是非线性模型，如此一来，网络就能够解决比较复杂的问题，激活函数就是这个非线性函数。;Sigmoid激活函数示意图如图5-9所示。;6）损失函数

损失函数是模型对数据拟合程度的反映，拟合得越差、损失函数的值就越大。与此同