2.2深度学习课程.pptxVIP

2.2深度学习

概述人类视觉原理卷积神经网络2.2深度学习

2.2.1概述深度学习（DeepLearning，DL），也称为深度神经网络，有时也称为深度结构学习、层次学习或深度机器学习，是一类算法集合，也是机器学习的一个分支。

2.2.1概述2006年，著名计算机科学家，被称为“人工智能教父”的杰弗里·辛顿（图2-8），在《科学》和相关期刊上发表了论文，首次提出了“深度信念网络”的概念。与传统的训练方式不同，深度信念网络有一个预训练的过程，可以方便地让神经网络中的权值找到一个接近最优解的值，之后使用微调技术来对整个网络进行优化训练。这两个技术的运用大幅度减少了训练多层神经网络的时间。辛顿给多层神经网络相关的学习方法赋予了一个新名称——深度学习。

2.2.1概述深度学习从大类上可以归入神经网络，不过在具体实现上有许多变化。深度学习的核心是特征学习，旨在通过分层网络获取分层次的特征信息，从而解决以往需要人工设计特征的重要难题。深度学习是一个框架，包含多个重要算法：卷积神经网络（ConvolutionalNeuralNetworks，CNN）；自动编码器（AutoEncoder）；稀疏编码（SparseCoding）；受限波尔兹曼机（RestrictedBoltzmannMachine，RBM）；深度信念网络（DeepBeliefNetworks，DBN）；循环神经网络（RecurrentNeuralNetwork，RNN）；对于不同问题（图像、语音、文本），需要选用不同网络模型才能达到更好效果。

2.2.2人类视觉原理深度学习的许多研究成果，离不开对大脑认知原理的研究，尤其是视觉原理的研究。

2.2.2人类视觉原理人类的视觉原理：从原始信号摄入开始（瞳孔摄入像素pixels），然后做初步处理（大脑皮层某些细胞发现边缘和方向），接着抽象（大脑判定眼前物体的形状，是圆形的），最后进一步抽象（大脑进一步判定该物体是一只气球）。如图所示是人脑进行人脸识别的一个示例。

2.2.2人类视觉原理对于不同的物体，人类视觉也是通过这样逐层分级来进行认知的，如图所示。我们可以看到，最底层的特征基本上是类似的，即各种边缘，越往上，越能提取出此类物体的特征（轮子、眼睛、躯干等），直到顶层，不同的高级特征最终组合成相应的图像，从而能够让人类准确地区分出不同的物体。

2.2.3卷积神经网络卷积神经网络是一种多层神经网络，擅长处理图像特别是大图像的相关机器学习问题。它是一类包含卷积计算且具有深度结构的前馈神经网络（FeedforwardNeuralNetwork），是目前深度学习技术领域中非常具有代表性的神经网络之一。

2.2.3卷积神经网络卷积神经网络是一种特殊的深层神经网络模型，深度神经网络模型如图所示，

2.2.3卷积神经网络LeNet-5是一个经典的卷积神经网络（ConvolutionalNeuralNetwork，CNN）架构，由YannLeCun等人在1998年提出，如图2-12所示。它是早期用于手写数字识别的CNN模型之一，也被广泛应用于图像识别任务。

2.2.3卷积神经网络这是一个最典型的卷积神经网络，由输入层、卷积层、池化层、全连接层组成。其中卷积层与池化层配合，组成多个卷积组，逐层提取特征，最终通过若干个全连接层完成分类。1．输入层在处理图像的卷积神经网络中，它一般代表了一张图片的像素矩阵，通常为长×宽×通道数。三维矩阵的深度代表了图像的彩色通道（channel）。例如，黑白图片的深度为1，而在RGB色彩模式下，图像的深度为3。又如，一个28×28的RGB图片，其维度是(28,28,3)。从输入层开始，卷积神经网络通过不同的神经网络结构将上一层的三维矩阵转化为下一层的三维矩阵，直到最后的全连接层。

2.2.3卷积神经网络2．卷积层在卷积神经网络中，卷积层主要进行的操作是对图片进行特征提取，随着卷积层的深入它提取到的特征就越高级。通过使用输入数据中的小方块来学习图像特征，卷积保留了像素间的空间关系。对于一张输入图片，卷积层将其转化为矩阵，矩阵的元素为对应的像素值。对于一张大小为5×5的图像，使用3×3的卷积核，移动步长为1进行卷积操作，可以得到大小为3×3的特征平面，如图所示。

2.2.3卷积神经网络3．池化层池化层不会改变三维矩阵的深度，但它可以缩小矩阵的大小，可降低每个特征映射的维度，并保留最重要的信息。池化操作可以认为是将一张分辨率较高的图片转化为分辨率较低的图片。通过池化层，可以进一步缩小最后全连接层中节点的个数，从而达到减少整个神经网络