微课7-2 深度学习算法与应用.pptx

;;在数学泛函分析中，卷积是通过两个函数f和g，经过翻转和平移，对重叠长度的积分变换，而生成第三个函数的一种数学运算，还可以被看作是“滑动平均”的推广。

卷积神经网络是一种用来分析视觉图像的深度学习模型，它包含卷积计算且具有深度结构的前馈神经网络，类似于人工神经网络的多层感知器。计算机科学家杨立昆第一个通过卷积神经网络在大型手写数字数据库MNIST（其中包含60,000个示例的训练集以及10,000个示例的测试集）上解决手写数字问题的人。;前馈网络是指在一个方向上有连接的网络，每个节点计算一个输入函数，并将结果传递给网络中的后续节点。卷积神经网络的架构与常规人工神经网络架构非常相似，特别是在网络的最后一层。此外，卷积神经网络能够接受多个特征图作为输入，能够按其阶层结构

对输入信息进行平移分类。它的经典用

例是执行图像分类，例如查看和分辨动

物图像。卷积神经网络参数少，可以避

免出现过拟合现象。;与常规神经网络不同，卷积神经网络的各层中的神经元是3维排列的：卷积本身是一个二维模板，整个网络的深度指的是网络的层数。;传统机器学习（主要指监督学习）通常基于同分布假设，同时需要大量标注数据。然而，实际使用过程中不同数据集可能存在一些问题，比如：

·数据分布差异

·标注数据过期，即有些应用中数据是分布随着时间推移会有变化。

如何充分利用之前标注好的数据（废物利用），同时又保证在新的任务上的模型精度？基于这样的需求，就有了对迁移学习的研究，即将某个领域或任务上学习到的知识或模式应用到不同但相关的领域或问题中，或者说从相关领域中迁移标注数据或者知识结构、完成或改进目标领域或任务的学习效果。;研究如何从源领域中挑选出对目标领域的训练有用的实例，比如对源领域的有标记数据实例进行有效的权重分配，让源域实例分布接近目标域的实例分布，从而在目标领域中建立一个分类精度较高的、可靠地学习模型。

因为迁移学习中源领域与目标领域的数据分布不一致，所以源领域中所有有标记的数据实例对目标领域不一定都有用。

（1）特征选择。关注如何找出源领域与目标领域之间共同的特征表示，然后利用这些特征进行知识迁移。

（2）特征映射。关注如何将源领域和目标领域的数据从原始特征空间映射到新的特征空间中去。;基于共享参数的迁移研究的是如何找到源数据和目标数据的空间模型之间的共同参数或者先验分布，从而可以通过进一步处理，达到知识迁移的目的，假设前提是，学习任务中的的每个相关模型会共享一些相同的参数或者先验分布。;深度学习应用广泛，例如在有哪些信誉好的足球投注网站技术、数据挖掘、机器学习、视觉识别、自然语言处理、机器翻译、语音识别和合成、推荐和个性化技术，以及其他领域都取得很多成果，解决了很多复杂难题，使人工智能相关技术取得了很大进步。;我们来看一个例子以进一步理解它。假设我们想要制作一个能够识别图像中不同人物面部的系统。如果我们将此作为典型的机器学习问题来解决，采用深度学习方法自动找出对分类很重要的特征，定义面部特征，例如眼睛、鼻子、耳朵等。

图6-20深度网络人脸识别;如图6-20所示，深度学习的工作原理如下：

（1）在最低级别，网络固定局部对比度的模式同样重要。

（2）下面图层可以使用局部对比度的图案来固定类似眼睛、鼻子和嘴巴的东西

（3）顶层能够将这些面部特征应用于面部模板。

（4）深度神经网络能够在其每个连续层中组成越来越复杂的特征。

因此可见，深度学习网络可以通过从没有适当标签的输入数据组成的数据集中得出推论来克服机器学习的缺点。;下面，我们再来简单了解一些深度学习的典型应用案例。

（1）语音识别。在语音识别和语音控制领域，人们可以使用深度神经网络开发更准确的声学模型。简单来说，可以构建这样的系统，学习新功能或根据自己进行调整，从而通过预先预测所有可能性来提供更好的帮助。

（2）自动机器翻译。知道谷歌可以即时翻译100种不同的人类语言，背后的技术就是机器翻译。近年来，在深度学习的帮助下，可以在不对序列进行任何预处理的情况下执行文本转换，允许算法学习单词之间的依赖关系以及它们与新语言的映射。;（3）即时视觉翻译。深度学习用于识别具有字母的图像以及字母在场景中的位置。识别后转换为文本，并使用翻译后的文本重新创建图像。这称为即时视觉翻译。在旅游中，如果不懂当地语言，可以使用谷歌翻译等各种应用程序，进行即时视觉翻译，阅读用其他语言编写的标志或商店板。

（4）行为：自动驾驶汽车。通过深度学习技术可以提升自动驾驶汽车的水平，用不同传感器提供的数据来编程可以自行学习的系统。深度学习现在是大多数感知任务以及许多低级控制任务的最佳方法。;