深度学习及自动驾驶应用课件：循环神经网络及自动驾驶车辆换道行为预测.pptx

循环神经网络及自动驾驶车辆换道行为预测DeepLearningAndAutonomousDriving深度学习与自动驾驶应用

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第2页7.4扩展到图结构7.1循环神经网络概述7.3深层模型7.2应用到机器学习7.5循环网络应用目录Content

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第3页7.1循环神经网络概述前馈网络：连接存在层与层之间，每层的节点之间是无连接的。（无循环）输入和输出的维数都是固定的，不能任意改变。无法处理变长的序列数据

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第4页7.1循环神经网络概述前馈网络：假设每次输入都是独立的，也就是说每次网络的输出只依赖于当前的输入。

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第5页7.1循环神经网络概述有限状态自动机（FiniteAutomata）如何用FNN去模拟一个有限状态自动机？

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第6页7.1循环神经网络概述图灵机一种抽象数学模型，可以用来模拟任何可计算问题。

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第7页7.1循环神经网络概述可计算问题可计算问题函数?有限状态机图灵机前馈网络需要记忆能力通用近似定理如何给网络增加记忆能力？

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第8页7.1循环神经网络概述如何给网络增加记忆能力？延时神经网络（TimeDelayNeuralNetwork，TDNN）建立一个额外的延时单元，用来存储网络的历史信息（可以包括输入、输出、隐状态等）这样，前馈网络就具有了短期记忆的能力。

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第9页7.1循环神经网络概述如何给网络增加记忆能力？?

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第10页7.1循环神经网络概述非线性自回归模型

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第11页7.1循环神经网络概述循环神经网络（RecurrentNeuralNetwork，RNN）循环神经网络通过使用带自反馈的神经元，能够处理任意长度的时序数据。循环神经网络比前馈神经网络更加符合生物神经网络的结构。循环神经网络已经被广泛应用在语音识别、语言模型以及自然语言生成等任务上活性值状态

第12页7.1循环神经网络概述循环神经网络（RecurrentNeuralNetwork，RNN）按时间展开

第13页7.1循环神经网络概述简单循环网络（SimpleRecurrentNetwork，SRN）状态更新：一个完全连接的循环网络是任何非线性动力系统的近似器。

第14页7.1循环神经网络概述循环神经网络作用输入-输出映射机器学习模型（本节主要关注这种情况）存储器联想记忆模型

第15页7.1循环神经网络概述循环神经网络作用输入-输出映射机器学习模型（本节主要关注这种情况）存储器联想记忆模型

DeepLearningAndAutonomousDriving深度学习与自动驾驶应用第16页7.4扩展到图结构7.1循环神经网络概述7.3深层模型7.2应用到机器学习7.5循环网络应用目录Content

第17页7.2应用到机器学习序列到类别同步的序列到序列模式异步的序列到序列模式

第18页7.2应用到机器学习序列到类别

第19页7.2应用到机器学习序列到类别：情感分类…我觉太得好了带着愉悦的心情看了这部电影这部电影太糟了这部电影很棒Positive(正面)Negative(负面)Positive(正面)…

第20页7.2应用到机器学习同步的序列到序列模式

第21页7.2应用到机器学习同步的序列到序列模式：中文分词他说实的在理确SSESBEB

第22页7.2应用到机器学习同步的序列到序列模式：信息抽取(InformationExtraction，IE)从无结构的文本中抽取结构化的信息，形成知识小米创始人雷军表示，该公司2015年营收达到780亿元人民币，较2014年的743亿元人民