DL深度学习解读.pptx

概念介绍 算法介绍 现有库 概念简介 为什么有Deep learning？Why 什么是Deep learning？What 怎么来的？ 概念简介 机器学习思路(图像识别为例)： FR: 手工选取费力，费时，专业性能力 Input Feature Representation LA 概念简介 概念简介 机器学习就是通过算法，使得机器能从大量的历史数据中学习规律，从而对新的样本做智能识别或预测未来。 深度学习是机器学习研究中的一个新的领域，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。 深度学习是无监督学习的一种(仅对特征提取)。 又名Unsupervised Feature Learning 概念简介 1、浅层学习（Shallow Learning）：机器学习第一次浪潮 基于BP(反向传播)算法，1层或2层 主要算法：LR，SVM，MLP，Boosting，Bayes 2、深度学习（Deep Learning）：机器学习第二次浪潮 逐层初始化，layer-wise，多层 主要算法：AutoEncoder, DBM,CNN,RNN “深度模型”是手段，“特征学习”是目的。 算法介绍 算法介绍-AutoEncoder 1、AutoEncoder 算法介绍-AutoEncoder 2、Denoising Autoencoder 算法介绍-AutoEncoder 算法介绍-DBM 算法介绍-DBM 算法介绍-CNN 算法介绍-CNN 算法介绍-CNN 卷积和子采样 算法介绍-RNN 算法介绍-RNN 算法介绍-LSTM 算法介绍-LSTM 算法介绍-LSTM 遗忘门限层：决定哪些信息需要从单元状态中抛弃 ft的值为0或1，0表示抛弃，1表示保留 算法介绍-LSTM tanh层： 决定有哪些信息有可能加入到新状态 输入门限层：决定哪些信息需要加入到新状态 ft的值为0到1，0表示不加入，1表示完全加 入，(0,1)表示按比例加入 算法介绍-LSTM Cell更新层：更新旧Cell状态，包括两部分信息 第一部分为上一个Cell通过的信息， 第二部分为本次更新的信息 算法介绍-LSTM 输出层： tanh层将Cell状态规则化 Ot层决定要输出哪些部分，进行过滤 现有库 现有库 Thanks!