《媒体与认知》第6章统计学习方法2.pptx

;;第六章 统计学习方法 6.1 概述 6.2 支持向量机 6.3 神经网络 6.4 深度学习;;;;;◆ 前馈型网络：;工作方式 ◆ 学习期： 各计算单元状态不变，各连接线上权值通过学习来修改 ◆ 工作期： 连接权固定，计算单元状态变化，以达到某种稳定状态;;;2. 学习规则 ●考察神经元 k 在 n 时刻的输入输入： xk (n);即求解最优化问题;Matlab命令 net = newff ( A, B, {C}, ’trainfun’ ) ? 参数说明 A是一个 n × 2的矩阵，第 i 行元素为输入信号 x i 的最 小值和最大值； B为一 k 维行向量，其元素为各隐层节点数； C为一k 维字符串行向量，每一分量为对应层神经元的激 励函数； trainfun为学习规则采用的训练函数（常见训练函数如下表）。;;1 ;4. 可修改参数 除了需要输入A,B,{C},’trainfun’外，还有些默认的参数可 修改，如下表;[ net,;? 数据泛化 什么是数据泛化？ 用经过训练的网络对于不是样本集的输入，计算出相应 的输出。 训练结束后，对新的输入点数据X2，调用sim函数进行泛 化，得出这些输入点处的输出矩阵Y2. Y2=sim(net,X2);;;;第六章 统计学习方法 6.1 概述 6.2 支持向量机 6.3 神经网络 6.4 深度学习;;;;;;;层次化的特征;;;;;1）给定无标签数据，用非监督学习学习特征：;;;;;深度学习常用模型二、 DBN ?和BM相比，Restrict Boltzmann Machine (RBM) 同层之间没有连接 ?假设所有的可见单元和隐单元均为二值变量， 即;;?当给定可见单元的状态时,RBM各隐单元的激 活状态之间是条件独立的。此时RBM第j 个隐 单元的激活概率为：;?采用随机梯度上升法stochastic gradient ascent 方法求最大值;;;;;;Feature extraction;;;;;;;;;;;;;;;;;;;谢谢大家！ 欢迎提出宝贵意见！