5.第五章_神經網络.ppt

第五章 类神经网络;什么是类神经网络;*;*;*;二、类神经网络的架构;后向传播神经网络;什么是后向传播？;不同的信息流向导致不同类型的网络，可区分为”前馈神经网络”（feed forward neural network）和”反馈式神经网络”（feedback neural network）。;前馈神经网络是指信息只朝一个方向流动，也就是数据在神经元之间的流动方向是单向的，没有循环。 这种网络而在分类过程中数据只能向前传送，直到到达输出层，层间没有向后的反馈信号，因此被称为前馈网络。 后向传播是在多层前馈神经网络上学习的。 ;反馈式神经网络是指数据在神经元之间的流动方向是双向关系，神经元会输出到其他所有的神经元，也会接收其他神经元的输出成为输入。;什么是自组织网络 ( SOM ,Self-Organizing Neural Networks );*;*;一个输出元的两层神经网络;*;多个输出元的三层神经网络;三、神经元的结构;n表示变量的个??? Oi表示第i个输入值(X) Wij表示第j个神经元的第i个输入值的权重;四、启动函数f(?)类型 ;*;;;;4、分段线性启动函数;;五、类神经网络的训练;*; 后向传播神经网络通过更新权重和偏置使得网络预测的误差达到最小。具体步骤如下： 通过输入节点将输入变量加以标准化，标准化后的变量数值落在0和1之间，或者是-1和1之间。 将网络权重初始值设定为0（或随机产生）。通过各节点的函数，估计数据的目标变量值。;;*;1、首先利用随机的方式，产生各神经元间的权重，以及隐藏层与输出层神经元的偏置。 ;2、根据输入信号，计算各隐藏层神经元的输出信号，假设输入的样本是(X1,X2,X3,Y)=(1,0,1,1)。 神经元4： 神经元5： ;;4、此时，输出值0.474与真值1不一致，我们可以计算神经元6的误差项。 神经元6的误差项： 5、将此误差项反馈至隐藏层，此时可以计算隐藏层神经元误差值。 神经元4误差项： 神经元5误差项： ;6、最后根据神经元误差项，更新各神经元的权重以及偏置，假设学习速率为0.9。 ;;七、类神经网络的优点;八、类神经网络的缺点;