v智能控制 第6章 典型神经网络2——BP算法.ppt

第7章  7.2 典型神经网络--BP 反向传播网络 Back—Propagation Network，由于其权值的调整采用反向传播（Backpropagation）的学习算法，因此被称为BP网络。 BP网络 是一种单向传播的多层前向网络 其神经元的变换函数是S型函数，因此输出量为0到1之间的连续量 它可以对非线性可微分函数进行权值训练，从而实现输入到输出的任意的非线性映射。 网络中心思想是梯度下降法 通过梯度有哪些信誉好的足球投注网站技术，使网络实际输出值与期望输出值的误差均方值最小。 网络的学习过程是一种误差边向后传播边修正权系数的过程 7.2.1 BP网络特点 是多层网络，包括输入层、隐层和输出层 层与层之间采用全互连方式，同一层神经元之间不连接 权值通过学习算法进行调节 神经元激发函数为S函数 层与层的连接是单向的，信息传播是双向的 7.2.2网络结构 7.2.3 BP网络的逼近 用于逼近的BP网络 BP网络—— 有导师的学习 反向传播(BP)学习算法 BP算法是由两部分组成：信息的正向传递与误差的反向传播。 在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态。 如果在输出层没有得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标。 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播(BP)学习算法 反向传播: 调整权系值 反向传播(BP)学习算法 反向传播(BP)学习算法 正向＋反向 正向 正向 正向 正向 正向 正向 正向 正向 反向 反向 反向 前向传播：计算网络输出 隐层输出采用S函数 BP网络主要用于： 1)函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近—个函数； 2)模式识别：用一个特定的输出矢量将它与输入矢量联系起来； 3)分类：把输入矢量以所定义的合适方式进行分类； 4)数据压缩：减少输出矢量维数以便于传输或存储。 BP网络逼近仿真 Chap7_1.m 7.2.6 BP网络模式识别 由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别的能力。 在神经网络模式识别中，根据标准的输入输出模式对，采用神经网络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络的连接权值。 当训练满足要求后，得到的神经网络权值构成了模式识别的知识库，利用神经网络并行推理算法对所需要的输入模式进行识别。 当待识别的输入模式与训练样本中的某个输入模式相同时，神经网络识别的结果就是与训练样本中相对应的输出模式。 当待识别的输入模式与训练样本中所有输入模式都不完全相同时，则可得到与其相近样本相对应的输出模式。 当待识别的输入模式与训练样本中所有输入模式相差较远时，就不能得到正确的识别结果，此时可将这一模式作为新的样本进行训练，使神经网络获取新的知识，并存储到网络的权值矩阵中，从而增强网络的识别能力。 BP网络的训练过程如下：正向传播是输入信号从输入层经隐层传向输出层，若输出层得到了期望的输出，则学习算法结束；否则，转至反向传播 BP网络的训练过程 为了训练一个BP网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求得误差平方和。 当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算误差变化，且采用反向传播学习规则来调整权值，并重复此过程。 当网络完成训练后，对网络输入一个不是训练集合中的矢量，网络将给出输出结果。 为了能够较好地掌握BP网络的训练过程，我们再用两层网络为例来叙述BP网络的训练步骤。 1)用小的随机数对每一层的权值W初始化，以保证网络不被大的加权输入饱和； 2)计算网络各层输出矢量A1和A2以及网络误差E 3)计算各层反传的误差变化并计算各层权值的修正值以及新权值 4)再次计算权值修正后误差平方和： 5)检查误差是否小于给定误差，若是，训练结束；否则继续。 7.2.7 仿真实例：? 取标准样本为3输入2输出样本，如表7-1所示。 BP网络模式识别程序包括网络训练程序chap7_2a.m和网络测试程序cha