神经网络-(6)BP网络wu[共58页].ppt

人工神经网络及其应用第6章 BP神经网络;一、内容回顾 二、BP网络 三、网络设计 四、改进BP网络 五、内容小结 ; ; ; ;2.1 BP网络简介 2.2 网络模型 2.3 学习规则 2.4 图形解释 2.5 网络训练;反向传播网络(Back-Propagation Network，简称BP网络)是将W-H学习规则一般化， 对非线性可微分函数进行权值训练的多层网络 权值的调整采用反向传播(Back-propagation）的学习算法 它是一种多层前向反馈神经网络，其神经元的变换函数是S型函数 输出量为0到1之间的连续量，它可实现从输入到输出的任意的非线性映射;;;;;;;;;;;;;;;2.5 网络训练;;;;三、网络设计;3.1 网络的层数;3.2 隐含层神经元数;隐含层神经元数;3.3 初始权值的选取;3.4 学习速率;3.5 期望误差值选取;3.6 应用举例;网络设计：输入输出单元个数均为1.隐含层神经元个数在3～8之间。用可变的隐含层神经元个数，通过误差对比，确定最佳个数，并检验对网络性能的影响。代码： s=3:8; res=1:6; for i=1:6 net=newff(minmax(P),[s(i),1],{tansig,logsig}, traingdx); net.trainParam.epochs=2000; net.trainParam.goal=0.0001; net=train(net,P,T); y=sim(net,P); error=y-T; res(i)=norm(error); end res = 1.5812 1.9270 1.5580 1.9270 1.5803 1.4449 ;网络训练误差;3.6 应用举例（cont’d);3.6 应用举例（cont’d);3.6 应用举例（cont’d);3.7 限制与不足;四、BP网络的改进;4.1 目标;4.2 附加动量法 ;4.2 附加动量法 ;4.2 附加动量法 ;4.3 误差函数改进;4.3 误差函数改进;4.3 误差函数改进;4.4 自适应学习速率;4.4 自适应学习速率;五、内容小结;五、内容小结;五、内容小结;下次讲课内容 反馈网络 Hopfield网络;作业 ;;径向基函数神经网络;径向基函数神经网络（RBF);