（可修改）人工神经网络算法(基础精讲).ppt

* 3.2 BP神经网络算法 那么P个样本的总误差为： 网络误差是各层权值的函数，按照最速下降法，可得 输出层各神经元的权值和第n次输出层权值的迭代公式分别为： ︵。︵ 181h， * 3.2 BP神经网络算法 隐藏层各神经元的权值和第n次隐藏层权值的迭代公式分别为： 求解的过程 ︵。︵ 181h， * 3.2 BP神经网络算法 BP网络学习算法的具体步骤如下： Step1 从训练样本集中取某一样本，把它的输入信息输入到网络中。 Step2 由网络正向计算出各层节点的输出。 Step3 计算网络的实际输出和期望输出的误差。 Step4 从输出层开场反向计算到第一个隐藏层，按一定的原那么向减少误差方向调整整个网络的各个连接权值。 Step5 对训练样本集中的每一个样本重复上述步骤，直到对整个网络训练样本集的误差到达要求为止。 ︵。︵ 181h， * 3.2 BP神经网络算法 设三层BP网络，那么其算法可描述为： A 初始化连接权值vki 和wjk； B 初始化精度控制系数?； C E= ?+1； E while E＞ ? do E.1 E=0 E.2 对S中的每一个样本〔Xp，Yp〕 E.2.1 计算出Xp，对应的实际输出op； E.2.2 计算出Ep； E.2.3 E=E+ Ep； E.2.4 根据 调整输出层的权值wjk〔n〕； E.2.4 根据 调整输出层的权值vki〔n〕； E.3 E=E/2.0 ︵。︵ 181h， * 3.2 BP神经网络算法 BP网络的优点： 1)?非线性映射能力：BP神经网络实质上实现了一个从输入到输出的映射功能，数学理论证明三层的神经网络就能够以任意精度逼近任何非线性连续函数。? 2)?自学习和自适应能力：BP神经网络在训练时，能够通过学习自动提取输出、输出数据间的“合理规那么〞，并自适应的将学习内容记忆于网络的权值中。? 3)?泛化能力：所谓泛化能力是指在设计模式分类器时，即要考虑网络在保证对所需分类对象进展正确分类，还要关心网络在经过训练后，能否对未见过的模式或有噪声污染的模式，进展正确的分类。? 4)?容错能力：BP神经网络在其局部的或者局部的神经元受到破坏后对全局的训练结果不会造成很大的影响，也就是说即使系统在受到局部损伤时还是可以正常工作的。 ︵。︵ 181h， * 3.2 BP神经网络算法 BP网络的缺点： 1)?局部极小化问题：?BP神经网络为一种局部有哪些信誉好的足球投注网站的优化方法，它要解决的是一个复杂非线性化问题，这样会使算法陷入局部极值，权值收敛到局部极小点? 2)?BP?神经网络算法的收敛速度慢：由于BP神经网络算法本质上为梯度下降法，它所要优化的目标函数是非常复杂的，这使得BP算法低效；? 3)?BP?神经网络构造选择不一：BP神经网络构造的选择至今尚无一种统一而完整的理论指导，一般只能由经历选定。 4〕?BP神经网络样本依赖性问题：网络模型的逼近和推广能力与学习样本的典型性密切相关，而从问题中选取典型样本实例组成训练集是一个很困难的问题。? ︵。︵ 181h， 四、BP神经网络的应用举例 ( matlab实现) * ︵。︵ 181h， * 四、神经网络的应用( matlab实现) 例一： 输入向量 P = [0 1 2 3 4 5 6 7 8 9 10]; 期望输出 T = [0 1 2 3 4 3 2 1 2 3 4]; 创立两层的BP网络 net = newff ( [0 10], [5 1], {tansig, purelin} ); Y = sim(net,P); plot(P,T,P,Y,o) 输出结果为： Y = -2.3431 -2.7532 -2.4510 -1.2784 -0.8590 -0.2981 0.2495 0.4811 1.0375 1.2268 1.4232 ︵。︵ 181h， * 四、神经网络的应用( matlab实现) 误差很大！未训练，非线性映射能力差。 ︵。︵ 181h， * 四、神经网络的应用( matlab实现) P = [0 1 2 3 4 5 6 7 8 9 10]; T = [0 1 2 3 4 3 2 1 2 3 4]; net = newff([0 10],[5 1],{tansig purelin}); net.trainparam.show=50; %每次循环5