RBF神经网的构建与使用.doc

RBF神经网络的构建与使用 函数逼近： 实验内容： 选取为测试函数，其中，。构造独立的训练样本集和检验样本集，实验在不同的网络规模、样本集大小、学习速率等条件下，网络的学习能力、推广能力和性能上的差异，并与BP网络进行对比。 实验过程： 具体程序： 用MATLAB构建并使用RBF神经网络, Matlab中提供了四个径向基函数相关的函数，他们分别是：newrbe，newrb，newgrnn，newpnn。它们都是创建两层的神经网络，第一层都是径向基层，第二层是线性层或者竞争层。主要的区别是它们权值、阀值就算函数不同或者是否有阀值。这里我们用newrb创建RBF神经网络进行函数逼近，用newpnn创建PNN网络对数据集进行分类。 实验结果及分析： 运行后，我们得到期望输出和实际输出的曲面图（图1），经过比较，原曲面图和非线性函数的曲面图很接近，这说明，RBF网络对非线性函数的逼近效果相当好。 图1 下面对散布常数、均方差精度等条件进行修改并观察结果，分析这些因素对网络的学习能力、推广能力和性能上的影响。 散布常数的变化： sc=1（图2） 图2 sc=0.01（图3） 图3 sc=100（图4） 图4 在应用径向基函数网络进行函数逼近时，理论上对于任意输入/输出样本，网络都能做到函数逼近。但是，比较图2、图3、图4，可以看出， 如果径向基神经元的散布常数选择不当，会造成网络设计中神经元数目过少或过多，在函数逼近中就会造成过适性和不适性。一般情况下，散步常数的选择取决于输入向量之间的距离，要求是大于最小距离，小于最大距离。 均方差精度的变化： eg=0.02（图5） 图5 eg=0.001（图6） 图6 比较图5和图6可以发现，均方差精度越小，函数逼近的效果越好。因为newrb()函数每一次循环只产生一个神经元，而每增加一个径向基神经元，都能最大程度的降低误差，如果未达到精度要求则继续增加神经元，满足精度要求后则网络设计成功。 RBF神经网络与BP神经网络进行比较 这里选择的精度均为0.02 BP神经网络（图7） 图7 PNN网络（图8） 图8 比较图7和图8，可以发现径向基网络的函数逼近效果更好。BP网络用于函数逼近时，权值的调节采用的是负梯度下降法。这个调节权值的方法有局限性，即收敛慢和局部极小等。运行时，径向基网络的收敛速度远远比较BP神经网络快。 所以，径向基函数网络(RBF)在逼近能力、分类能力和学习速度等方面均优于BP网络。 分类 实验内容：进行Iris数据分类实验，通过实验选择具有最佳性能的网络结构和训练参数，并与最近邻分类器和BP网络进行性能对比。 实验过程：这里选择Matlab中提供了径向基函数newpnn，即概率神经网络(probabilistic neural network) ，该网络最大的区别在于，第二层不再是线性层而是竞争层，并且竞争层没有阀值，故PNN网络主要用于解决分类问题。PNN是按下面的方式进行分类的： 为网络提供一输入向量后，首先，径向基层计算该输入向量同样本输入向量之间的距离||dist||，该层的输出为一个距离向量；竞争层接受距离向量为输入，计算每个模式出现的概率，通过竞争传递函数为概率最大的元素对应输出1，否则为0。 具体MATLAB程序如下： 实验结果及分析： 图7 对75组测试样本进行分类，其中结果1表示分类正确，0表示分类错误。如图7示，正确率达到94.67%，可以看出径向基网络对iris.txt数据集分类的效果是很好的。 性能对比 这里的PNN神经网络，选择均方差精度0.02，散布常数1 。BP神经网络和最近邻分类器的正确率选取的是报告《BP神经网络的构建与使用》的实验结果。 将iris.txt数据分成两部分(等间距的方式抽取数据)，一部分用于训练，一部分用于测试。 对测试数据集测试五次，得到的正确率如表1所示： 1 2 3 4 5 BP神经网络 0.9467 0.9067 0.8800 0.8800 0.9333 最近邻分类器 0.906667 0.513333 0.826667 0.813333 0.913333 径向基网络 94.67% 94.67% 94.67% 94.67% 94.67% 表1 观察三组数据可以看出，径向基函数网络的性能比BP神经网络和最近邻分类器都好。径向基网络和普通的前向网络有所不同，隐层神经元是径向基神经元而不是tansig或者logsig神经元。因为普通的前向网络中sigmoid神经元能够覆盖较大的输入区域，但是普通前向网络神经元数目在训练前就已经固定下来。而径向基神经元虽然只对相对较小的区域产生相应，但是在输入区域较大时，可以适当的增加径向基神经元来调整网络，从而达到精度要求。 而且径向基函数网络的设计比普通前向网络训练