径向基函数网络解读课件.pptVIP

第四章径向基函数网络Radial-BasisFunctionNetworks1

一、概述BP多层前馈网络是应用极为广泛的模型。但是其学习算法具有计算量大、学习速度慢等缺点。径向基函数(RadialBasisFunction,RBF)理论为多层前馈网络的学习提供了一种新颖而有效的手段。RBF网络不仅具有良好的推广能力，而且计算量小、速度快。和小波基函数神经网络、样条函数神经网络、正交函数神经网络类似，RBF网络属于核函数模型类。2

一、概述和MLP/BP网络类似，RBF网络是一个前馈网络模型。LinearoutputInputlayerlayerNonlineartransformationlayer(generateslocalreceptivefields)3

一、概述inputlayerhiddenlayer(receptivefields)x1x2?1Outputlayerz1zkWkjnetk?jyjLinearact.functionzcx(d-1)?Hxd4

一、概述RBF网络的功能?Fromafunctionapproximationperspective?thisisequivalenttoimplementingacomplexfunction(correspondingtothenonlinearlyseparabledecisionboundary)usingsimplefunctions(correspondingtothelinearlyseparabledecisionboundary)?Implementingthisprocedureusinganetworkarchitecture,yieldstheRBFnetworks,ifthenonlinearmappingfunctionsareradialbasisfunctions.5

一、概述l若已知设：和，通过线性内插来逼近分别代表与和的距离则即可表示为已知函数值的加权和（归一化权）l若推广到基于多个已知函数值的插值，则有：在P0个作用中，只有那些与距离小的起更大的6

一、概述?比如：–有8样本（已知函数值）–只要用四个样本就可完成逼近的内插?如何选择有效的邻近节点（邻近样本）？?如何决定加权系数？RBF神经网络能解决!7

给定一个n维空间中点集及相应实值设计一个函数f(x)，使它满足插值条件：传统方法：，i=1,2┄n,,将插值条件代入，得到关于m个未知w的m个方程。RBF：用范基函数加权,通过学习，设法得到相应的参数RadialBasisFunctions:?Radial-basisfunctionswereintroducedinthesolutionoftherealmultivariateinterpolationproblem.?BasisFunctions:Asetoffunctionswhoselinearcombinationcangenerateanarbitraryfunctioninagivenfunctionspace.?Radial:Symmetricarounditscenter8

一、概述?Fromaclassificationperspective：在低维空间非线性可分的问题总可以映射到一个高维空间，使其在此高维空间中为线性可分。RBF的输出单元部分构成一个单层感知机，只要合理选择隐单元数（高维空间的维数）和作用函数，就可以把原来的问题映射为一个线性可分问题。在RBF网络中，输入到隐层的映射是非线性的，而隐层到输出的映射则是线性的。9

例1x2+-++-1--++2+---x1圈1和圈2中的样本数据分别属于一类，圈外样本属于另一类。RBF如何划分这两类？（非线性分类）10

一、概述设：c1和r1,r分别是圈1和圈2的中心和半径，2,c2样本x=(x,x)12xx1?(c,x)121y?(c2,x)1?(c?(c1,x)=1ifdistanceofxfromc,x)=1ifdistanceofxfromc12lessthanr1and0otherwiselessthanr2and0otherwise2?：Hypersphericradialbasisfunction11

一、概述?(c,x)-+-22-1+1----0?(c,x)11通过隐层特征空间(?(c,x)）的作用，圈2中的样本被映射到(0,1),圈1中的样