模式识别第八章人工神经网络.ppt

正则化后有或者（8.5.4）（8.5.5）（8.5.6）由此可得SOM模型的权值修正规则为（3）SOM工作原理第69页,共82页，星期六，2024年，5月上述介绍中的学习规则都是使用了最大输出的学习规则。但是事实上有两种学习规则。（3）SOM工作原理第70页,共82页，星期六，2024年，5月最大输出规则：最小欧氏距离规则：（8.5.7）（8.5.8）（3）SOM工作原理第71页,共82页，星期六，2024年，5月训练阶段w1w2w3w4w5（3）SOM工作原理第72页,共82页，星期六，2024年，5月工作阶段（3）SOM工作原理第73页,共82页，星期六，2024年，5月SOM算法有三个关键点：对于给定的输入模式，确定竞争层上的获胜单元。按照学习规则修正获胜单元及其邻域单元的连接权值。逐步减小邻域及学习过程中权值的变化量。（4）SOM学习算法第74页,共82页，星期六，2024年，5月(1)初始化对输出层各权向量赋小随机数并进行归一化处理，得到，j=1,2,…m；建立初始优胜邻域Nj*(0)；学习率?赋初始值。(2)接受输入从训练集中随机选取一个输入模式并进行归一化处理，得到，p?{1,2,…,P}。P是样本总数,p是样本编号。(3)寻找获胜节点计算与的点积，j=1,2,…m，从中选出点积最大的获胜节点j*。(4)定义优胜邻域Nj*(t)以j*为中心确定t时刻的权值调整域，一般初始邻域Nj*(0)较大，训练过程中Nj*(t)随训练时间逐渐收缩。（4）SOM学习算法第75页,共82页，星期六，2024年，5月(5)调整权值对优胜邻域Nj*(t)内的所有节点调整权值：i=1,2,…nj?Nj*(t)式中，是训练时间t和邻域内第j个神经元与获胜神经元j*之间的拓扑距离N的函数，该函数一般有以下规律：（4）SOM学习算法第76页,共82页，星期六，2024年，5月(5)调整权值(6)结束检查学习率是否衰减到零或某个预定的正小数？（4）SOM学习算法第77页,共82页，星期六，2024年，5月第78页,共82页，星期六，2024年，5月例1：设一维的SOM分类网络如图所示，通过学习可将下列输入模式集合分成A和B两类。设输入模式为：P1=101，P2=100，P3=010，P4=011。一维SOM网络（5）SOM学习应用第79页,共82页，星期六，2024年，5月对于这四个输入模式，我们先求出它们之间的欧几里德距离，得到如下的一个距离关系矩阵D其中dij代表第i个模式与第j个模式之间的距离，（i，j＝1，2，3，4）。（5）SOM学习应用第80页,共82页，星期六，2024年，5月显然d11=d22=d33=d44=0，d12=d21=d34=d43=1，d13=d31=d24=d42=3，d14=d41=d23=d32=2，因此有（5）SOM学习应用第81页,共82页，星期六，2024年，5月定义两个模式属于同一类是指它们的距离，此时P1和P2属于A类，而P3和P4属于B类，A和B之间的距离为2或3。把这四类模式输入一维SOM网络进行学习后，最终可以得到正确的模式分类。（5）SOM学习应用第82页,共82页，星期六，2024年，5月第37页,共82页，星期六，2024年，5月第38页,共82页，星期六，2024年，5月第39页,共82页，星期六，2024年，5月第40页,共82页，星期六，2024年，5月第41页,共82页，星期六，2024年，5月1）单层感知器（Pereceptron）感知器是一种双层神经元网络模型，一层为输入层，另一层具有计算单元，可通过监督学习建立模式判别的能力。两层感知器只能解决线性问题。学习的目的：通过改变权值使神经元网络由给定的输入得到给定的输出。单层感知器的输出：从初始权wi(0)和阈值?开始训练。8.4前馈神经元网络第42页,共82页，星期六，2024年，5月训练过程：?设理想的输出为?实际输出:用已知类别模式向量或特征向量作为训练集：?当输入为属于第j类特征向量x时，应使对应于该