五章自组织竞争神经网络.pptVIP

第五章 自组织竞争神经网络 第五章 自组织竞争神经网络 5.1 概述 5.2 自组织特征映射网络 5.3 自适应共振理论模型 5.4 神经认知机 5.1 概述 在实际的神经网络中，存在一种侧抑制的现象，即一个神经细胞兴奋后，通过它的分支会对周围其他神经细胞产生抑制这种侧抑制在脊髓和海马中存在，在人眼的视网膜中也存在。 另外，在认知过程中除了从教师那儿得到知识外，还有一种不需要教师指导的学习，这种直接依靠外界刺激，“无师自通”达到的功能有时也称为自学习、自组织的学习方法。 自组织竞争人工神经网络就是基于上述两种生物结构和现象的基础上生成的，它的权是经过Hebb规则或类似Hebb规则学习后得到的。 5.2 自组织特征映射网络 5.2.1 网络拓扑结构及工作过程 5.2.2 自组织映射学习算法 5.2.3 自组织映射网络的工作原理 5.2.4 网络的应用实例 芬兰学者Kohonen认为一个神经网络接受外界输入模式时，将会分成不同的区域，各区域对输入模式将会有不同的响应特性，最临近的神经元互相激励，而较远的神经元之间相互抑制，而更远的神经元之间又有较弱的激励作用。在受到外界刺激时，刺激最强的地方形成一个Bubble（墨西哥帽），在此Bubble区中，神经元权向量会自动调节，直到与输入向量的某一最大分量方向相重合为止。 图5.1 神经元的作用分布曲线 图 5.2 网络结构 5.2.1 网络拓扑结构及工作过程 图5.3 Nj(t)的形状变化情况 对于任意一个输入节点i和输出节点j有： i?{1,2,..,n} , j?{1,2,..,n} 且： 5.2.2 自组织映射学习算法 ①连接权值的初始化。 t=0:0Wij1,i?{1,2,…,n},j?{1,2,…,m} ②对网络输入一个样本模式。 XK=(X1,X2,…,Xn) ③计算与全部输出节点间的权值向量的距离 j?{1,2,…,m} (5.2.2) ④选择有最小距离的节点为竞争获胜节点 j?{1,2,…,m} ⑤调整权值 (5.2.3) 其中，0?(t)1，衰减函数，随着时间t而递减；?(Nj,Nj*)限界函数，随着Nj*距离递减。 ⑥若还有输入样本则转②，当所有的样本输入完，且满足： i?{1,2,..,n}, j?{1,2,…,m} (5.2.4) 或者完成指定的学习次数后算法结束，否则转②。 ?(t)和Nj*有一般化数学方法，凭经验选取。初始时， Nj*选取较大，后逐渐变小， ?(t)开始时较大，后逐渐变为0。 从自组织映射网络算法来看，该网络有以下特点： (1)网络中的权值是输入样本的记忆。如果输出节点j与输入层n个节点的连接权值向量用Wj表示，对应某一类样本XK输入，使j节点达到的匹配最大，那么Wj通过学习以后十分靠近XK，因此以后当XK再次输入时，j节点必定兴奋， j节点是样本的XK代表。 (2)网络学习时对权值的调整，不只是对兴奋的节点所对应的权值进行调整，而对其周围区域Nj内的节点同时进行调整，因此对于在Nj内的节点可以代表不只是一个样本XK，而是与XK比较相近的样本都可以在Nj内得到反映，因此这种网络对于样本的畸变和噪声的容限大。 (3)网络学习结果使比较相近的输入样本在输出二维平面上位置也比较接近。 (4)可实现在线学习，已修改的权值将保留。 5.3 自适应共振理论模型 5.3.1 自适应共振理论(ART) 5.3.2 ART1神经网络 5.3.3 ART1网络学习算法的改进 5.3.4 ART2神经网络 5.3.5 ART神经网络在人像识别中的应用 5.3.1 自适应共振理论(ART) 自适应共振理论(Adaptive Resonance Theory，简称)是由美国Bosto