SOM神经网络课件整理.ppt

自组织神经网络 例：用竞争学习算法将下列各模式分为2类 自组织神经网络 自组织神经网络 SOM网研究背景 1981年，T.Kohonen教授提出一种自组织特征映射网，简称SOM网，又称Kohonen网。 Kohonen认为：一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的，其特点与人脑的自组织特性相类似。 SOM网研究背景 SOM神经网络有许多的不足之处，例如，它的最终权向量受输入样本序列的影响，易受噪声点和野值的影响，拓扑保持能力有限，缺乏理论上的收敛性证明等等，针对SOM网络的不足，许多学者开始做大量的改进工作，最具有代表性的有FKCN，Kohonen SOFM．C，LVQ。 20世纪90年代中期出现了基于核的学习方法，该方法能够高效地分析处理非线性关系，而且这种方法的效率水平能与线性算法基本持平，使得研究人员前进了一大步。该方法在统计分析领域得到进一步发展之后，在高维特征空问内也能够达到比较高的效率，并且避免了过度拟合的危险。 SOM网研究背景 近年来，神经网络正向模拟人类认知的道路上更加深入发展，与模糊系统、遗传算法、进化机制等结合，形成计算智能，成为人工智能的一个重要方向，将在实际应用中得到发展。 自组织特征映射神经网络 1.拓扑结构 SOM网共有两层，输入层模拟感知外界输入信息的视网膜，输出层模拟做出响应的大脑皮层。 自组织特征映射神经网络 2.SOM网络的Kohonen算法 SOM采用的是 Kohonen算法，他在 Winner-Take-All（WTA）学习规则的基础上加以改进，主要是调整权向量与侧抑制的方式不同。 WTA：侧抑制是“封杀”式的，只有获胜神经元可以调整其权值。 Kohonen：获胜神经元对其邻近神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此不仅获胜神经元本身要调整权向量，它周围的神经元在其影响下也要程度不同地调整权向量。 自组织特征映射神经网络 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的所有神经元均按其离开获胜神经元的距离远近不同程度地调整权值。常见的调整方法有以下几种 Page ? * 购房人 SOM神经网络 智能信息处理实验室 目录 神经网络基础知识 SOM网 一种改进思路 文献 神经网络基础知识 芬兰赫尔辛基大学神经 网络专家Kohonen “人工神经网络是由具有适应性的简单单元组成的广泛并行互联的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应。” 神经网络基础知识 ANN发展状况 1.探索时期（开始于20世纪40年代） 1943年，神经生理学家麦克拉奇（W.McCulloch)和数学家匹茨（Pitts）合作，应用反馈机制建立了世界上第一个神经网络模型，即人工神经网络（ANN）； 2.第一次热潮时期（20世纪50年代末——20世纪60年代初） 1958年，罗森布.拉特（F. Rosenblatt）设计制作了“感知机”，它是一种多层的神经网络，这项工作首次把ANN的理论探讨付诸于工程实践； 1959年，威德罗（Widrow）等提出了自适应线性元件网络，通过训练后可用于抵消通信中的回波赫噪声，在此基础上发展了非线性自适应网络； 神经网络基础知识 ANN发展状况 3.低潮时期（20世纪60年代末——20世纪70年代） 1969年，明斯基等在《percepetron》中对感知器的功能得出了悲观结论； 1972年，T.Kohonen和J.Anderson分别提出能完成记忆的新型新网络； 1976年，S.Grossberg在自组织神经网络的研究； 4.第二次热潮（20世纪80年代至今） 1982年，美国物理学家霍普菲尔德（J.Hopfield）陆续提出离散和连续的全互联神经网络模型，并成功求解旅行商问题（TSP）,引起巨大反响； 1986年，Rumelhart和McCelland领导的科学家小组提出了（B-P）算法； 1987年，首届国际ANN大会在圣地亚哥召开，国际ANN联合会成立，创办了多种ANN