竞争神经网络讲解.ppt

* * 层次前向网，输入层和竞争层。 * 第四章自组织竞争型神经网络 §4.1 前言 §4.2 竞争学习的概念和原理 §4.3自组织特征映射神经网络 §4.4自组织特征映射神经网络的设计 §4.5 对偶传播神经网络 §4.6小结 自组织竞争型神经网络 * 1.导论 在生物神经系统中，存在着一种侧抑制现象，即一个神经细胞兴奋以后，会对周围其他神经细胞产生抑制作用。这种抑制作用会使神经细胞之间出现竞争，其结果是某些获胜，而另一些则失败。表现形式是获胜神经细胞兴奋，失败神经细胞抑制。 自组织竞争型神经网络就是模拟上述生物神经系统功能的人工神经网络。 * 自组织竞争型神经网络是一种无教师监督学习，具有自组织功能的神经网络。网络通过自身的训练，能自动对输入模式进行分类。这一点与Hopfield网络的模拟人类功能十分相似，自组织竞争型神经网络的结构及其学习规则与其他神经网络相比有自己的特点。 在网络结构上，它一般是由输入层和竞争层构成的两层网络。两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层各神经元之间还存在横向连接。 * 在学习算法上，它模拟生物神经元之间的兴奋、协调与抑制、竞争作用的信息处理的动力学原理来指导网络的学习与工作，而不像大多数神经网络那样是以网络的误差或能量函数作为算法的准则。 竞争型神经网络构成的基本思想是网络的竞争层各神经元竞争对输入模式响应的机会，最后仅有一个神经元成为竞争的胜者。这一获胜神经元则表示对输入模式的分类。 * 自组织竞争人工神经网络是基于上述生物结构和现象形成的。它能够对输入模式进行自组织训练和判断，并将其最终分为不同的类型。 与BP网络相比，这种自组织自适应的学习能力进一步拓宽了人工神经网络在模式识别、分类方面的应用，另一方面，竞争学习网络的核心——竞争层，又是许多种其他神经网络模型的重要组成部分。 * 常用的自组织网络 自组织特征映射(Self-Organizing Feature Map)网络 对偶传播(Counter propagation)网络 返回 * 自组织神经网络的典型结构 竞争层 输入层 2.竞争学习的概念与原理 * 分类——分类是在类别知识等导师信号的指 导下，将待识别的输入模式分配到各自的模 式类中去。 聚类——无导师指导的分类称为聚类，聚类 的目的是将相似的模式样本划归一类，而将 不相似的分离开。 2 .1竞争学习的概念 竞争学习的概念 * 相似性测量＿欧式距离法 两个模式向量的欧式距离越小，两个向量越接近，因此认为这两个模式越相似，当两个模式完全相同时其欧式距离为零。如果对同一类内各个模式向量间的欧式距离作出规定，不允许超过某一最大值T，则最大欧式距离T就成为一种聚类判据，同类模式向量的距离小于T，两类模式向量的距离大于T。 * 相似性测量＿余弦法 两个模式向量越接近，其夹角越小，余弦越大。当两个模式向量完全相同时，其余弦夹角为1。如果对同一类内各个模式向量间的夹角作出规定，不允许超过某一最大夹角a，则最大夹角就成为一种聚类判据。同类模式向量的夹角小于a，两类模式向量的夹角大于a。余弦法适合模式向量长度相同和模式特征只与向量方向相关的相似性测量。 * 2.2竞争学习原理 竞争学习规则——Winner-Take-All 网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，故称为Winner Take All。 * 1.向量归一化 首先将当前输入模式向量X和竞争层中各神经元对应的内星向量Wj 全部进行归一化处理； (j=1,2,…,m) * 向量归一化之前 * 向量归一化之后 * 竞争学习原理 竞争学习规则——Winner-Take-All 2.寻找获胜神经元 当网络得到一个输入模式向量时，竞争层的所有神经元对应的内星权向量均与其进行相似性比较，并将最相似的内星权向量判为竞争获胜神经元。 欲使两单位向量最相似，须使其点积最大。即： * 从上式可以看出，欲使两单位向量的欧式距离最小，须使两向量的点积最大。即： 竞争学习规则——Winner-Take-All * 3.网络输出与权值调整 j?j* 步骤3完成后回到步骤1继续训练，直到学习率衰减到0。 竞争学习规则——Winner-Take-All * 竞争学习的几何意义 ? * * 1 W ? * ? j W * )] ( ? ) ( ? )[ ( ) ( * t t t t j p W X W - = h D * ┆