人工神经网络ArtificialNeuralNetworks.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 脉冲耦合神经网络 随着生物神经学的研究和发展，Eckhorn等通过对小型哺乳动物大脑视觉皮层神经系统工作机理的仔细研究，提出了一种崭新的网络模型??脉冲耦合神经网络模型Pulse-Coupled Neural Network, PCNN )。PCNN来源于对哺乳动物猫的视觉皮层神经细胞的研究成果，具有同步脉冲激发现象、阈值衰减及参数可控性等特性。由于其具有生物学特性的背景、以空间邻近和亮度相似集群的特点，因此在数字图像处理等领域具有广阔的应用前景。将PCNN的必威体育精装版理论研究成果与其他新技术相结合，开发出具有实际应用价值的新算法是当今神经网络研究的主要方向之一。 * * 脉冲耦合神经网络 1952年，Hodgkin与Huxley开始研究神经元电化学特性[216]。1987年，Charles M. Gray等发现猫的初生视觉皮层有神经激发相关振荡现象[172； 173]。1989年,Reinhard Eckhorn 和Charles M. Gray研究了猫的视觉皮层，提出了具有脉冲同步发放特性的网络模型[106；173]。1990年，Reinhard Eckhorn根据猫的大脑皮层同步脉冲发放现象，提出了展示脉冲发放现象的连接模型[107]。对猴的大脑皮层进行的试验中，也得到了相类似的试验结果。1994年，Johnson发表论文，阐述了PCNN的周期波动现象及在图像处理中具有旋转、可伸缩、扭曲、强度不变性[244]。通过对Eckhorn提出的模型进行改进，就形成脉冲耦合神经网络（PCNN）模型。于1999年IEEE神经网络会刊出版了脉冲耦合神经网络专辑. 国内也于20世纪90年代末开始研究脉冲耦合神经网络。 * * 脉冲耦合神经网络 为了更进一步提高性能，必须降低计算复杂度，即要减少神经元连接数。Ekblad, U.和J.M. Kinser于2004年提出了交叉皮层模型（Intersecting Cortical Model, ICM）提高图像处理的速度。 * * 脉冲耦合神经网络 视觉皮层各个区域分别用V1、V2、V3、V4、V5表示。V1表示条纹状视觉皮层区域，它对图像很少进行预处理，但包含着丰富的图像细节信息。V2进行视觉映射，视觉图谱信息少于Vl。V3、V4、V5可以是独立处理色彩、静态和运动信息的特定功能区域。 * * Hodgkin-Huxley模型 20世纪50年代，Hodgkin和Huxley研究哺乳动物视觉皮层细胞，提出了膜电位的运行模型。 其中，I是通过膜的离子电流，m表示通道打开的概率，G表示钠、钾等离子的电导和漏电导，E表示总电位。m随时间的变化率为: 其中，am是小颗粒未通过通道的比例，bm是通过通道的比例。am和bm都取决于总电位E，并且对钠离子Na+和钾离子K+具有不同的值。 * * FitzHugh-Nagumo模型 20世纪60年代初，对神经细胞膜及轴突进行理论分析和定量模拟，提出FitzHugh-Nagumo模型。在此模型中，神经元的行为用一个范德坡振荡器(van der Pol oscillator)进行描述。该模型有多种描述形式，但每种形式本质是相同的，即用一个耦合振荡器来描述一个神经元。例如，Labbi等描述神经元的膜电势x和电压恢复量y之间的相互作用如下 * * Eckhorn模型 1990年，根据猫的视皮层的同步振荡现象，Eckhorn提出一个脉冲神经网络模型，如图所示。这个模型由许多相互连接的神经元构成，每个神经元包括两个功能上截然不同的输入部分：分别是常规的馈接（Feeding）输入，和起调制作用的连接（Linking）输入。而这两部分的关系并非像传统神经元那样是加耦合的关系，而是乘耦合的关系。 * * Eckhorn模型 一般表示为 * * 脉冲耦合神经网络 神经元主要有两个功能单元构成:馈接输入域和连接输入域，分别通过突触连接权值M和K来与其邻近的神经元相连。两功能单元都要进行迭代运算，迭代过程中按指数规律衰减。馈接输入域多加一个外部激励S。 * * Bayes连接域网络模型 竞争前的发放概率 竞争后的发放概率 * * 图像理解是一个高层的感知任务，基于Bayes连接域网络模型BLFN，提出了一种特征捆绑计算模型，能够实现物体知觉的整体识别。 特征捆绑的计算模型