反馈型神经.ppt

Hopfield网络的标准能量函数为： 由于 ，取Hopfield网络的输出对应待辨识参数，即 ，则 可以看出如下关系成立： 利用Hopfield网络进行辨识时，取所定义的辨识能量函数与Hopfield网络标准能量函数相等，即 ，则由上式可得： 由根据函数对向量求导的定义，有 由于 ，则有 （4） 由于 （5） 对比式（3）和式（4），可将网络得权值表示为： （6） 将式（6）代入式（3），可得到稳定的 ，通过双曲函数 ，可得到网络最终辨识结果的输出。 (5)仿真实例 针对二阶系统进行参数辨识。系统的状态方程为： Hopfield网络的输出对应待辨识参数，Hopfield网络权值和初值取零。 在仿真程序中，取 ， 和 为常数矩阵， ， ， ，取 ， 。经过一段时间的仿真运行后，辨识参数的结果为： 在仿真程序中，取 ， 和 为时变系数矩阵，  ， 。 取 ， ，参数辨识过程的仿真结果如图所示。 图 矩阵中各参数的辨识结果 CHNN是在DHNN的基础上提出的，它的原理 和DHNN相似。由于CHNN是以模拟量作为网络的 输入输出量，各神经元采用并行方式工作，所以 它在信息处理的并行性、联想性、实时性、分布 存储、协同性等方面比DHNN更接近于生物神经 网络。我们将从以下几点来讨论CHNN。 1、网络模型 2、CHNN方程的解及稳定性分析 3、关于Hopfield能量函数的几点说明 4、关于CHNN的几点结论 利用运算放大器实现的Hopfield动态神经元 连续型Hopfield网络结构 1.CHNN的网络模型 对于Hopfield动态神经元模型，放大器的I/O关系可用如下的方程来描述： 对上述方程变形得： 2.CHNN方程的解及稳定性分析 对于CHNN来说，关心的同样是稳定性问题。在所有影响电路系统稳定的所有参数中，一个比较特殊的参数值是放大器的放大倍数。从前面的分析中可以看出，当放大器的放大倍数足够大时，网络由连续性转化成离散型，状态与输出之间的关系表现了激活函数的形状，而正是激活函数代表了一个网络的特点，所以，下面着重分析不同激活函数关系对系统的稳定性的影响。 1、激活函数为线性函数时 2、激活函数为非线性函数时 当激活函数为线性函数时，即 对于非线性系统进行稳定性分析，方法之一就是在系统的平衡点附近对系统进行线性化处理。也可以基于网络的能量函数。下面介绍Hopfield能量函数法。 此定理表明，随着时间的演化，网络的状态总是朝能量减少的方向运动。网络的平衡点就是E的极小点。 3.关于Hopfield能量函数的几点说明 1）能量函数为反馈网络的重要概念。根据能量函数可以方便的判断系统的稳定性； 2）能量函数与李雅普诺夫函数的区别在于：李氏被限定在大于零的范围内，且要求在零点值为零； 3）Hopfield选择的能量函数，只是保证系统稳定和渐进稳定的充分条件，而不是必要条件，其能量函数也不是唯一的。 当对反馈网络应用能量函数后，从任一初始状态开始，因为在每次迭代后都能满足?E≤0，所以网络的能量将会越来越小，最后趋于稳定点?E=0。 Hopfield能量函数的物理意义是：在那些渐进稳定点的吸引域内，离吸引点越远的状态，所具有的能量越大，由于能量函数的单调下降特性，保证状态的运动方向能从远离吸引点处，不断地趋于吸引点，直到达到稳定点。 4.关于CHNN的几点结论： 1）具有良好的收敛性； 2）具有有限个平衡点； 3）如果平衡点是稳定的，那么它也一定是渐进稳定的； 4）渐进稳定平衡点为