第9章 Hopfield神经网络与联想记忆.pdf

第9章 Hopfield神经网络与联想记忆  前言  神经动力学  离散Hopfield神经网络  连续Hopfield神经网络  联想记忆  最优化计算  仿真实例 机器人智能与神经计算实验室(RINC.LAB) 1 /rinc 9.0 前言  对于所介绍的前向网络，  从学习的观点来看，它是一个强有力的学习系统， 系统结构简单、易于编程；  从系统的观点来看，它是一个静态非线性映射，通 过简单非线性处理单元的复合映射可获得复杂系统 的非线性处理能力；  从计算的观点来看，它并不是一强有力系统，缺乏 丰富的动力学行为。 机器人智能与神经计算实验室(RINC.LAB) 2 /rinc  反馈神经网络是一个反馈动力学系统，具有更强的计 算能力。1982年J. Hopfield提出的单层全互连含有对 称突触连接的反馈网络是最典型的反馈网络模型。 Hopfield 用能量函数的思想形成了一种新的计算方法， 阐明了神经网络与动力学的关系，并用非线性动力学 的方法来研究这种神经网络的特性，建立了神经网络 稳定性判据，并指出信息存储在网络中神经元之间的 连接上，形成了所谓的离散Hopfield网络。 机器人智能与神经计算实验室(RINC.LAB) 3 /rinc  1984年，Hopfield设计与研制了Hopfield网络模型的 电路，指出神经元可以用运算放大器来实现，所有 神经元的连接可用电子线路来模拟，称之为连续 Hopfield网络。  连续Hopfield网络成功的解决了旅行商 （Traveling Salesman Problem，TSP）计算难题（优化问题）。  Hopfield网络是神经网络发展历史上的一个重要的里 程碑。 机器人智能与神经计算实验室(RINC.LAB) 4 /rinc 9.1 神经动力学  1989年Hirsch把神经网络看成是一种非线性动力学 系统，称为神经动力学 （Neurodynamics ）。  确定性神经动力学将神经网络作为确定性行为，在 数学上用非线性微分方程的集合来描述系统的行为， 方程解为确定的解。  统计性神经动力学将神经网络看成被噪声所扰动， 在数学上采用随机性的非线性微分方程来描述系统 的行为，方程的解用概率表示。 机器人智能与神经计算实验室(RINC.LAB) 5 /rinc 神经动力学  动力学