复杂非线性系统中的混沌第四章.ppt

第四章  高维非线性系统中的混沌 高维非线性系统中的混沌 4.1　神经元网络中的混沌 4.2　对称广义Lorenz奇怪吸引子 4.3　对称广义Rssler奇怪吸引子 4.1.1 神经元网络理论的产生与发展 人工神经元网络成为非线性科学研究的重要内容 神经科学的研究早在1943年就开始了 对人工神经元网络的研究始于1962年由Rosenblatt提出的感知机模型 4.1.1 神经元网络理论的产生与发展 20世纪80年代，神经元网络研究复兴 神经元的联结模型、并行和分布式处理似乎是计算机进一步全新发展的唯一途径 随着亿次级超级计算机的出现，使得神经元网络理论的研究有了突破性进展 神经元网络已在一些方面表现了潜在能力 4.1.2 混沌神经元网络研究概况 1986年，人们发现了脑中存在着混沌现象 20世纪90年代，人们开始了对神经元网络与混沌相互交融的研究，即研究大脑中的混沌现象 4.1.2 混沌神经元网络研究概况 混沌在人脑中到底起什么作用: Babloyantz等人认为混沌可以提高脑的共振容量而对外界刺激产生非常丰富的响应； Nicolis认为混沌是自参考逻辑发生器； Amit认识到混沌不仅不会妨碍新模式的学习，而且若没有混沌可能只加深以前学习过的模式而不去记忆新模式； Tauda证明一个由低维混沌动力学组成的混沌神经元网络具有很强的从外界有效传递信息的能力，特别是对随时间变化的外部输入信息。 4.1.2 混沌神经元网络研究概况 在混沌神经元网络的研究中，人们已经试图利用混沌来实现某种功能: Ikeguchi等人尝试着用合原一幸等人提出的混沌神经元网络作联想记忆; Parodi等人利用混沌的伪随机行为产生对应于确定性输入模式的噪声模式来实现信息编码; Nara等人利用非对称递归神经元网络的复杂动力学进行复杂模式的搜寻，证明这种基于活化状态空间中复杂的混沌轨道的搜寻比随机搜寻更有效，并且混沌轨道的动态结构对搜寻行为的有效性影响很大; Yoshizawa对非单调激活特性的神经元网络的研究表明可以利用混沌来消除网络的伪记忆态，当网络不能回忆起正确的记忆时，表现出一种混沌行为，而不会给出伪记忆结果 。 4.1.2 混沌神经元网络研究概况 关于神经元网络系统混沌产生的途经，目前已经发现了倍周期分岔、同宿、异宿轨道产生混沌，另外Rulle-Takens-Newhouse道路也是神经元网络产生混沌的通常途径 4.1.3 神经元网络的生理结构 神经元是组成神经元网络的基本单元。神经元虽然具有多样性和微细结构，但从信息处理的角度来看，可以看作是最基本的信息处理单元，由胞体、轴突、树突等部分组成，如图4.1所示。 神经元的结构 4.1.3 神经元网络的生理结构 神经元网络突出的特性是大规模的处理单元及其相互联结，单元虽然简单，由于非线性，其集合行为可以十分复杂，并有并行和分布处理能力 从动力学观点看，脑的神经元网络系统是由大量的形式神经元联结而成的高度错综复杂的一个超高维非线性系统，网络的主要功能，前向网的学习功能和反馈网的联想记忆功能可由它的两个动力学子系统（状态动力学系统和权值动力学子系统）实现 神经元网络的这些优良功能由神经元网络动力学演化来实现 4.1.3 神经元网络的生理结构 人工神经元网络是以人脑的生理研究成果为基础的，其目的在于模拟人脑的某些机理与机制，实现某些方面的功能 本节主要对具有混沌特征的三层反馈神经元网络模型进行了研究：即利用Lyapunov指数作判据，构造神经元网络的奇怪吸引子，分析奇怪吸引子的运动特征并计算奇怪吸引子的关联维数，并在此基础上以谋求应用 4.1.4 三层反馈神经元网络模型 4.1.4 三层反馈神经元网络模型 其中输入层含有D个单元 ,隐含层含有N个单元的 ，输出层含有D个单元 。隐含层的变换函数为双曲线正切函数 ，网络的输出是隐含层输出的线性组合，即 ?4.1? ?4.2? 4.1.4 三层反馈神经元网络模型 式(4.1)中的tanh由下式定义 ?4.3? 随着网络的每一次迭代，每一个输出都反馈到它所对应的输入上，其数学表示为 ?4.4? 4.1.4 神经元网络的奇怪吸引子 该