第5章_神经控制.ppt

智能控制理论 第5章 神经控制 5.1 人工神经网络的初步知识 人工神经网络（ANN，Artificial Neural Networks），简称神经网络。又称连接机制模型或并行分布处理模型，它是在人类神经网络解剖的基础上，描述人类神经网络传递、处理信息的过程，是从微观结构和功能上对人脑的抽象、简化，旨在模仿人脑结构及其功能的脑式智能信息处理系统。是模拟人类智能的一条重要途径，反映了人脑功能的若干基本特征。 人工神经网络具有四个基本特征： 　　（1）非线性：非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制二种不同的状态，这种行为在数学上表现为一 种非线性关系。具有阈值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量。 （2）非局限性：一个神经网络通常由多个神经元广泛连接而成。一个系统的整体行为不仅取决于单个神经元的特征，而且可能主要由单元之间的相互作用、相互连接所决定。通过单元之间的大量连接模拟大脑的非局限性。联想记忆是非局限性的典型例子。 （3）非常定性：人工神经网络具有自适应、自组织、自学习能力。神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统本身也在不断变化。经常采用迭代过程描写动力系统的演化 过程。 （4）非凸性：一个系统的演化方向，在一定条件下将取决于某个特定的状态函数。例如能量函数，它的极值相应于系统比较稳定的状态。非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性。 人工神经网络的发展概况： 1943年心理学家W.Mcculloch和数理逻辑学家W.Pitts首先提出一个人工神经元模型，即“M-P神经网络”。它是最早的神经元抽象模型，它能实现一些简单的逻辑功能。基本M—P模型如下图所示。 图中T为神经元的门限值。当兴奋型输入的总和等于 或大于门限值，而又无抑制型输入的存在，则该神经元被 激活，可用下表表示： 表中E表示兴奋型总输入，I表示抑制型总输入。 利用这种神经元可实现各种布尔函数运算，即与、 或非的运算，如下图所示： 不同门限值完成不同布尔运算，这种神经元在输入端无权 值。 虽然该模型过于简单，但它为进一步的研究打下了基础。 1949年D.O.Hebb 首先提出了一种调整神经网络连接权的 规则，通常称为Hebb学习规则。其基本思想是，当两个神经元 同时兴奋或同时抑制时，则它们之间的连接强度便增加。用式 子表示即为 或者 。该学习规则的意义为，连接权的调整正比于两个神经元活动状态的乘积，连接权是对称的，神经元到自身的连接权为零。现在仍有不少神经网络采用这样的学习规则。 1958年F. Rosenblatt 等人研究了一种特殊类型的神经网络，称为“感知机”（perceptron）。他们认为这是生物系统感知外界传感信息的简化模型。该模型主要用于模式分类，并一度引起人们的广泛兴趣。 1969年M. Minsky和S. Papert发表了名为“感知机” 的专著。他们在这本专著中指出了简单的线性感知机的功能 是有限的，它无法解决线性不可分的两类样本的分类问题。 典型的例子如“异或”的逻辑关系。要解决这个问题，必须 加入隐层结点。但是对于多层网络，如何找到有效的学习算 法尚是难于解决的问题。因此它使得整个70年代神经网络的 研究处于低潮。 美国物理学家J.J. Hopfield 在1982和1984年发表了 两篇神经网络的文章，引起了很大的反响。他提出了一种反 馈互连网，并定义了一个能量函数，它是神经元的状态和连 接权的函数，利用该网络可以求解联想记忆和优化计算的问 题。该网络后来称为Hopfield网，最典型的例子是应用该网 络成功地求解了旅行商最优路径问题。 1986年D.E. Rumelhart 和J.L. Mcclelland等人提 出了多层前馈网的反向传播算法（Back Propagation），以 后简称BP网络或BP算法。该算法解决了感知机所不能解决的 问题。 Hopfield网和反向传播算法的提出使人们看到了神经网 络的前景和希望。1987年在美国召开了第一届国际神经网络 会议，它掀起了神经网络研究的热潮，许多研究人员都企图 找到神经网络在各自领域的应用。 神经网络控制也是从这个背景下发展起来的，自80年代 后期以来，神经网络控制已取得很大进展，本节着重介绍在 这方面的研究工作和主要成果。 5.1.1