5神经网络.pptVIP

天津大学自动化学院 * 智能控制系统 天津大学电气与自动化工程学院 五 天津大学自动化学院 神经网络的基本概念 1 前向网络及其主要算法 2 反馈网络 3 神经网络模型辨识 4 第三章 神经网络控制 神经网络控制 5 天津大学自动化学院 基于人工神经网络的控制简称神经控制。神经网络是由大量人工神经元广泛互联而成的网络，具有很强的自适应性和学习能力、非线性映射能力、鲁棒性和容错能力。 1.1 生物神经元模型 人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102～104个其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。 1. 神经网络的基本概念 天津大学自动化学院 1. 神经网络的基本概念 树突：接受信息 轴突：发送信息 神经元：控制和信息处理的基本单元 图3-1 生物神经元结构 天津大学自动化学院 1. 神经网络的基本概念 神经元的功能与特性 时空整合功能：对不同时间不同突触的输入进行整合 兴奋与抑制状态：输入——膜电位—— 输出 脉冲与电位转换 ：数模转换 神经纤维传导速度：1-150m/s 突触延时和不应期:突触的不应期 学习、遗忘和疲劳：突触的传递作用可增强、减弱或饱和 天津大学自动化学院 1.2 人工神经元模型 人工神经元是对生物神经元的一种模拟与简化，是一个多输入、单输出的非线性元件。 1. 神经网络的基本概念 图3-2 人工神经元结构模型 天津大学自动化学院 人工神经元输入、输出关系可描述为 其中， 是从其他神经元传来的输入信号； 表示从神经元j到神经元i的连接权值； 为阈值； 称为激发函数或作用函数。 1. 神经网络的基本概念 天津大学自动化学院 为了方便起见，常把 看成是恒等于1的输入 的权值，则人工神经元的模型可以写为： 其中 输出激发函数 又称为变换函数，它决定神经元（节点）的输出。该输出为1或0，取决于其输入之和大于或小于内部阈值, 一般具有非线性特性。 1. 神经网络的基本概念 天津大学自动化学院 1. 神经网络的基本概念 图3-3 常见的激发函数 阈值型函数 阈值型函数 饱和型函数 双曲函数 S型函数 高斯函数 天津大学自动化学院 1.3 人工神经网络模型 利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。 前馈型神经网络，又称前向网络（Feedforward NN）。神经元分层排列，有输入层、隐层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入。 1. 神经网络的基本概念 天津大学自动化学院 图3-4 前馈型神经网络结构 前馈网络是一种强有力的学习系统，其结构简单而易 于编程； 前馈网络是静态非线性映射，通过简单非线性处理单 元的复合映射，可获得复杂的非线性处理能力。 感知器网络、BP网络 1. 神经网络的基本概念 天津大学自动化学院 图3-5 反馈型神经网络结构 反馈型神经网络（Feedback NN）的结构如图所示。如果总节点（神经元）数为N，那么每个节点有N个输入和一个输出，也就是说，所有节点都是一样的，它们之间都可相互连接。 1. 神经网络的基本概念 天津大学自动化学院 反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。 Hopfield神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆的功能。 1. 神经网络的基本概念 1.4 神经网络的学习方法 学习方法是体现人工神经网络智能特性的主要标志，离开了学习算法，人工神经网络就失去了自适应、自组织和自学习的能力。 神经网络的学习是通过改变权值实现的。 天津大学自动化学院 1. 神经网络的基本概念 有教师学习：网络的输出和期望的输出（即教师信 号）进行比较 无教师学习：按照一预先设定的规则（如竞争规则） 自动调整权值 再励学习：行动——评价——改进 图3-6 神经网络的学习 天津大学自动化学院 Hebb学习规则 两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则 。 Hebb学习规则是一种无教师的学习方法。 1. 神经网络的基本概念 i j 天津大学自动化学院 Delta（）学习规则 定义误差准则函数 其中