沈阳农业大学信息与电气工程学院智能优化方法课件 第五章.ppt

第五章 人工神经网络 5.1 人工神经网络概述 5.1.1 人工神经网络发展简史 5.1.2 生物神经元 5.1.3 人工神经网络模型 5.1.4 常见的神经元激发函数 5.1.5 网络结构及工作方式 5.1.6 NN的学习 5.2 感知器 5.2.1 单层感知器模型 5.2.2 多层感知器 5.3 BP神经网络 5.3.1 BP网络结构 5.3.2 神经网络工具箱 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 1982年，美国加州工学院物理学家Hopfield提出了离散的神经网络模型，标志着神经网络的研究又进入了一个新高潮。1984年，Hopfield又提出连续神经网络模型，开拓了计算机应用神经网络的新途径。 1986年，Rumelhart和Meclelland提出多层网络的误差反传(back propagation)学习算法，简称BP算法。BP算法是目前最为重要、应用最广的人工神经网络算法之一。 自20世纪80年代中期以来，世界上许多国家掀起了神经网络的研究热潮，可以说神经网络已成为国际上的一个研究热点。 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 5.1 人工神经网络概述 前馈型网络 神经元分层排列，顺序连接。由输入层施加输入信息，通过中间各层，加权后传递到输出层后输出。每层的神经元只接受前一层神经元的输入，各神经元之间不存在反馈。 各神经元接受前一层的输入，并输出给下一层，没有反馈。 结点分为两类，即输入单元和计算单元，每一计算单元可有任意个输入，但共有一个输出。 通常前馈网络可分为不同的层，第i层的输入只与第i-1层输出相连，输入和输出点与外界相连，而其他中间层则称为隐层。 反馈型网络 在层次网络结构中，只在输出层到输入层存在反馈，即每一个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈。 1、学习方式 1、学习方式 （3）再励学习（或强化学习） 这种学习介于上述两种情况之间，对系统输出结果只给出评价而不是正确答案，学习系统通过强化那些受奖励的动作来改善自身性能。 （1）误差纠正学习 首先我们考虑一个简单的情况：设某神经网络的输出层中只有一个神经元i，给该神经网络加上输入，这样就产生了输出yi(n)，称该输出为实际输出。 对于所加上的输入，我们期望该神经网络的输出为d(n),称为期望输出或目标输出（样本对里面包含输入和期望输出）。实际输出与期望输出之间存在着误差，用e(n)表示： （2）Hebb学习规则 （2）Hebb学习规则 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.2 感知器网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 5.3 BP神经网络 第五章 结束 5.3.2 神经网络工具箱 智能优化方法 沈阳农业大学信电学院 2014年 ②导入训练样本数据 在工作空间或文件中生成所需的数据，然后点击Import按钮将数据导入。 5.3.2 神经网络工具箱 智能优化方法 沈阳农业大学信电学院 2014年 ③创建神经网络 在图形窗口主界面中点击“New Network”，进入创建神经网络界面。在该界面中进行对神经网络的名