第一章人工神经网络概述PPT课件.ppt

人工神经网络 Artificial Neural Networks;课程安排与要求;课程安排与要求;课程安排与要求;课程安排与要求;课程安排与要求;课程安排与要求;第一章：概论;1.1 人工神经网络的发展历史;第一章：概论;反思期（1969~1982） M. L. Minsky和S. Papert，《Perceptron》，MIT Press，1969年 异或”运算不可表示 二十世纪70年代和80年代早期的研究结果 认识规律：认识——实践——再认识 ;第一章：概论;2）1984年， J. Hopfield设计研制了后来被人们称为Hopfield网的电路。较好地解决了著名的TSP问题，找到了最佳解的近似解，引起了较大的轰动。 3）1985年，UCSD的Hinton、Sejnowsky、Rumelhart等人所在的并行分布处理（PDP）小组的研究者在Hopfield网络中引入了随机机制，提出所谓的Boltzmann机。 ;第一章：概论;第一章：概论;神经网络控制待解决的问题 1.神经网络的稳定性与收敛性问题。 2.神经网络的研究，在逼近非线性函数问题 上，现在的理论，只解决了存在性问题。 3.神经网络的学习速度一般都比较慢，为满 足实时控制的需要，必需予以解决。 4.神经网络控制系统，稳定性、收敛性的分 析难度大。; 几种不同的定义 1）Hecht—Nielsen（1988年） 人工神经网络是一个并行、分布处理结构，它由处理单元及其称为联接的无向讯号通道互连而成。这些处理单元(PE—Processing Element)具有局部内存，并可以完成局部操作。每个处理单元有一个单一的输出联接，这个输出可以根据需要被分枝成希望个数的许多并行联接，且这些并行联接都输出相同的信号，即相应处理单元的;1）Hecht—Nielsen（1988年）（续） 信号，信号的大小不因分支的多少而变化。处理单元的输出信号可以是任何需要的数学模型，每个处理单元中进行的操作必须是完全局部的。也就是说，它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。;Hecht—Nielsen定义主要强调了： ① 并行、分布处理结构； ② 一个处理单元的输出可以被任意分枝，且 大小不变； ③ 输出信号可以是任意的数学模型； ④ 处理单元完全的局部操作 ;2） Rumellhart，McClelland，Hinton的PDP 一组处理单元（PE或AN）； 处理单元的激活状态（ai）； 每个处理单元的输出函数（fi）； 处理单元之间的联接模式； 传递规则（∑wijoi）； 把处理单元的输入及当前状态结合起来产生激活值的激活规则（Fi）； 通过经验修改联接强度的学习规则； 系统运行的环境（样本集合）。 ;3） Simpson（1987年） 人工神经网络是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可以从不完整的或未知的输入找到模式。 ;人工神经网络对生物神经网络模拟时的几个关键点 1）信息的分布表示； 2）运算的全局并行与局部操作； 3）处理的非线性特征。 人工神经网络对大脑基本特征的模拟 1）形式上：神经元及其联接； 2）表现特征：信息的存储与处理。; 人工神经网络有吸引力的特征 1）能逼近任意L2上的非线性函数； 2）信息的并行分布式处理与存储； 3）可以多输入、多输出； 4）可硬件电路实现，或用现有的计算机技术实现； 5）能进行学习，以适应环境的变化。 决定网络整体性能的三大要素 1）神经元（信息处理单元）的特性； 2）神经元间相互联接的形式——拓扑结构； 3）为适应环境而改善性能的学习规则。;目前人工神经网络擅长两个方面： 对大量的数据进行分类，并且只有较少的几种情况； 必须学习一个复杂的非线性映射。 目前人工神经网络的主要应用领域： 人们主要将其用于语音、图像、视觉、知识处理、辅助决策等方面。 在数据压缩、模式匹配、系统建模、控制、求组合优化问题的最佳解的近似解（不是最佳近似解）等方面也有好的应用。 ;第一章：概论;参考文献 5、张青贵编著. 人工神经网络导论. 中国水电出版社. 2004.10 6、Mertin T.Hagan 神经网络设计(中译本). 机械工业出版社. 2002.9模型及其应用》 8、徐丽娜. 神经网络控制. 电子工业出版社. 2004 9、丛爽编著. 面向MATLAB工具箱的神经网络理论.合肥：中国科技大学出版社 .2004 10、蒋宗礼. 神经网络导论. 高教出版社. 2002