[工学]人工神经网络.ppt

Artificial Neural Network 人工神经网络方法 主要参考书目 1、蒋宗礼，人工神经网络导论，高等教育出版社，2001年8月 2、胡守仁、余少波、戴葵，神经网络导论，国防科技大学出版社，1993年10月 3、杨行峻、郑君里，人工神经网络，高等教育出版社，1992年9月 4、闻新、周露、王丹力、熊晓英，MATLAB神经网络应用设计，科学出版社，2001.5. 智能与人工智能 一、智能的含义 ?智能是个体有目的的行为，合理的思维，以及有效的、适应环境的综合能力。是个体认识客观事物和运用知识解决问题的能力。 ?人类个体的智能是一种综合能力。 ?智能可以包含8个方面 1.感知与认识客观事物、客观世界和自我的能力 –感知是智能的基础——最基本的能力 2.通过学习取得经验与积累知识的能力 –这是人类在世界中能够不断发展的最基本能力。 3.理解知识，运用知识和经验分析、解决问题的能力 –这一能力可以算作是智能的高级形式。是人类对世界进行适当的改造，推动社会不断发展的基本能力。 4.联想、推理、判断、决策语言的能力 –这是智能的高级形式的又一方面。 5.运用进行抽象、概括的能力 ?上述这5种能力，被认为是人类智能最为基本的能力 ?作为以上5种能力综合表现形式的3种能力 6.发现、发明、创造、创新的能力 7.实时、迅速、合理地应付复杂环境的能力 8.预测、洞察事物发展、变化的能力 二、人工智能 ?人工智能：研究如何使类似计算机这样的设备去模拟人类的这些能力。 三、人工神经网络（Artificial Neural Networks，简记作ANN） ?是一个由大量简单的处理单元组成的高度复杂的大规模非线性自适应系统。是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 人工神经网络的特点 ?信息的分布表示（提供容错功能） –由于信息被分布存放在几乎整个网络中，所以，当其中的某一个点或者某几个点被破坏时，信息仍然可以被存取。 ?运算的全局并行和局部操作 系统在受到局部损伤时还可以正常工作。 ?处理的非线性 目前应用： –人们主要将其用于语音、视觉、知识处理、辅助决策等方面。 –在数据压缩、模式匹配、系统建模、模糊控制、求组合优化问题的最佳解的近似解（不是最佳近似解）等方面也有较好的应用。 –地球物理方面主要有地层岩性预测、油气储层预测等。 历史回顾 1. 萌芽期（20世纪40年代） ?人工神经网络的研究最早可以追溯到人类开始研究自己的智能的时期，到1949年止。 ?1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权和模型，简称为M-P模型。发表于数学生物物理学会刊《Bulletin of Methematical Biophysics》 ?1949年，心理学家D. O.Hebb提出神经元之间突触联系是可变的假说——Hebb学习律。 2. 第一高潮期（1950~1968） ?以Marvin Minsky，Frank Rosenblatt，Bernard Widrow等为代表人物，代表作是单级感知器（Perceptron）。 ?可用电子线路模拟。 ?人们乐观地认为几乎已经找到了智能的关键。许多部门都开始大批地投入此项研究，希望尽快占领制高点。 3.反思期（1969~1982） ? M. L.Minsky和S.Papert，《Perceptron》，MIT Press，1969年 ?异或”运算不可表示 ?二十世纪70年代和80年代早期的研究结果 ?认识规律：认识——实践——再认识 4. 第二高潮期（1983~1990） 1）1982年，J.Hopfield提出循环网络 –用Lyapunov函数作为网络性能判定的能量函数，建立ANN稳定性的判别依据 –阐明了ANN与动力学的关系–用非线性动力学的方法来研究ANN的特性 –指出信息被存放在网络中神经元的联接上 4. 第二高潮期（1983~1990） ?2）1984年，J.Hopfield设计研制了后来被人们称为Hopfield网的电路。较好地解决了著名的TSP问题，找到了最佳解的近似解，引起了较大的轰动。 ?3）1985年，UCSD的Hinton、Sejnowsky、Rumelhart等人所在的并行分布处理（PDP）小组的研究者在Hopfield网络中引入了随机机制，提出所谓的Boltzmann机。 ? 4）1986年，并行分布处理小组的Rumelhart等研究者重新独立地提出多层网络的学习算法——BP算法，较好地解决了多层