武汉大学计算机学院模式识别(八).pdf

8 武汉大学计算机学院本科生课程 模式识别 (Pattern Recognition) 武汉大学计算机学院 袁志勇 Email: yuanzywhu@163.com 第6章 神经网络 6.1 神经网络基本知识 6.2 感知器神经网络模型 6.3 BP神经网络模型 6.4 Hopfield神经网络模型 6.1 神经网络基本知识 神经网络(Neural Networks, NNs) ，又称人工神 经网络(Artificial Neural Networks, ANNs) ，是模拟 生物神经网络进行信息处理的一种数学模型。它以 对大脑的生理研究成果为基础，其目的在于模拟大 脑的某些机理与机制，实现一些特定的功能。 ANNs可以用硬件电路来实现，也可以用计算机 程序来模拟，是人工智能研究的一种方法。 智能可以包含8个方面： ♦感知与认识客观事物、客观世界和自我的能力 感知是智能的基础——最基本的能力 ♦通过学习取得经验与积累知识的能力 是人类在世界中能够不断发展的最基本能力 ♦理解知识，运用知识和经验分析、解决问题的能力 这一能力可以看作是智能的高级形式。是人 类对世界进行适当的改造，推动社会不断发展的 基本能力。 ♦联想、推理、判断、决策的能力 是智能的高级形式的又一方面 预测和认识 “主动”和“被动”之分(联想、推理、判断、 决策的能力是“主动”的基础) ♦运用语言进行抽象、概括的能力 上述这5种能力，被认为是人类智能最为基本 的能力。 作为5种能力综合表现形式的3种能力： ♦发现、发明、创造、创新的能力 ♦实时、迅速、合理地应付复杂环境的能力 ♦预测、洞察事物发展、变化的能力 使用计算机模拟人类的这些能力是人工智 能所研究的问题，神经网络是人工智能研究的 一种方法。 一.神经网络模型基本组成 1.生物神经元 科学研究发现：人脑大约有1000亿 (1011)个神经元，这 些神经元通过1000万亿(1015)个连接构成一个大规模的神经 网络系统。神经元是神经网络的基本信息处理单元。 生物神经元 的基本组成： a.细胞体(soma) b.树突(dendrite) c.轴突(axon) d.突触(synapse) 树突(Dendrite) 轴突(Axon) 细胞体i(Soma) 细胞体j(Soma) 突触(Synapse) 现代生理学研究表明：人类的大脑活动不是一个生物 神经元所能完成的，也不是多个生物神经元功能的简单叠 加，而是多个生物神经元构成的非线性动态处理系统。 在大脑神经系统中，每个神经元都通过突触与系统中 的很多其他神经元相联系，突触的“连接强度”越大，接受 的信号就越强，反之，突触的“连接强度”越小，接受的信 号就越弱。突触的“连接强度”可以随着神经系统受到的训 练而改变。例如，新记忆的形成就是通过改变突触的强度 实现的，认识一位新朋友面孔的过程包含了各种突触的改 变过程。 生物神经系统六大特征： (1)神经元及其连接； (2)神经元之间的连接强度决定了信号的传递强弱； (3)神经元之间的连接强度可以随训练而改变； (4)信号可以是起刺激(excite)作用的，也可以是起抑制 (inhibit)作用的； (5)一个神经元接受信号的累积效果决定该神经元的状态； (6)每个神经元可以有一个阈值(threshold) 。 2.人工神经元模型 人工神经元是人工神 经网络操作的基本信息处 理单位。 人工神经元的基本结构： a.处理单元 b.连接 c.输入 d.输出 人工神经网络没有生物神经网络那么复杂，但它们之 间有两个关键的相似之处。首先，两个网络的构成都是可计 算单元(处理单元) 的高度互连；其次，