人工智能2012(4NN)修改.ppt

神经网络原理 王永骥 第四章 计算智能(1) --人工神经网络 神经计算 4.1 概述 信息科学与生命科学的相互交叉、相互渗透和相互促进是现代科学技术发展的一个显著特点。 计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域，它的研究和发展正反映了当代科学技术多学科交叉与集成的重要发展趋势。 什么是计算智能(Computional Intelligence,简称CI) 把神经网络（NN）归类于人工智能（AI）可能不大合适，而归类于计算智能（CI）更能说明问题实质。进化计算、人工生命和模糊逻辑系统的某些课题，也都归类于计算智能。 计算智能取决于制造者（manufacturers）提供的数值数据，不依赖于知识；另一方面，人工智能应用知识精品（knowledge tidbits）。人工神经网络应当称为计算神经网络。 计算智能与人工智能的区别和关系 A－Artificial，表示人工的（非生物的）； B－Biological，表示物理的＋化学的＋ （??）＝生物的； C－Computational，表示数学＋计算机 计算智能是一种智力方式的低层认知，它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识（精品），低层系统则没有。 当一个系统只涉及数值（低层）数据，含有模式识别部分，不应用人工智能意义上的知识，而且能够呈现出： （1）计算适应性； （2）计算容错性； （3）接近人的速度； （4）误差率与人相近， 则该系统就是计算智能系统。 当一个智能计算系统以非数值方式加上知识（精品）值，即成为人工智能系统。 神经计算 1、生物神经元及生物神经网络 2、人工神经网络 3、介绍四种类型的网络 4、神经网络的学习算法 5、感知器网络(Perceptron) 6、线性神经网络 7、 BP网络 4.2 生物神经元及生物神经网络 生物神经元 人脑大约由1012个神经元组成，神经元互相连接成神经网络 神经元是大脑处理信息的基本单元，以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成。 从神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近。当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质。 突触有两种：兴奋性突触和抑制性突触。前者产生正突触后电位，后者产生负突触后电位。 突触传递信息的功能和特点归纳为： 信息传递有时延，一般为0.3～lms。 信息的综合有时间累加和空间累加。 突触有兴奋性和抑制性两种类型。 具有脉冲／电位信号转换功能。 神经纤维传导的速度，即脉冲沿神经纤维传递的速度，在1—150m／s之间 存在不应期。 不可逆性，脉冲只从突触前传到突触后，不逆向传递。 可塑性，突触传递信息的强度是可变的，即具有学习功能。 存在遗忘或疲劳效应。 人脑神经网络系统 1．分布存储与冗余性 2．并行处理 3．信息处理与存储合一 4．可塑性与自组织性 5．鲁棒性 4.3 人工神经网络4.3.1 人工神经网络研究的进展 1960年威德罗和霍夫率先把神经网络用于自动控制研究。 60年代末期至80年代中期，神经网络控制与整个神经网络研究一样，处于低潮。 80年代后期以来，随着人工神经网络研究的复苏和发展，对神经网络控制的研究也十分活跃。这方面的研究进展主要在神经网络自适应控制和模糊神经网络控制及其在机器人控制中的应用上。 4.3.2 人工神经元模型 归纳一下生物神经元传递信息的过程： 生物神经元是一个多输入、单输出单元。 常用的人工神经元模型可用图3－3模拟。 根据响应函数的不同，人工神经元有以下几种类型： 1、阈值单元 上述模型能反映生物神经元的基本特性，但还有如下不同之点： (1)生物神经元传递的信息是脉冲，而上述模型传递的信息是模拟电压。 (2)由于在上述模型中用一个等效的模拟电压来模拟生物神经元的脉冲密度，所以在模型中只有空间累加而没有时间累加(可以认为时间累加已隐含在等效的模拟电压之中)。 (3)上述模型未考虑时延、不应期和疲劳等。 人工神经网络的特性 并行分布处理 非线性映射 通过训练进行学习 适应与集成 硬件实现 神经网络的学习算法 1、学习算法的类型 决定性质的两个因素：拓扑结构、学习（工作）规划 2、无监督Hebb算法 四种类型的网络 1、前向型（感知器、线性网络、（BP网络） ） 2、反馈型（Hopfield网