神经网络基础辅导.docVIP

神经网络基础辅导 中央电大理工部 冼健生??2006年12月11日 一、神经网络的基本特征与功能 　　神经网络是对人脑生物神经网络的简化、抽象与模拟，是一种模仿人脑结构及功能的信息处理系统，它可呈现出人脑的许多特征，并具有人脑的一些基本功能。 　　1．基本特征 　　（1）结构特征 　　1）并行处理 　　神经网络是由大量简单处理元件相互连接构成的高度并行的非线性系统，具有大规模并行性处理特征。 　　2）分布式存储 　　结构上的并行性使神经网络的信息存储必然采用分布式方式，分布在网络所有的连接权中。 　　3）容错性 　　神经网络的容错性表现为两个方面：其一，网络中部分神经元损坏时不会对系统的整体性能造成影响；其二，神经网络能通过联想恢复完整的记忆，实现对不完整输入信息的正确识别。 　　（2）能力特征 　　1）自学习能力 　　神经网络的自学习能力是指当外界环境发生变化时，经过一段时间的训练或感知，神经网络能通过自动调整网络结构参数，使得对于给定输入能产生期望的输出。 　　2）自组织能力 　　神经网络的自组织能力是指神经系统能在外部刺激下按一定规则调整神经网络元之间的突触连接，逐渐构建起神经网络。 　　3）自适应性 　　神经系统的自适应性是指神经系统通过改变自身的性能以适应环境变化的能力。实际上自适应性包含了自学习和自组织两层含义，它是通过自学习和自组织实现的。 　　2．主要功能 　　人工神经网络具有人脑生物神经系统的某些智能特点： 　　（1）联想记忆 　　神经网络具有分布存储信息和并行计算的性能，因此它具有对外界刺激信息和输入模式进行联想记忆的能力。 　　（2）非线性映射 　　设计合理的神经网络通过对系统输入输出样本对照进行自动学习，能够以任意精度逼近任意复杂的非线性映射。 　　（3）分类与识别 　　由于神经网络可以很好地解决对非线性曲面的逼近，因此对于在样本空间上区域分割曲面十分复杂的事物，神经网络具有很强的识别和分类能力。 　　（4）优化计算 　　优化计算指在已知的约束条件下，寻找一组参数组合，使由该组合确定的目标函数达到最小值。神经网络将目标函数设计为网络的能量函数，无需对目标函数求导即可求解。 　　（5）知识处理 　　与人脑类似，神经网络可以从对象的输入输出信息中抽取规律而获得关于对象的知识，并将知识分布在网络的连接中予以存储。 　　二、生物神经及其信息处理的控制 　　1．生物神经元的结构 　　生物神经元在结构上由细胞体、树突、轴突和突触四部分组成。 　　（1）细胞体 　　细胞体是神经元的主体。神经元中信息的产生和整合是由细胞体完成的。 　　（2）树突 　　树突是从细胞体向外延伸出的多支神经纤维。神经元靠树突接受来自其他神经元的输入信号，相当于细胞体的输入端。 　　（3）轴突 　　由细胞体伸出的最长的一条突起称为轴突，用来传出细胞体产生的输出电化学信号，相当于细胞体的输出端。 　　（4）突触 　　神经元之间通过轴突末梢或树突进行通信连接，这种连接相当于神经元之间的输入输出接口，称为突触。多个神经元以突触连接即形成神经网络。 　　2．生物神经元的信息处理机制 　　在神经元中，突触为输入输出接口，树突和细胞体为输入端，接受突触点的输入信号；细胞体相当于一个微型处理器，对各树突和细胞体各部位收到的来自其他神经元的输入信号进行组合，并在一定条件下触发，产生一输出信号；输出信号沿轴突传至末梢，轴突末梢作为输出端通过突触将这一输出信号传向其他神经元的树突和细胞体。 　　神经元间信息的产生、传递和处理是一种电化学活动。神经元产生的信息是具有电脉冲形式的神经冲动，信息的传递和接收、信息的整合也是通过这些电脉冲信号在神经元之间的输入、输出而完成的。 　　? 　　三、人工神经元模型以及神经网络模型 　　1．人工神经元模型 　　（1）图解模型 　　人工神经元是对生物神经元的一种模拟，其图解模型应具有生物神经元的四个功能： 　　神经元具有多输入信号； 　　每一个输入都有一个加权系数wij，反映突触的不同连接强度； 　　组合输入信号的“总和值”，相应于生物神经元的膜电位； 　　人工神经元的输出与输入之间的对应关系可用某种函数来表示。 　　（2）数学模型 　　神经元数学模型的简化形式为 　　 　　式中Oj表示神经元的输出； 　　Wj表示权重向量； 　　X为输入向量； 　　f为神经元转移函数的符号。 　　（3）转移函数 　　神经元的转移函数决定了神经元的信息处理特性，它反映了神经元输出与其激活状态之间的关系。常用的转移函数有阈值型转移函数、非线性转移函数和分段线性转移函数三种。 　　2．人工神经网络模型 　　人工神经网络模型有两种分类方式。按照神经元的的连接方式，神经网络可分为层次型网络结构和全互连型网络结构两类。 　　根据网络信息流量不同，神经网络又可