模式识别实验.doc

姓 名： 学 号： 院 系： 电子与信息工程学院 课程名称： 模式识别 实验名称： 神经网络用于模式识别 同 组 人： 实验成绩： 总成绩： 教师评语 教师签字： 年 月 日实验目的 1．掌握人工神经网络的基本结构与原理，理解神经网络在模式识别中的应用； 2．学会使用多输入多输出结构，构造三层神经网络并对给定的样本进行分类； 3．分析学习效率，惯性系数，总的迭代次数，训练控制误差，初始化权值以及隐层节点数对网络性能的影响； 4．采用批处理BP重复算法进行分类，结果与三层神经网络进行对比。 原理 人工神经网络 人工神经网络Artificial Neural Network，即ANN），是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。 最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。 图 1 生物神经元 神经元是大脑处理信息的基本单元，以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成。 胞体：是神经细胞的本体（可看成系统）； 树突：长度较短，接受自其他神经元的信号（输入）； 轴突：它用以输出信号； 突触：它是一个神经元与另一个神经元相联系的部位，是一个神经元轴突的端部将信号（兴奋）传递给下一个神经元的树突或胞体；对树突的突触多为兴奋性的，使下一个神经元兴奋；而对胞体的突触多为抑制性，其作用是阻止下一个神经元兴奋。 一个神经元有两种状态：兴奋和抑制。平时处于抑制状态的神经元，其树突和胞体接收其他神经元经由突触传来的兴奋电位；多个输入在神经元中以代数和的方式叠加；如果输入兴奋总量超过某个阈值，神经元就会被激发进入兴奋状态，发出输出脉冲，并由轴突的突触传递给其他神经元。神经元被触发之后有一个不应期，在此期间内不能被触发，然后阈值逐渐下降，恢复兴奋性。 图 2 人工神经元 输入：相当于其他神经元的输出； 权值：相当于突触的连接强度； ：是一个非线性函数，如阈值函数或Sigmoid函数。 神经元的动作：，。 当为阈值函数时，其输出为：，也可写为：或：。其中：，，。 选取不同的输出函数，的取值范围也不同。 若：，则 或，若：，则 某些算法要求可微，此时通常选用Sigmoid函数： ，则 或：，则。 Sigmoid函数的特性：(1)非线性，单调性；(2)无限次可微；(3)当权值很大时可近似阈值函数，当权值很小时可近似线性函数。 神经元的学习算法—Hebb学习规则 如果神经元接收来自另一神经元的输出，则当这两个神经元同时兴奋时，从到的权值就得到加强。 具体到前述的神经元模型，可以将Hebb规则表现为