Chapter9模式识别--神经网络讲解.ppt

神经网络概述 BP神经网络 神经网络方法应用举例;人是地球上具有最高智慧的动物，而人的指挥均来自大脑，人类靠大脑进行思考、联想、记忆和推理判断等，这些功能是任何被称为“电脑”的一般计算机所无法取代的。;什么是人工神经网络?;每个神经元可看作是一个小的处理单元，这些神经元按某种方式连接起来，形成大脑内部的生理神经元网络。;这种神经元网络中各神经元之间联结的强弱，按外部的激励信号做自适应变化，而每个神经元又随着所接收到的多个接收信号的综合大小而呈现兴奋或抑制状态。 现已明确大脑的学习过程就是神经元之间连接强度随外部激励信息做自适应变化的过程，而大脑处理信息的结果则由神经元的状态表现出来。;按美国神经网络学者T.Koholen 的定义： “人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。” ;在人工神经网络中，操作既不是串行的，也不是预先确定的，它根本没有确定的存储器，而是由许多互连的简单处理单元组成。 每个处理单元的处理功能只是求其所有输入信号的加权和，当该和值超过某一阈值时，输出呈现兴奋状态（高电平），否则低于阈值时呈现抑制状态（低电平）。 人工神经网络当它达到某种平衡状态后，网络的整个状态就是所求的结果。;人工神经网络识别源于对生物神经系统的研究。人工神经网络识别技术充分吸收人识别物体的特点，除了利用图像本身的特征外，它还利用了人在以往识别图像时所积累的经验。在被分类图像的信息引导下，通过自学习，修改自身的结构及识别方式，从而提高图像的分类精度和分类速度，以取得满意的分类结果。;? 人工神经网络识别系统构架;设计一个神经网络模式识别系统的重点在于模型的构成和学习算法的选择。一般来说，网络结构是根据所研究领域及要解决的问题确定的。通过对所研究问题的分析，建立合适的模型，并针对所选的模型采用相应的学习算法，在网络学习过程中，不断地调整网络参数，直到输出结果满足要求。当神经网络训练稳定之后，则可以用于识别分类了。;人工神经网络的学习方法;?人工神经网络的工作过程; ?自适应性 人工神经网络也具有学习能力 有指导的训练：将输入样本加到网络输入并给出相应的输出，通过多次训练迭代获得连接权值。 好像告诉网络：“当你看到这个图形（比如5）时，请给我指示5”。 无指导的训练：网络通过训练自行调节连接加权，从而对输入样本分类。 在网络训练时，有时只能给出大量的输入图形，没有指定它们的输出，网络就自行按输入图形的特征对它们进行分类。 如小孩通过大量观察可以分辨出哪是狗、哪是猫一样。 综合推理的能力：网络具有正确响应和分辨从未见过的输入样本的能力。;?人工神经网络的局限性; ?硬件限制 目前仍是在一般计算机上用模拟的方法研究人工神经网络的并行处理过程，然而模拟不是最终目标。 只有真正的并行硬件处理，才能体现出人工神经网络的高速高效特点。 目前这种硬件的实现还未很好解决。 ?正确的训练数据的收集 大量有代表性样本的采集 正确的预处理; 总之，人工神经网络是基于人类大脑的结构和功能建立起来的学科，尽管它只是大脑的低级近似，但它的许多特点和人类的智能特点类似，有着较强的识别能力和广泛的应用前景。;? 人工神经元的基本结构;输入：X=（x1，x2，…，xn） 联接权：W=（wj1，wj2，…，wjn） 网络输入： ∑xiwji 神经元内部状态： netj = ∑xiwji-?j (?j神经元阈值） 激活函数： f 网络输出： Oj= f（netj） j=1,2…..,m 误差函数：;激活函数(Activation Function) ;典型激活函数; 阈值函数：; Sigmoid形函数 ;双极S形函数 ;? 典型网络结构;多级网;? 神经网络的学习方法;监督学习;非监督学习;二、 BP神经网络;输入层 隐含层 输出层 ;? 人工神经网络的工作原理 ;首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。 ;如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。如此操作调整，当给网络轮番输入若干个字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。这说明网络对这两个模式的学习已经获得了成功，它