第十章模式识别介绍.ppt

第十章 模板匹配与模式识别 §10.5 人工神经网络识别法 4. 基于BP神经网络的分类方法 BP神经网络分类改进算法 动量法和学习率自适应调整的策略，以提高学习率并增强算法的可靠性，其基本步骤为： 1）初始化权值w和阈值b。即把所有权值和阈值都设置成较小的随机数 2）提供训练样本对。包括输入向量和目标向量 3）计算隐含层和输出层的输出 4）调整权值，标准ANN可采用： w(k+1)=w(k)+ηD(k) 调整 5）采用训练好的网络对图像进行分类 第十章 模板匹配与模式识别 §10.5 人工神经网络识别法 BP神经网络设计应注意的问题 1）输入层神经元的数量通常由应用来决定。在反向传播中，它等于 特征向量的维数 2）中间的隐含层数和每一隐含层的神经元数目则是设计时需要选择的。在大多数情况下，每一隐含层的神经元的数量比输入层的少得多。 3）输出层神经元数量则通常与类别的数量相同 4）训练样本必须对整个特征空间总体分布具有代表性，使得网络能对 每一类建立恰当的概率分布模型。 已有结果表明含有一隐含层网络已经足够近似任何连续函数，含二隐含层则可以近似任意函数 5）训练样本次序的随机性也很重要，对随机的样本进行训练可以产生一种噪声干扰，它可以帮助网络跳出局部极值的陷阱 。 人有了知识，就会具备各种分析能力， 明辨是非的能力。 所以我们要勤恳读书，广泛阅读， 古人说“书中自有黄金屋。 ”通过阅读科技书籍，我们能丰富知识， 培养逻辑思维能力； 通过阅读文学作品，我们能提高文学鉴赏水平， 培养文学情趣； 通过阅读报刊，我们能增长见识，扩大自己的知识面。 有许多书籍还能培养我们的道德情操， 给我们巨大的精神力量， 鼓舞我们前进。 * 数学上，统计模式识别问题可以归结为：对一组给定的样本集合，找出其最佳的分类判决函数 ，并作判决： 若对所有的 均有： 则作判决： 第十章 模板匹配与模式识别 §10.3 统计模式识别 　　　因为处理的是分类问题，因此最佳的意义是分类误差最小。 由于求解最佳判决函数的出发点和途径不同，因此产生了各种不同的分类方法： 　?判别函数方法 　贝叶斯分类器：判别函数表示为似然比，也称为　 　最大似然率分类器或最小损失分类器 　集群分类方法：它几乎不需要有关待分样本的先验知识。 第十章 模板匹配与模式识别 §10.3 统计模式识别 分类器是某种由硬件或软件组成的“机器”： 计算c个判别函数gi(x) 最大值选择 ARGMAX g1 . . . g2 gc . . . x1 x2 xn a(x) 第十章 模板匹配与模式识别 §10.3 统计模式识别 第十章 模板匹配与模式识别 §10.3 统计模式识别 基本过程 统计模式识别是研究每—个模式的各种测量数据的统计特性，按照统计决策理论来进行分类 统计模式识别过程分为识别和分类两部分，核心内容为特征处理与分类 第十章 模板匹配与模式识别 §10.3 统计模式识别 特征处理 包括特征选择和特征变换： 特征选择方法 特征选择指的是从原有的m个测量值集合中，按某一准则选择出一个n维(n＜m)的子集作为分类特征 穷举法 从m个原始的测量值中选出n个特征，—共有Cmn种可能的选择。对每一种选法用己知类别属性的样本进行试分类，测出其正确分类率，分类误差最小的一组特征便是最好的选择 优点是不仅能提供最优的特征子集，而且可以全面了解所有特征对各类别之间的可分性信息。但是，计算量太大，特别在特征维数高时，计算更繁 第十章 模板匹配与模式识别 §10.3 统计模式识别 最大最小类对距离法 首先在K个类别中选出最难分离的一对类别， 然后选择不同的特征子集，计算这一对类别的可分性，具有最大可分性的特征子集就是该方法所选择的最佳特征子集 特征选择方法不改变原始测量值的物理意义，因此它不会影响分类器设计者对所用待征的认识，有利于分类器的设计，便于分类结果的进一步分析 第十章 模板匹配与模式识别 §10.3 统计模式识别 特征变换 特征变换是将原有的m个测量值集合通过某种变换，然后产生n个(n＜m)特征用于分类。特征变换又分为两种情况： 一种，从减少特征之间相关性和浓缩信息量的角度出发，根据原始数据的统计特性，用数学的处理方法使得用尽量少的特征来最大限度地包含所有原始数据的信息。这种方法不涉及具体模式类别的分布情况，因此，对于没有类别先验知识的情况，这是—种有效的特征变换方式。主分量变换就属于这一类型 另一类，根据对测量值所反映的物理现象与待分类别之间关系的认识，通过数学运算来产生—组新的特征，使得