模式识别04.ppt

模式识别 例题1图示 例题1图示 图例：最小误判概率准则 最小误判概率准则下的判决规则： 如果， 则判 (2) 二维模式，?1??2的几种情况 4.1.3 正态模式分类的误判概率 考虑两类问题，设两类模式为协方差阵相等的多变量正态分布，它们的密度函数分别为: 特取 ，此时 ?=0 上式表明了误判概率与两类的马氏距离的关系： 随 的增大而单调递减，只要两类马氏距离足够大，其误判概率可足够小。 4.2.1 损失概念、损失函数与平均损失 决策-损失表 条件平均风险 令决策的数目a等于类数c，如果决策?j 定义为判 属于?j 类，那么对于给定的模式 在采取决策?j 的条件下损失的期望为 4.2.2 最小损失准则判决 可以将最小条件平均损失判决规则表示为 如果 则判 若记似然比阈值 4.2.2 最小损失准则判决 4.2.3 含拒绝判决的最小损失判决 4.2.3 含拒绝判决的最小损失判决 4.2.3 含拒绝判决的最小损失判决 判决规则如下： 最小最大损失准则的基本思想： 实际中，类先验概率 P(?i) 往往不能精确知道或在分析过程中是变动的，从而导致判决域不是最佳的。所以应考虑如何解决在 P(?i) 不确知或变动的情况下使平均损失变大的问题。 应该立足最差的情况争取最好的结果。 由上式可见，当类概密、损失函数?ij 、类域?i 取定后，R是P(?1)的线性函数。 考虑P(?1)的各种可能取值情况，为此在区间(0,1)中取若干个不同的P(?1)值，并分别按最小损失准则确定相应的最佳决策类域?1 、 ?2 ，然后计算出其相应的最小平均损失R*，从而可得最小平均损失R*与先验概率P(?1)的关系曲线。 4·4 N-P(Neyman—Pearson)判决 其为判决界面，上式两边取对数，于是可得判决规则: 由于界面只是 的函数，需求 的边缘密度 由上面的判决规则，有: 有数学手册可查得: 可算得 与 的关系如下表所示： 0.378 0.258 0.0159 0.089 0.046 ?21 1/4 1/2 1 2 4 ? x1 x2 ?2 ?1 -1 ?1 1 ?2 ?2 ?1 t=-(1/2)ln ? 由设定的 ，查上表可得 ，对应的 ，从而得此问题的判决规则为: ，则判 若 本章主要介绍了贝叶斯统计决策理论为基础的贝叶斯分类方法,其中包括了最小误判概率、最小损失准则等，依据这些准则设计的分类器，从理论上讲是最优的性能，即分类的错误率或风险在所有可能的分类器中为最小，因此经常被用来作为衡量其他分类器设计方法优劣的标准。 由于正态分布在物理上的合理性和数学上的计算简便性，我们详细介绍了贝叶斯分类方法在正态分布下的几种特殊情形，导出了其对应的判决函数、决策面方程及相应的几何描述。 下面我们简单回顾一下本章所学的几种贝叶斯决策准则: 1、最小误判概率准则 如果 则判 两类时: 多类时: 如果 判 2、最小损失准则 则判 如果 两类时: 多类时: 计算 若 则判 3、含拒绝判决的最小损失准则 拒判 其中： 拒判损失 误判损失 正确判决损失 两类时: 3、含拒绝判决的最小损失准则 多类时: 计算 若 则判 其中 为拒绝判决。 4、最小最大损失准则 如果 则判 是如何获得的？ 让 从0 逐渐变化到1，按最小损失准则算出最 小平均损失，即取各类条件平均损失的最小者。 由此可得出R—P(w1)曲线，最大的R对应的P(w1)就是 5、N-P准则 如果 ， 则判 l是如何获得的？ 由 固定e0反求l 例：在军事目标识别中，假定有灌木丛和坦克两种类型，它们的先验概率分别是0.7和0.3，损失函数如下表所示，其中，类型w1和w2分别表示灌木和坦克，判决a1=w1，a2=w2，a3表示拒绝判决。现在做了四次试验，获得四个样本的类概率密度如下： P(x|w1):0.1, 0.15, 0.3, 0.6, P(x|w2):0.8, 0.7, 0.55, 0.3 1.5 1.5 a3 1.0 4.0 a2 2.0 2.5 a1 w2 w1 （1）用最小误判概率准则，判断四个样本各属哪一个类型。 问： （3） 把拒绝判决考虑在内，重新考核四次试验的结果。 （2）假定只考虑前两种情况，试用最小损失准则判断四个样本各属于哪一个类型。 类型 判决 损 失 答: 求出四个样本两类的似然比。 最小误判概率准则时的阈值： （1） 因此按最小误判概率准则判决时，第一、第二样本属于第二类即坦克