第2章 随机模式分类方法1.ppt

随机模式的分类方法; 目 录;2.1 引言;2.1 引言; 许多实际情况，即使在类型A的条件下，模式样本x位于区域A的概率也往往小于1，而位于区域B的概率也不为0。对于类型B的条件也一样。这种交错分布的样本使分类发生错误，是模式随机性的一种表现。此时，分类方法就从确定性模式转到随机模式。 “如何使分类错误率尽可能小，是研究各种分类方法的中心议题。”;Bayes决策理论是随机模式分类方法最重要的基础。 其中几个重要的概念： 先验概率 先验概率是预先已知的或者可以估计的模式识别系统位于某种类型的概率。 类（条件）概率密度 它是系统位于某种类型条件下，模式样本x出现的概率密度分布函数 后验概率 后验概率可以根据贝叶斯公式计算出来，可直接用作分类判决的依据。 ;先验概率 先验概率是预先已知的或者可以估计的模式识别系统位于某种类型的概率。 若仍然用两个类型A和B为例，可用 和 表示各自的先验概率，此时满足 。 推广到一般的c类问题中，用 表示类型，则各自的先验概率用 表示，且满足： 其实，在处理实际问题时，有时不得不以先验概率的大小作为判决的依据。如：有一批木材，其中桦木占70％，松木占30％，A――桦木，B－－松木，则，，如果从中任取一块木材，而又要用先验概率作出判决，那就判为桦木。 先验概率不能作为判决的唯一依据， 但当先验概率相当大时，它也能成为主要因素。 ;2.1 引言;2.2 最小错误率判决规则（最简单的Bayes分类方法）;此时，样本归属于“后验概率较高”的那种类型。 也就是：;下面用一维情况来证明最小错误率贝叶斯决策规则，其结果不难推广到多维。 ;总错误率有两种情况：;若令t为两类分界面，特征向量x为一维时，t为x轴上的一个点，如上图所示：; 所以要使 最小，判决门限应如上图所示，否则就会有多余的阴影面。 而（2.2-3）、（2.2-4）表达的判决规则，判决门限正好如上图所示，所以称 之为“最小错误概率判决规则”。;可以把上述两类问题导出的最小错误率判决规则一般化，推广到c类问题中，表达为：;2.2 最小错误率判决规则;2.3 最小风险判决规则;假定有c类问题，用;维风险矩阵。;假定某样本x的后验概率;实施最小风险判决规则的步骤如下：;2.3 最小风险判决规则;2.3 最小风险判决规则;2.3 最小风险判决规则;2.4 最大似然比判决规则;2.4 最大似然比判决规则;2.4 最大似然比判决规则;2.4 最大似然比判决规则;2.4 最大似然比判决规则;2.4 最大似然比判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则;2.5 Neyman-Pearsen判决规则