模式识别2016_第二章贝叶斯分类器.pdf

第2章 基于贝叶斯决策理论的分类器 贝叶斯决策理论 统计模式识别的统计模式识别的主要方法主要方法之一之一 采用贝叶斯决策理论分类的采用贝叶斯决策理论分类的前提前提： 目标目标 （（事物事物））的的观察值是随机的观察值是随机的观察值是随机的观察值是随机的，，，，服从服从服从服从一一定的概定的概定的概定的概 率分布。率分布。 即：模式不是一个确定向量，而是一个随机向量。 实例  猜硬币  一分Vs 三分  一分Vs 一元  一元Vs 五角  先验概率先验概率  后验概率  贝叶斯决策贝叶斯决策 “概率论”有关概念复习 Bayyes公式公式：设实验设实验E的样本空间为的样本空间为S，，A为为E的事件的事件，， B ,B ,…,B 为S的一个划分，且P (A)0，P (B)0， 1 2 n i (i=1,2,…,n)，则: P ( B A ) P ( A | B ) P ( B ) PP (( BB i || AA )) == i == i i P ( A ) P ( A ) P ( A | B ii ) P ( B ii ) = n P ( A | B j ) P ( B j ) jj = 1 “概率论”有关概念复习 P (A)P (B A) = P (B )P (A B ) i i i    p (x )P (ω x ) = P (ω )p (x ω ) i i i 条件概率条件概率 先验概率：P(ω )表示类ω 出现的先验概率，简称类ω 的 i i i 概率。 后验概率：P(ω |x)表示x出现条件下类ω 出现的概率 i i ,称其为类别的后验概率，对于模式识别来讲可理解 为x来自类ω 的概率。 i 类概率密度： p (x|ω )表示在类ω 条件下的概率密度， i i 简称为类概率密度简称为类概率密度。 “概率论”有关概念复习 为表述简洁，我们将随机矢量X及它的某个取 值x都用同一个符号x表示，在以后各节中出现的 是表示随机矢量还是它的是表示随机矢量还是它的一个实现根据内容是可个实现根据内容是可 以清楚知道的。 条件期望 (某个特征) [  ]    Ei g (x ) =  g (x )p (x ω )dx