统计模式识别课件.pdf

中科院自动化所博士生模式识别课程讲义 统计模式识别统计模式识别 统计模式识别统计模式识别 2008年10月 刘成林 Outline • 统计模式识别的基本思想 • Bayes决策 • 参数法(Gaussian Classifiers) • 非参数法(Parzen, k-NN) • Gaussian Mixture, EM • Clustering 2 统计模式识别的基本思想统计模式识别的基本思想 统计模式识别的基本思想统计模式识别的基本思想 • 模式表示 • 特征到类别的映射 • 特征空间划分 3 Bayes决策决策 决策决策 • 问题 – 模式表示：特征矢量 x=[x , …,x ]T 1 d – 类别： ω , i = 1, …, M i – 给定： pp ((xx || ωω ),),ii == 1,1, ……,,MM •• 类条件概率密度类条件概率密度 ii • 先验概率 P (ω ) i • 损失代价c (由第j 类错分到第i类的损失) ij • 特殊情况：0-1代价 1, i ≠ j cij =  0, i = j  – 目的：将测试样本x分类到损失最小的类别 4 M • 类别风险 R (x) = ∑c P (ω | x) i ij j j =1 M – 0-1损失的情况 R (x) = ∑c P (ω | x) = 1− P (ω | x)