模式识别-2课件.ppt

模式识别基础;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;第2章 贝叶斯决策理论2.1 引言;2.2 几种常用的决策规则2.2.1基于最小错误率的Bayes决策;2.2 几种常用的决策规则2.2.1基于最小错误率的Bayes决策;Bayes最小错误率决策： 选择后验概率中大的作为决策，使得在观测值下的条件错误率最小。 条件错误率： 错误率：; ; ;Bayes最小错误率决策不仅保证了错误率（条件错误率的期望）最小，而且保证每个观测值下的条件错误率最小，Bayes决策是一致最优决策。 ;例如：细胞识别问题 ω1正常细胞，ω2异常细胞 某地区，经大量统计获先验概率P(ω1),P(ω2)。若取该地区 某人细胞x属何种细胞 ，只能由 先验概率决定。 ;利用贝叶斯公式 ： ;后验概率 的计算： Bayes公式： ;对数域中计算，变乘为加： 比较大小不需要计算 ： ;设N个样本分为两类ω1，ω2。每个样本抽出n个特征， x =（x1， x2， x3，…， xn）T;2、决策规则：;例：某地区细胞识别； P(ω1)=0.9， P(ω2)=0.1，未知细胞x，先从类条件概率密度分布曲线上查到：;作业： 患病的人，白细胞的浓度服从均值2000，方差1000的正态分布；未患病的人，白细胞的浓度服从均值7000，方差3000的正态分布 一般人群中，患病的人数比例为0.5%。 一个人的白细胞浓度是3100，他患病的概率是多少？;多类识别问题的Bayes最小错误率决策： 在观测值下的每个决策的条件错误率为： 决策为： ;多类识别问题的Bayes最小错误率决策： ;决策的风险： 以医生根据白细胞浓度判断一个人是否患血液病为例： 没病被判为有病，还可以做进一步检查，损失不大； 有病被判为无病，损失严重。 做决策要考虑决策可能引起的损失。;行动αi：表示把模式x判决为ωi类的一次动作。 损耗函数λii=λ(αi|ωi)表示模式X本来属于ωi类,而判为ωi所受损失。因为这是正确判决，故损失最小。 损耗函数λij=λ(αi|ωj)表示模式X本来属于ωj类错判为ωi所受损失。因为这是错误判决，故损失最大。 风险R（期望损失）：对未知x采取一个判决行动α(x)所付出的代价（损耗）;损失的定义：(N类问题) 做出决策 ，但实际上 受到的损失： 损失矩阵： ;基于最小风险的Bayes决策： 决策带来的损失的平均值—风险最小。 平均的两重含义： 获得观测值后，决策造成的损失对实际所属类别的各种可能的平均，称为条件风险： ;条件风险对观测值的数学期望，称为风险： Bayes最小风险决策通过保证每个观测值下的条件风险最小，使得它的数学期望—风险最小，是一致最优决策。;最小风险决策的计算： 给定损失矩阵，算出每个决策的条件风险，取最小的。 某些特殊问题，存在简单的解析表达式。 ;例：两类问题的最小风险Bayes决策： ;用Bayes公式展开： ;基于最小错误率的Bayes决策也可以看作最小风险Bayes决策的一种特殊情形。只需要定义损失为： 决策正确时，损失为0；错误时为1。; ;*; ; ;*; ;*; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ; ;