Bayes决策理论课件.pptx

第3章 Bayes决策理论 ;在上一章，我们介绍了线性判别函数，作了一个假设——抽取到的模式样本的边界是“整齐”而不混杂的，而且 以后遇到的待分类模式基本上不超过学习样本的分布范围，从而利用这些样本得到的分类边界是无误差的。但是实际上因为试验的样本是从总体中随机抽取的，不能保证用过去的抽取的样本训练得到的分类边界对新的模式样本也能较好地分类。因此，考虑样本不确定性的模式识别方法是非常重要 的。另外，还有特征选择不完善所引起的不确定性，模式数据采集和预处理和特征抽取过程中干扰和噪声引起的不确定性。综上，我们引出统计决策的方法。 ;对模式 识别的主要统计方法是Bayes决策理论，它是用概率论的方法研究决策问题，要求 （1）各类别先验概率以及条件概率密度均为已知 ，即各类别总体的概率分布是已知的； （2） 要决策分类的类别是一定的； ;3.1 最小错误概率的Bayes决策;先验概率已知 铁螺丝出现的概率—— 铜螺丝出现的概率—— 它们反映了我们在下一个样品出现前对它的类别可能性的先验知识，称这种先于事件的概率为先验概率。 合理的决策规则： 决策错误的概率：;先验概率和条件概率密度函数均已知 铁螺丝出现的概率—— 铜螺丝出现的概率—— 铁螺丝出现的概率—— 铜螺丝出现的概率—— ——螺丝背光源照射后反射光的亮度特征 求取后验概率： ;对待分类模式的特征我们得到一个观察值 ， 合理的决策规则： 决策错误的条件概率（随机变量 的函数）： 模式特征 是一个随机变量，在应用Bayes法则时，每当观察到一个模式时，得到特征 ，就可利用后验概率作出分类的决策，同时也会带来一定的错误概率。若观察到大量的模式，对它们作出决策的平均错误概率 应是 的数学期望。;平均错误概率 从式可知，如果对每次观察到的特征值 ， 是尽可能小的话，则上式的积分必定是尽可能小的这就证实了最小错误率的Bayes决策法则。下面从理论上给予证明。以两类模式为例。;返回本章首页;返回本章首页;3.2 最小风险的Bayes决策;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;3.3 Neyman—Pearson决策;返回本章首页;返回本章首页;返回本章首页;返回本章首页;3.4 最小最大决策;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;3.5 Bayes分类器和判别函数;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;3.6 正态分布时的Bayes决策法则;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;返回本章首页;3.7 离散情况的Bayes决策;返回本章首页;返回本章首页;返回本章首页;返回本章首页;课后习题（一）;返回本章首页;THANK YOU VERY MUCH ！;9、要学生做的事，教职员躬亲共做；要学生学的知识，教职员躬亲共学；要学生守的规则，教职员躬亲共守。4月-214月-21Wednesday, April 7, 2021 10、阅读一切好书如同和过去最杰出的人谈话。17:35:4417:35:4417:354/7/2021 5:35:44 PM 11、一个好的教师，是一个懂得心理学和教育学的人。4月-2117:35:4417:35Apr-2107-Apr-21 12、要记住，你不仅是教课的教师，也是学生的教育者，生活的导师和道德的引路人。17:35:4417:35:4417:35Wednesday, April 7, 2021 13、He who seize the right moment, is the right man.谁把握机遇，谁就心想事成。4月-214月-2117:35:4417:35:44April 7, 2021 14、谁要是自己还没有发展培养和教育好，他就不能发展培养和教育别人。07 四月 20215:35:44 下午17:35:444月-21 15、一年之计，莫如树谷；十年之计，莫如树木；终身之计，莫如树人。四月 215:35 下午4月-2117:35April 7, 2021 16、提出一个问题往往比解决一个更重要。因为解决问题也许仅是一个数学上或实验上的技能而已，而提出新的问题，却需要有创造性的想像力，而且标志着科学的真正进步。2021/4/7 17:35:4517:35:4507 A