- 1、本文档共48页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
朴素贝叶斯NaiveBayes重庆大学软件信息服务工程实验室余俊良
条件概率1.定义若?是全集,A、B是其中的事件(子集),P表示事件发生的概率,则为事件B发生后A发生的概率。AABB?
乘法定理注:当P(AB)不容易直接求得时,可考虑利用P(A)与P(B|A)的乘积或P(B)与P(A|B)的乘积间接求得。
乘法定理的推广
二、全概率公式1.集合(样本空间)的划分
2.全概率公式全概率公式
证明化整为零各个击破图示
说明全概率公式的主要用途在于它可以将一个复杂事件的概率计算问题,分解为若干个简单事件的概率计算问题,最后应用概率的可加性求出最终结果.
例1有一批同一型号的产品,已知其中由一厂生产的占30%,二厂生产的占50%,三厂生产的占20%,又知这三个厂的产品次品率分别为2%,1%,1%,问从这批产品中任取一件是次品的概率是多少设事件A为“任取一件为次品”,解
2%A1%1%30%50%B120%B3B2由全概率公式得
贝叶斯公式
Bayes公式的意义?假设导致事件A发生的“原因”有B(i=1,2,…,n)i个。它们互不相容。?现已知事件A确已经发生了,若要估计它是由“原因”B所导致的概率,则可用Bayes公式求出.i?即可从结果分析原因.
证明乘法定理:
例2贝叶斯公式的应用
解
(1)由全概率公式得(2)由贝叶斯公式得
先验概率与后验概率由以往的数据分析得到的概率,叫做先验概率.而在得到信息之后再重新加以修正的概率叫做后验概率.
贝叶斯分类?贝叶斯分类器是一个统计分类器。它们能够预测类别所属的概率,如:一个数据对象属于某个类别的概率。贝叶斯分类器是基于贝叶斯定理而构造出来的。?对分类方法进行比较的有关研究结果表明:简单贝叶斯分类器(称为基本贝叶斯分类器)在分类性能上与决策树和神经网络都是可比的。?在处理大规模数据库时,贝叶斯分类器已表现出较高的分类准确性和运算性能。
贝叶斯分类?定义:设X是类标号未知的数据样本。设H为某种假定,如数据样本X属于某特定的类C。对于分类问题,我们希望确定P(H|X),即给定观测数据样本X,假定H成立的概率。贝叶斯定理给出了如下计算P(H|X)的简单有效的方法:?P(H)是先验概率,或称H的先验概率。P(X|H)代表假设H成立的情况下,观察到X的概率。?P(H|X)是后验概率,或称条件X下H的后验概率。20
贝叶斯分类?先验概率泛指一类事物发生的概率,通常根据历史资料或主观判断,未经实验证实所确定的概率。?而后验概率涉及的是某个特定条件下一个具体的事物发生的概率21
贝叶斯分类?例如:P(x1)=0.9:细胞为正常细胞的概率0.9(先验概率)?P(x2)=0.1:细胞为异常细胞的概率0.1(先验概率)?对某个具体的对象y,P(x1|y):表示y的细胞正常的概率是0.82(后验概率)?P(x2|y):表示y的细胞异常的概率是0.18(后验概率)22
朴素贝叶斯分类?朴素贝叶斯分类的工作过程如下:?(1)每个数据样本用一个n维特征向量X={x,x,……,1x}表示,分别描述对n个属性A,A,……,A样本的n个2n度量。12n?(2)假定有m个类C,C,…,C,给定一个未知的12m本X(即没有类标号),分类器将预测X属于具有最高后验概率(条件X下)的类。也就是说,朴素贝叶斯分类将未知的样本分配给类P(C|X),对任意的j=1,2,…,m,j≠i。这样,最大化C(1≤ijP(C|X)。其P(C|X)最大的类C称为最大后验假定。根据i贝叶斯定理ii
朴素贝叶斯分类?(3)由于P(X)对于所有类为常数,只需要P(X|C)*P(C)最大即可。ii?如果C类的先验概率未知,则通常假定这些类是等概i率的,即P(C)=P(C)=…=P(C),因此问题就转换为1对P(X|C)的最大化(P(X|C)常被称为给定C时数据X2mii的似然度,而使P(X|C)最大的假设C称为最大似然假ii设)。否则,需要最大化P(X|C)*P(C)。注意,类的ii先验概率可以用P(C)=s/s计算,其中s是类C中的训ii练样本数,而s是训练样本总数。iii24
朴素贝叶斯分类?(4)给定具有许多属性的数据集,计算P(X|C)的开销可i能非常大。为降低计算P(X|C)的开销,可以做类条件独立的朴素假定。i?给定样本的类标号,假定属性值相互条件独立,即在属性间,不存在依赖关系。这样联合概率分布25
朴素贝叶斯分类?(5)对未知样本X分类,也就是对每个类C,计算iP(X|C)*P(C)。ii?样本X被指派到类C,当且仅当P(C|X)
您可能关注的文档
- 2024年江西省上饶市德兴市事业单位招聘20人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶市横峰县事业单位招聘99人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶市环保局信州分局招聘5人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶市部分事业单位赴南京师范大学引进高层次人才99人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶市鄱阳县事业单位招聘53人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶市铅山县广播电视台招聘2人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 机械能及其守恒定律复习通用课件.ppt
- 2024年江西省上饶市高铁经济试验区管委会招聘5人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶广信区五府山国家森林公园管理委员会招聘1人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
- 2024年江西省上饶德兴市招募特聘农技员10人历年【综合基础知识500题】高频考点模拟试题及参考答案解析.docx
文档评论(0)