- 1、本文档共73页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
机器学习之参数估计
第三章 概率密度估计
3.1 引言
3.2 参数估计
3.3 非参数估计
3.4 说明
3.1 引言
3.1 引言
进行Bayes决策需要事先知道两种知识:
各类的先验概率P (ω ) ;
i
观测向量的类条件概率密度p (x | ω ) 。
i
知识的获取(估计):
一些训练数据;
对问题的一般性的认识。
3.1 引言
类的先验概率的估计:
依靠经验;
用训练数据中各类出现的频率估计。
用频率估计概率的优点:
无偏性;
相合性;
收敛速度快。
3.1 引言
类条件概率密度的估计:
概率密度函数包含了一个随机向量的全部信
息;
概率密度函数可以是满足下面条件的任何函
数:
p (x) ≥0, ∫p (x)dx 1.
3.1 引言
如何估计概率密度函数?
-2.5919 -0.1706 1.8512 0.1572 0.6940
-4.6028 2.8666 -2.2095 -2.9620 2.7208
2.1267 -1.5153 0.3826 -0.6252 -3.0914
-5.6098 -2.6499 8.0043 4.6360 4.4208
1.8882 2.1422 -5.7613 0.8513 1.9798
0.0177 -0.6880 1.8934 0.2422 4.4113
-2.1664 0.8739 0.5893 -0.1726 5.1108
2.1188 3.8246 -0.1828 2.9766 1.1288
3.9149 4.9921 -1.5854 -1.0981 -1.6651
-1.7182 1.9604 -0.6635 0.9044 0.9069
3.1 引言
概率密度估计的两种主要思路:
参数估计:根据对问题的一般性的认识,假
设随机变量服从某种分布,分布函数的参数
通过训练数据来估计。
非参数估计:不用模型,而只利用训练数据
本身对概率密度做估计。
3.2 参数估计
3.2 参数估计
x
估计随机向量 的类条件概率密度:
给定训练样本集
S , S , , S
1 2 K
假设已知类条件概率密度的形式p (x | ω ,θ ) ,
i i
θ
待估计的参数为 。例如,假定第i类条件概
i
率密度为正态密度N (μ , ∑ ),待估
文档评论(0)