模式识别技术3_第三章.pdf

第三章 第三章 概率密度函数估计 概率密度函数估计 The Estimation of Density The Estimation of Density Functions Functions 实际应用中，未知的是概率密度函数 实际应用中，未知的是概率密度函数 p (x | w ) 和先验概率 p (w ) i 和先验概率 i In pattern recognition applications, we In pattern recognition applications, we rarely have the complete knowledge about rarely have the complete knowledge about the density functions the density functions 为了使用贝叶斯决策方法，如何得到概 为了使用贝叶斯决策方法，如何得到概 率密度函数？ 率密度函数？ How to estimate the density functions How to estimate the density functions from samples or training data? from samples or training data? 1 3 problems 3 problems 如何利用样本集估计概率密度函数和先验概 如何利用样本集估计概率密度函数和先验概 率？ 率？ How to estimate the density functions and prior How to estimate the density functions and prior probabilities from data set? probabilities from data set? 估计量的性质如何？ 估计量的性质如何？ The properties of the estimation? The properties of the estimation? 如何利用样本集估计分类器的错误率? 如何利用样本集估计分类器的错误率? How to estimate the error rate of a classifier How to estimate the error rate of a classifier from data set? from data set? 概率分布估计的三种类型 概率分布估计的三种类型 Three Kinds of Problems Three Kinds of Problems 监督的参数估计 监督的参数估计 Supervised parameter estimation Supervised parameter estimation Known: samples, the class label of the samples, Known: samples, the class label of the samples, the form of the density functions. the form of the density functions. 样本，样本所属的类别，密度函数的形式 样本，样本所属的类别，密度函数的形式 2 概率分布估计的三种类型 概率分布估计的三种类型 Three Kinds of Problems Three Kinds of Problems 非监督的参数估计 非监督的参数估计 Unsupervised parameter estimation Unsupervised param