应用数理统计23.ppt

第八章 判别分析 二、Bayes判别 三、Fisher判别 聚类分析是研究对象的特征来对研究的对象进行分类的多元分析技术的总称，分类问题是各个学科领域都普遍存在的问题。聚类分析的大部分应用都属于探测性研究，最终结果是产生研究对象的分类，通过对数据的分类还能产生假设。聚类分析也能证实目的，对于用其他方法进行的分类可以用聚类分析的方法进行检验。 聚类分析的核心思想是，从一批样品的多个观测指标变量中，定义能度量样品间相似程度的统计量，在此基础上求出各样品之间的相似程度度量值，按相似程度的大小，将样品逐一归类，关系密切的聚集到一个小的分类单位，关系疏远的聚集到一个大的分类单位，直到所有的样品都聚集完毕，把不同类型一一划分出来，形成一个亲疏关系谱系图，用以更直观的显示分类对象的差异和联系。 * 一、距离判别 二、Bayes判别 三、Fisher判别 四、聚类分析 两个正态总体协方差阵相等的检验 设 是来自多元正态总体 的简单样本， 考虑假设检验问题 是来自 多元正态总 的简单样本， 且两个样本相 互独立，协方差阵 。 记 可以证明,当H0成立时,统计量 近似服从 （一） Bayes判别法的基本概念 设有 个总体 ，其概率密度分 别为 且是互不相同的。 进一步假设已知 个总体各自发生的概率为 这个已知的概率称为先验概率， 它 可以由经验给出，也可以由收集到的历史资料 确定。 定义损失函数 ， 表示将本来属 于 的样品错判为属于 所造成的损失， 规 定 显然应有 当然也可用矩阵表示，即 其中 或 ， 由于一个判别规则实质上是就是对 维空间 划分成 个互不相交的部分 ， 即满足 和 故为了方便起见，可简记一个 的样品判为属于 的（错判概率）概率记为 判别规则为 那么将属于 即 注意这里的积分是 重积分。 这时 表示正确判别的概率，即 因此有 体所造成的平均损失为 其中 表示损失矩阵的第 行元素， 而 表示矩阵 的第 行元素。 这样在判别规则 下， 错判来自总体 的个 过判别规则 进行判别所造成的总平均损失为 Bayes方法的原理是寻求使平均损失达到 最小的规则或一种划分 这种规则或划分称为Bayes判别法。 并将 个总体发生的概率为 所以通 由于每 （二） 两个总体的判别 设有两个总体 其密度函数分 两个总体的先验概率为 损失函数矩阵为 定理8.2 别为 则Bayes判别法 具有如下形式 在实际使用Bayes判别法时，并不需要求出 集合 而只要将需判别的样品 代入 若该不等式成立，则判定 否则， 判定 如果总体 分别服从协方差阵相同的 正态分布 则Bayes判别 法有更简便的形式，依定理形式给出如下。 定理8.3 设总体 分别服从协方差阵相 Bayes判别法 同的正态分布 且 则当参数 均已知时， 具有如下形式 其中 注：从 的表达式可知Bayes判别函数与 距离判别函数完全相同，只是临界值有所不 同， 当先验概率 ，即任取一个样 品 ， 它等可能地来自总体 或 ， 且错判 损失 时， 有 这说明在这种情况 下Bayes判别与距离判别等价。 其它情形下两 者并不等价。 当参数 均已知时， 定理8.3中的 Bayes判别法的所产生的错判概率为 其中 在实际应用中，参数 及 往往是未知的， 此时需要根据收集到的样本资料对参数作出估 计，然后将其相应的估计值代入线性判别函数 中不再赘述。 （三） 多个总体的判别 设有 个总体 ，其概率密度分 别为 且各个总体 出现 的先验概率为 错判造成的损失为 假设 为 维空间 的一 个划分，则在规则 下，错判的平均损失为 如何寻找一个划分 ，使 达到最小呢？ 我们有如下的定理。 定理8.4 设有 个总体 ，其概率 密度分别为 且各个总体 出现的先验概率为 错判造成的 损失为 则使 达到最小的划分