EM算法优质教学课件(1 彩).pdf

EM算法介绍 贵州大学•计算机科学与信息学院 杨本娟 EM算法 目 录 0. 回顾 1. 最大似然估计 2. EM算法 3. 高斯混合模型 4. EM算法应用于高斯混合模型参数估计 5. 总 结 0.回顾 一、随机变量及分布 我们将研究两类随机变量： 0-1分布 离散型 —— 概率 二项分布 随 泊松分布 机 …… 变 均匀分布 量 连续型——概率密度 指数分布 正态分布 2 X ~N(,) 2 …… ( x ) 1  2 f (x ) e 2 ,  x  2 0.回顾 二、参数估计 设有一个统计总体 , 总体的概率密度函数为 f ( x, ) ，其中 为未知参数 ( 可以是向量) 。    现从该总体抽样，得样本 X ,X ,…,X 1 2 n 要依据该样本对参数  做出估计。 这类问题称为参数估计. 例：已知——正态分布 2 ，给定样本。 X ~N(,)  和 求——参数： 0.回顾 二、参数估计 例如我们要估计某队男生的平均身高. （假定身高服从正态分布 2 ） N (,0.1 ) 现从该总体选取容量为5的样本，我们的任务  是要根据选出的样本（5个数）求出总体均值 的 估计. 而全部信息就由这5个数组成 . 设这5个数是: 1.65 1.67 1.68 1.78 1.69 估计 为1.68，这是点估计.  在区间 [1.57, 1.84] 内， 估计 这是区间估计. 0.回顾 二、参数估计