混和高斯模型的推导和实现.doc

基于GMM的运动目标检测方法研究 GMM数学公式推导 预备知识： （1）设离散型随机变量X的分布率为： 则称为X的数学期望或均值 设连续型随机变量X的概率密度函数（PDF）为f(x) 其数学期望定义为： 称为随机变量x的方差，称为X 的标准差 正态分布： 概率密度函数为： 设(x,y)为二维随机变量，若存在，则 称其为X和Y的协方差，记为cov(x,y) 单高斯模型：SGM（也就是多维正态分布） 其概率密度函数PDF定义如下： 其中，x是维数为n的样本向量（列向量），μ是期望，C是协方差矩阵，|C|表示C的行列式，表示C的逆矩阵，表示的转置。 混合高斯模型：GMM 设想有 m个类： ，每类均服从正态分布。 各分布的中心点（均值）分别为： 方差分别为： 每一类在所有的类中所占的比例为 其中。 同时，已知 个观察点： 。其中，用大写P表示概率，用小写p表示概率密度。 则依此构想，可得概率密度函数为： 其中d是维数，|·|是行列式 但是在利用GMM进行目标检测时，这些模型的参数可能已知，也可能不知道，当参数已知时，可以直接利用GMM进行目标检测，在未知的情况下，需要对参数进行估计。对参数估计时，还要考虑样本分类是否已知。 样本已知： 最大似然估计： 可以直接采用MLE（最大似然估计）进行参数估计： 未知量为集合： 将衡量概率密度函数优劣的标准写出： 即为： 只要定出该标准的最大值位置，就可以求出最优的待定参数。为了 求出这个最大值的位置，就需用导数求极点，具体求解过程于下： 求导： 然后再分别对各个参数求导：①求参数 ：②对 感兴趣，求偏导数有：③对 感兴趣，接下来的求导比较复杂，在此就没有继续推导。 样本未知： EM估计，算法流程： ①初始化： 方案1：协方差矩阵设为单位矩阵，每个模型比例的先验概率设为，均值为随机数。 方案2：有K均值（K-means)聚类算法对样本进行聚类，利用各类的均值作为，并计算，去各类样本占总数的比例。 ②估计步骤（E-step）： 令的后验概率为： ③最大化步骤（M-step）： 更新权值： 更新均值： 更新方差矩阵： ④收敛条件： 不断地迭代步骤②和③，重复更新上面的三个值，直到，其中为更新参数后计算的值，即前后两次迭代得到的结果变化小于一定程度则终止迭代，通常 GMM发展历史及现状 背景建模方法有很多种，如中值法、均值法、卡尔曼滤波器模型、码本背景模型等，其中混合高斯模型是最经典的算法。GMM最早是由CHris Stauffer等在[1]中提出的，该方法是按照高斯分布对每个像素建立模型， 并通过基于回归滤波的在线 EM 近似方法对模型参数进行更新，它能鲁棒地克服光照变化、 树枝摇动等造成的影响，但该方法也存在一些问题：1）该方法对运动物体在场景中停止不动或者长时间停止时检测失效，而且带有初始学习速度慢，在线更新费时、计算量大；2）无法完整准确地检测大并且运动缓慢的运动目标，运动目标的像素点不集中，只能检测到运动目标的部分轮廓，无法提取出目标对象的完整区域；3）无法将背景显露区域与运动目标区域很好地区分开；4）当运动目标由静止缓慢转化为运动时，易将背景显露区检测为前景，出现“影子”现象。 GMM缺点及改进方法 针对上述问题，一些科学研究者又在GMM算法的基础上做了很多的改进：张、白等人[2]引入分块思想，把图像分为L*L块；黄、胡等人[3]也引入了分块的思想，但是他们的分块理念是以当前像素点的8邻域作为一块；华、刘[4]把GMM与改进的帧差法(相邻两帧图像对应像素点8邻域像素值相减之和)相结合，提高了计算效率；Suo等人[5]是将混合高斯模型中的模型个数采改进为自适应的；刘等人[6]融合帧间差分法，检测背景显露区域和运动区域，很好的解决了问题4。除此之外，还有基于纹理的混合高斯模型。 GMM算法流程 用第一帧图像对高斯混合模型进行初始化 ① ② ③ ④ 一般模型的个数M为3-6个，其中std_init设置为20 对于t时刻的像素，分别与已经存在的M个高斯模型依次进行匹配： ⑤ 如果满足匹配条件，则该像素值与高斯模型匹配成功。如果匹配不成功： a：当kK时，增加新的高斯模型； b：当k=K时，用新高斯模型代替优先级最小的模型。新的高斯模型，用当前像素值作为新模型的均值，即，协方差为，权重为，其中α为学习速率。 未匹配模式的均值和方差不变，