概率图模型讲述.ppt

赌场作弊的HMM模型中，状态空间——观测空间示意图： 实例2中的三个基本问题 1.评估问题 给定观察序列O和HMM ?=(π,A,B),判断O是由?产生出来的可能性有多大 计算骰子点数序列的确由“作弊”模型生成的可能性 2.解码问题 给定观察序列O和HMM ?=(π,A,B),计算与序列O相对应的状态序列是什么 在骰子点数序列中，判断哪些点数是用骰子B掷出的 3.学习问题 给定一系列观察系列样本，确定能够产生出这些序列的模型?=(π,A,B) 如何从大量的点数序列样本中学习得出“作弊模型”的参数 问题1——前向算法 问题1——后向算法 问题2——Viterbi算法 一个前向变量 =maxP( ) 给定模型下，产生t以前的部分观测符号序列（包含t在内）{ }，且时刻又处于状态 的最大概率 迭代算法： 问题3——Baum-Welch算法 目的：给定观察值序列O，通过计算一个模型?={A,B,π}，使得P(O|?)最大 算法步骤： 1.初始模型(待训练模型)?0 2.基于?0以及观察值序列，计算新模型? 3.如果|logP(O|?)-logP(O|?0)|σ,说明训练已达到预期效果，算法结束 4.否则，令?0=?，继续第2步工作 给定模型?和观察序列O，在时刻t处在状态i，时刻t+1处在状态j的期望概率 给定模型和观测序列条件下，在时间t处于状态i的概率 在时间T内，从状态i进行转移的次数 在时间T内，从状态i转移到j的次数 Baum-Welch Re-estimation (1) (2) (3) 在t=1 处于状态i的次数 在时刻T内，状态i转移到状态j的总次数，除以在时间T内，状态i被经过的总次数 在时刻T内，经过状态j,并且状态j对应的观测事件为Vk的总数除以时间T内，经过状态j的总数 HMM在动作识别中的一般过程 Baum-Welch算法求argmaxP(O|?) 前向后向算法计算P(O|?) HMM动作识别的训练过程 Yes 已知动作序列 特征提取 Baum-Welch重估 收敛？ HMM 结束 No HMM的动作识别识别过程 未知动作序列 特征提取 ?1(HMM动作1) ?2(HMM动作2) ?3(HMM动作n) 、、、 选择最大值 P(O|?1) P(O|?n) P(O|?2) 识别动作  Probabilistic graph model 概率图模型 模型表示 节点：随机变量或一组随机变量 连接弧：随机变量间的依赖关系 研究对象间依赖关系的一种工具 概率图模型完全可以用纯概率的方式表达，而图结构的引入提供了理论的直观性 A B C C B A 分类 随机变量间的关系 有向图 ：因果关系 无向图 ：空间相互关系或者相互依赖性 有向和无向概率图模型只能表示随机变量的同一类关系，而混合概率图模型却可以表示不同类型的关系。 图1 有向图和无向图示（ e 表示边，n 表示点） （1）无向图 （2）有向图 隐马尔科夫模型 Hidden Markov Model 主要内容 HMM的三个假设 对于一个随机事件，有观察值序列:O= 该事件隐含着一个状态序列：Q= 。 假设1：马尔科夫性假设(状态构成一阶马尔科夫链) P( )=P( ) 假设2：不动性假设(状态与具体时间无关) P( )=P( ),对任意i,j成立 假设3：输出独立性假设(输出仅与当前状态有关) P( | )=∏P( ) HMM定义 HMM的状态是不确定或者不可见的，只有通过观测序列的随机过程才能表现出来 观察到的事件与状态并不是一一对应，而是通过一组概率分布相联系 HMM是一个双重随机过程，两个组成部分： 马尔科夫链：描述状态的转移，用转移概率描述。 一般随机过程：描述状态与观察序列间的关系，用观察值概率描述。 HMM的组成 HMM的组成示意图 HMM的表述 用模型五元组?=(N,M,π,A,B)用来描述HMM，或