概率图模型学习(西电).pdf

概率图模型学习 Learning Graphical Models 1 目录  模型表示（ Representation  模型学习（ Learning  概率推理（ Inference 2 模型表示 图论+概率论=概率图模型 节点：随机变量或一组随机变量 连接弧：随机变量之间的依赖关系 研究对象之间依赖关系的一种工具 概率图模型完全可以用纯概率的方式表达；而图结构的引入 提供了理解的直观性 3 模型表示 有向图 贝叶斯网络（Bayesian Network 隐马尔可夫模型（Hidden Markov Model 无向图 马尔可夫随机场（ Markov Random Field 条件随机场（Conditional Random Field 4 模型表示 5 模型表示 基本定义 贝叶斯网络（BN）是一个二元组，即 ， 为有向无环图，其中V BN (GP, ) G(V,E) 为节点集，与领域的随机变量一一对应；E为有向边集，反映变量之间的因果依赖关 系；P为节点的概率分布，表示节点之间因果影响强度，每个节点都有一个条件概率 表，定量描述其所有父节点对该节点的作用效果． n V{V,V ,,V} PV( )PV( ,V ,,V ) PV( |paV( )). 变量集 上的联合概率分布： 1 2 n 1 2 n i1 i i 图2.1 一个贝叶斯网实例 6 模型表示 B ⊥E J ⊥{B,E,M} | A M ⊥{B,E,J} | A P(B,E,A,J,M)=P(B)P(E|B)P(A|B,E)P(J|B,E,A)P(M|B,E,A,J) 1 + 2 +4 +8 +16 =31 P(B,E,A,J,M)=P(B)P(E)P(A|B,E)P(J|A)P(M|A) 1 +1 +4 +2 +2 =10 7 模型表示 8 模型表示