第5.3-5.4节 贝叶斯络和主观贝叶斯方法第5.3-5.4节 贝叶斯网络和主观贝叶斯方法第5.3-5.4节 贝叶斯网络和主观贝叶斯方法第5.3-5.4节 贝叶斯网络和主观贝叶斯方法.ppt

第5.3节 贝叶斯网络 王庆江 计算机科学与技术系 qjwang@ 勘误 P173页关于图5.4的CPT有误。 P175页倒数第3行，“对于S、L和E…”应为“对于S，L和E…”。 P178页第1行，“具有以上3个属性之一”应为“同时具有以上3个属性”。 P178页14行，“结点E阻塞了结点C和…”应为“结点S阻塞了结点C和…”。 P178页16行，“而对于给定结点E、S和L之间…”应为“而对于给定结点E，S和L之间…” 。 P180页15行，“P(～S|C)”应为“P(～S|～C)”。 贝叶斯网络（Bayesian Network） 有坚实的数学理论基础； 采用概率形式的不确定性表示和推理； 20世纪80年代，成功应用于专家系统。 5.3.1 贝叶斯网络的基本概念 有向无环图 Directed Acyclic Graph，缩写DAG； 可用于表示因果关系网。 结点代表证据或结论，权代表证据或结论的不确定度； 弧代表规则（即因果关系），权代表规则的不确定度。 条件概率表 Condition Probability Table，缩写CPT； 对于所有父结点的每种指派，确定子结点的发生概率。 例：CPT包括 P(C|A,B), P(C|A, ～B), P(C|～A,B), P(C|～A, ～B) P(A), P(B) 贝叶斯网络的构造方法 确定包含哪些结点； 建立反映条件独立的有向无环图； 指派局部概率分布，即CPT。 如果CPT包含了足够的条件概率，可以计算出任何联合概率，则称此网络是可计算的（即可推理的）。 因果关系网的示例 结点及其解释 S (Smoker)：该患者为吸烟者 C (Coal miner)：该患者是煤矿工人 L (Lung cancer)：他患了肺癌 E (Emphysema)：他患了肺气肿 因果关系 S可能导致L和E C可能导致E 。 贝叶斯网络 是结点间增加连接强度的因果关系网。 连接强度用条件概率表示； 例：P(B|A)为A到B的连接强度； 例：P(B|AC)表示A、C对B的联合作用。 CPT除了包含上述条件概率，还包括顶点（即无父结点的结点）的无条件概率（即先验概率）。 贝叶斯网络 = 网络结构 + CPT 条件独立 有结点A、B和C，若 P(A|BC) = P(A|B)，则称A和C在B条件下独立、A在B条件下独立于C，或A和C关于B独立。 所谓“关于B”，有时是给定B的不确定度，有时是完全不知道B的不确定度。 “条件独立” 是贝叶斯网络中隐含的断言（assertion）、假设（assumption），贝叶斯网络就是一个表示条件独立关系的图模型。 实际中，若已知A在B条件下独立于C，则P(A|BC) = P(A|B)。 事件独立与贝叶斯网络中的条件独立 事件独立 若P(AB)=P(A)P(B)，则A与B相互独立。 性质2：若A与B独立，且P(B)0，则P(A|B)=P(A)。 ∵ P(A|B)=P(AB)/P(B)=P(A)P(B)/P(B) 独立和互斥不一会儿事！ 若AB=Φ，则A与B互斥，有P(A∪B) = P(A) + P(B) P(A)0，P(B)0，若AB=Φ，则P(AB)=0，A与B互斥但不相互独立； Ω与任何事件独立，但Ω与任何事件不互斥。 贝叶斯网络中的条件独立 若 P(A|BC) = P(A|B)，则A和C关于B条件独立。 条件独立断言有什么用呢？ 例：P(S,C,L,E) = P(E|S,C,L) × P(L|S,C) × P(C|S) × P(S) = P(E|S,C) × P(L|S,C) × P(C|S) × P(S) = P(E|S,C) × P(L|S) × P(C|S) × P(S) = P(E|S,C) × P(L|S) × P(C) × P(S) 贝叶斯网络隐含着哪些条件独立断言？ 串行连接 A通过B影响C； C通过B影响A； 如果给定B，则A和C互不影响，这时称A和C关于B条件独立。 分叉连接 如果给定A，没有信息可经由A传递给A的子结点，即给定A时，A的子结点之间相互独立，称子结点B、C、…、F关于A条件独立。 汇集连接 多个原因（causes）有一个共同结果（effect）。对结果一无所知时，原因之间条件独立。 当结果或其某个子孙已知，父结点之间就不再独立了。 汇集连接的解释 A和B有共同的结果C； 在有向图中，结点C称为冲突子（collider）； 不给定C时，A和B之间是相互独立的； 给定C时， A和B之间就不再独立了。 摘自http://www.cs.mcgill.ca/~mgendr12/COMP526/docs/lecture3.pdf Head-to-tail Tail-to-tail Head-to-head 定义：Vi