贝叶斯网络参数的在线学习算法及应用范例.doc

14;v’4v’ c’814;’4’ 第 H卷 第 ;#期 小 型 微 型 计 算 机 系 统 7.LH a7);# ##E年 ;#月 =IaI2=IJKcdcA*=c K81)##E 贝叶斯网络参数的在线学习算法及应用 张少中’杨南海’王秀坤 :大连理工大学 计算机科学与工程系’辽宁 大连 ;;#$ 摘 要!以 *= 算法为基础’在给定贝叶斯网络结构情况下’研究分析了 71-?@*= 算法并利用该算法对防洪决策贝叶斯网络进行在线参数学习’将该算法与 *= 算法的学习结果进行了比较分析’结果表明 71-?@*= 算法不但能够进行在线参数学习’而且也具有较高的学习精度) 关 键 词!贝叶斯网络9参数学习9*= 算法971-?@*= 算法 中图分类号!AB$C; 文献标识码!D 文 章 编 号!;###%;#:##E;#%;FCC%#$ GHHIJKLMJNONPQOIJORSRLTOJOUGIUNTJMVWPNTXLYRZJLO[RM\NT]^LTLWMRT _‘Dab c6,7%367?@’dDaba,?%6,-’eDabf-0%g0? :hijklmniompqrpnjsmiltuvioui’hkwvkoxovyilzvm{pq|iu}opwp~{’hkwvko;;#$r}vok G!ZMTLKM!D71-?@*= ,.@7-16+ #6-86-$%,$/*= -$/-$80$$/,?/,’’.-/-?16’,,+17?.-?.,?-?@-?(.77/ /8-$-7?$0’’71-?@),*$-,??1#7g$-?16-$’,’))716*= ,.@7-16+,?/71-?@*= ,,’’.-/-?(.77//8-$-7? ),*$-,??1#7g$1787+’,16-’(7+,?8)A6$0.1-?/-8,1$16,11671-?@*= 8,?%0$/-?7?.-? .,?-?@(7),*$-,??1#7g’,,+1,?/-1,.$76,$+7’8-$.*16,?1,/-1-7?,.*= ,.@7-16+) +RY\NT,Z!%,*$-,??1#7g$9’,,+1.,?-?@9*= ,.@7-16+971-?@*= ,.@7-16+ - 引 言 贝叶斯网络是根据各个变量之间的概率关系’使用图论方法表示变量集合的联合概率分布的图形模型)该模型是一个有向无环图’其中每个结点代表一个随机变量’并通过给定结点的条件概率与其父结点相关.;/) 贝叶斯网络的学习可划分为两个方面!结构学习和参数学习)结构学习是利用训练样本集’尽可能结合先验知识’确定合适的贝叶斯网络拓扑结构9参数学习是在给定贝叶斯网络拓扑结构的情况下’确定各结点处的条件概率密度)一般情况下’利用批量样本数据的参数学习是离线进行的’其参数值并不能随新数据集的实时增加而及时地在线进行参数的更新和调整’这样就不能实现数据的充分利用’并影响参数学习的精度.’$/)因此我们需要一种当新数据到来后’能够及时进行参数学习和调整的贝叶斯网络在线参数学习方法) 0 贝叶斯网络和参数学习 0)- 贝叶斯网络 在贝叶斯网络的有向无环图中’结点代表论域中的变量’有向弧代表变量的关系’变量之间的关系强弱由结点与其父结点之间的条件概率来表示)通过贝叶斯网络可以准确的反映实际应用中变量之间的依赖关系) 关于一组变量 12;’2’)))’2?3的贝叶斯网络由以下两个部分组成!;一个表示 f中变量的条件独立断言的网络结构c9与每一个变量相联系的局部概率分布集合 B’c是一个  有向无环图’c中的结点一对一地对应于 f中的变量’结点之间缺省弧线表示条件独立’c和 B定义的 f的联合概率分布)根据条件独立的性质’联合概率分布为! o j:4;’4’54o6789j:4;’4’54v2;’7 :; v8; 对于每个变量 2-’令 :-;12;’2’5’2-2;3是 2-的父结点’ 12;’2’5’2-2;3条件独立’则! j:4v64;’4’54v2;’78j:4v6v’7 : 0)0 贝叶斯网络的参数学习 贝叶斯网络的参数学习人们已经做了大量的研究工 作.’$/)给定数据变量集 和贝叶斯网络结构 4’5’43’$o对于网络结构中的每个变量 4’v其值域为 l 54v3’=81’’5’;+3为数据样本’v为变量 2-的父结点 集 则表示 ? @ 给定父节点集 为第 种可能取值时 ’ ’ j:4v6v! v A 结点 2-为第 g种取值的概率’记为!Bv@?) 贝叶斯网络参数学习的目标是!给定网络拓扑结构 c和训练样本集 =’利用先验知识’确定贝叶斯网络模型各结点处