一种新的基于MDL的混合Bayesian Networks学习算法.pdf

一种新的基于MDL 的混合Bayesian Networks 学习算法1 阎静，钟宁 北京工业大学国际WIC 研究院，北京（100022 ） 摘 要：近年来在人工智能领域，不确定性问题一直成为人们关注和研究的热点。贝叶斯网是 用来表示不确定变量集合的联合概率分布的图形模式。本文提出并实现了一种新的混合贝叶斯 ∆ ∆ 网学习算法HI MDL(Hybrid Independence Minimal Description Length) ，这种算法包含了独立性 测试和评分有哪些信誉好的足球投注网站的优点，并提出了BN 结构中“德尔塔（Delta Form ∆ ）”结构的定义。首先，通 过小运算量的独立性测试获取系统结构信息，限制可行解有哪些信誉好的足球投注网站空间，降低了 BN 学习算法的计 算复杂度；然后，采用基于MDL 理论的BN 学习算法对出现“德尔塔（Delta Form ∆ ）”的局部 进行有哪些信誉好的足球投注网站和 MDL 评分，在充分保证结果精度的前提下，提高了算法的时间性能。最后，本文 在贝叶斯网通用的 Chest_Clinic 的标准数据集上进行了 HI∆MDL 算法的测试，与 BN Power Constructor 进行比较，在精度和时间性能方面得到改进。测试结果表明，该学习算法能高效、 精确的得到BN 模型。 关键词：贝叶斯网络，MDL ，评分有哪些信誉好的足球投注网站，条件独立性测试 中图法分类号：TP311；TP18 1. 引言 近年来，在人工智能（AI ）领域，不确定性问题一直是人们关注和研究的焦点，而贝叶斯 网(Bayesian Networks, BNs) 已成为解决许多不确定性问题的强有力的工具，这主要归功于它具有良 好的知识表达框架。贝叶斯网可以处理不完整和带有噪声的数据集，它用概率评分的权重来描 述数据间的相关性，从而解决了数据间不一致性、甚至是相互独立的问题；它用图形的方法描 述数据间的相互关系，语义清晰、可理解性强，这有助于利用数据间的因果关系进行预测分析。 贝叶斯方法正在以其独特的不确定性知识表达形式、丰富的概率表达能力、综合先验知识的增 量学习特征等成为当前数据挖掘众多方法中最为引人注目的焦点之一。从 1981 年 R. Howard 和 J. Matheson[15]提出贝叶斯网以来，贝叶斯网的研究已引起了人们相当大的兴趣。进入 90 年代， 面对信息爆炸的局面，研究人员已经开始尝试直接从数据中学习并生成贝叶斯网的方法[1-15]，并 取得了初步的成果。 贝叶斯网建模技术最关键的问题是BN 结构的学习，通常有两种基本方法：1）将学习视为 最优化问题，利用打分方法来进行启发式有哪些信誉好的足球投注网站；2 ）将学习视为约束满足问题，通过测试数据属 性间的条件独立性构造 BN 结构。但是，这两种方法都有各自的缺陷，只能适用于一些特定的 场合。 本文对混合算法 CIMDL(Conditional Independence Minimal Description Length)算法进行 改进，给出并实现了一种新的混合 BN 学习算法 HI∆MDL 。这种算法包含了独立性测试和评分 有哪些信誉好的足球投注网站的优点，将概率测度的方法与 MDL 学习方法相结合。首先，通过小运算量的独立性测试 获取系统结构信息，限制可行解有哪些信誉好的足球投注网站空间，降低了 BN 学习算法的计算复杂度；然后，采用基 于 MDL 理论的 BN 学习算法对出现“德尔塔（Delta Form ∆ ）” 的局部进行有哪些信誉好的足球投注网站和MDL 评分， 1本课题得到国家自然科学基金资助项目(NSFC NO.的资助。 - 1 - 在充分保证结果精度的前提下，有效提高了算法的时间性能，达到提高 BN 学习效率的目的。 最后，本文在贝叶斯网通用的 Chest_Clinic 的标准数据集上进行了HI∆MDL 算法的测试，与 BN Po