基于有序决策树的改进归纳算法-山东大学学报(工学版).pdf

　第４４卷　第１期 山　东　大　学　学　报　（工　学　版） ２０１４年２月　 　 　　 Ｖｏｌ．４４　 Ｎｏ．１　　 　ＪＯＵＲＮＡＬＯＦＳＨＡＮＤＯＮＧＵＮＩＶＥＲＳＩＴＹ（ＥＮＧＩＮＥＥＲＩＮＧＳＣＩＥＮＣＥ） Ｆｅｂ．２０１４　 　文章编号：１６７２３９６１（２０１４）０１００４１０４　　　ＤＯＩ：１０６０４０／ｊ．ｉｓｓｎ．１６７２３９６１１２０１３２５６ 基于有序决策树的改进归纳算法 １ ２ ２ 潘盼 ，王熙照 ，翟俊海 （１．河北大学数学与计算机学院，河北 保定０７１００２； ２．河北省机器学习与计算智能重点实验室，河北 保定０７１００２） 摘要：基于构建有序决策树，提出了一种新的归纳算法。该算法选择的扩展属性不仅和类的有序互信息值最大， 而且要求和同一分支上已被用过的条件属性的有序互信息值最小。实验结果表明，考虑了条件属性之间的相关 性后，可避免同一条件属性的重复选择，真正体现了条件属性和决策属性之间的有序互信息，与已有的算法相比， 提高了测试精度。 关键词：有序互信息；有序分类；有序信息熵；属性相关；决策树 中图分类号：ＴＰ１８１　　　文献标志码：Ａ Ａｎｉｍｐｒｏｖｅｄｉｎｄｕｃｔｉｏｎａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｏｒｄｉｎａｌｄｅｃｉｓｉｏｎｔｒｅｅ １ ２ ２ ＰＡＮＰａｎ，ＷＡＮＧＸｉｚｈａｏ，ＺＨＡＩＪｕｎｈａｉ （１．ＣｏｌｌｅｇｅｏｆＭａｔｈｅｍａｔｉｃｓａｎｄＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＨｅｂｅｉＵｎｉｖｅｒｓｉｔｙ，Ｂａｏｄｉｎｇ０７１００２，Ｃｈｉｎａ； ２．ＫｅｙＬａｂｏｆＭａｃｈｉｎｅＬｅａｒｎｉｎｇａｎｄＣｏｍｐｕｔａｔｉｏｎａｌＩｎｔｅｌｌｉｇｅｎｃｅｏｆＨｅｂｅｉＰｒｏｖｉｎｃｅ，Ｂａｏｄｉｎｇ０７１００２，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ａｎｉｍｐｒｏｖｅｄｏｒｄｉｎａｌｄｅｃｉｓｉｏｎｔｒｅｅａｌｇｏｒｉｔｈｍｗａｓｐｒｏｐｏｓｅｄ．Ｔｈｅｅｘｔｅｎｄｅｄａｔｔｒｉｂｕｔｅｓｓｅｌｅｃｔｅｄｗｉｔｈｔｈｅｐｒｏ ｐｏｓｅｄａｌｇｏｒｉｔｈｍｍａｘｉｍｉｚｅｄｔｈｅｒａｎｋｉｎｇｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎｂｅｔｗｅｅｎｔｈｅｃａｎｄｉｄａｔｅａｔｔｒｉｂｕｔｅｓａｎｄｔｈｅｄｅｃｉｓｉｏｎａｔｔｒｉｂｕｔｅ， ａｎｄａｌｓｏｍｉｎｉｍｉｚｅｄｔｈｅｒａｎｋｉｎｇｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎｂｅｔｗｅｅｎｔｈｅｃａｎｄｉｄａｔｅａｔｔｒｉｂｕｔｅｓａｎｄｔｈｅｓｅｌｅｃｔｅｄｃｏｎｄｉｔｉｏｎａｌａｔｔｒｉｂ ｕｔｅｓｏｎｔｈｅｓａｍｅｂｒａｎｃｈ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｅｄｔｈａｔｔｈｅｃｏｒｒｅｌａｔｉｏｎｔｏｂｅｔａｋｅｎａｃｃｏｕｎｔａｍｏｎｇｔｈｅｃｏｎｄｉｔｉｏｎａｌ ａｔｔｒｉｂｕｔｅｓｃｏｕｌｄａｖｏｉｄｔｏｓｅｌｅｃｔｅｔｈｅｓａｍｅｏｎｅ，ａｎｄｔｈｅｉｄｅａｓｏｆｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｃｏｕｌｄｒｅａｌｌｙｒｅｆｌｅｃｔｔｈｅｎａｔｕｒｅｏｆｔｈｅ ｒａｎｋｉｎｇｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎ．Ｔｈｅｐｒｏｐｏｓｅｄａｌｇｏｒｉｔｈｍｃｏｕｌｄｉｍｐｒｏｖｅｔｈｅｔｅｓｔａｃｃｕｒａｃｙｃｏｍｐａｒｅｄｗｉｔｈｔｈｅｅｘｉｓｔｉｎｇａｌｇｏ ｒｉｔｈｍｓ． Ｋｅｙｗｏｒｄｓ：ｒａｎｋｉｎｇｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎ；ｏｒｄｉｎａｌｃｌａｓｓｉｆｉｃａｔｉｏｎ；ｒａｎｋｉｎｇｅｎｔｒｏｐｙ；ｃｏｒｒｅｌａｔｉｏｎｏｆａｔｔｒｉｂｕｔｅ；ｄｅｃｉｓｉｏｎｔｒｅｅ