朴素贝叶斯分类的工作过程如下.ppt

* * AQR算法举例 （5）BEST={ size=huge?type =bicycle }，COVER ={ size=huge?type =bicycle }。 （6）显然COVER不能覆盖所有的正例，从正例中选取另一个SEED={ size=huge，type = motorcycle}。 （7）调用STAR（SEED，NEG）去产生一个覆盖SEED但不包含NEG的STAR集合。 初始化STAR为空，即STAR={}； 空的complex覆盖所有样例， 所以STAR覆盖负样例，进入循环； a ) 假定被选取的是Eneg={ size= tiny， type = motorcycle }； b ) 使EXTENSION为所有覆盖SEED但不覆盖Eneg的选择，则EXTENSION包括size= huge，则又根据STAR={x∧y|x∈STAR，y∈EXTENSION}，因此，STAR={ size=huge}； c ) 接着选取另一个被STAR中的复合覆盖的负样例Eneg，显然已经没有这样的负样例，因此，STAR={ size=huge}； d ) 接着选取另一个被STAR中的复合覆盖的负样例ENEG，显然已经没有这样的负样例，因此，STAR={ size=huge?type =bicycle }。 从STAR（SEED，NEG）返回。 （8）BEST={size=huge}，将BEST添加到COVER中，COVER ={ size=huge?type =bicycle? size=huge}={ size=huge}。 （9）这时，COVER已经覆盖到全部的正例，则算法结束。输出规则为gaint 2-wheeler? size=huge。 假设现有一个训练集，其包含两种属性： size （属性值：micro，tiny，mid，big，huge，vast） type （属性值：bicycle，motorcycle，car，prop，jet，glider） 现有正例、反例样本分别如表4-6，表4-7所示： 反例样本 size type class Tiny motorcycle conventional transportation tiny car conventional transportation mid car conventional transportation micro jetfast plane Tiny jetfast plane Mid jetfast plane 正例样本 size type class Huge bicycle giant 2-wheeler Huge motorcycle giant 2-wheeler * * CN2算法描述 CN2使用一种基于噪音估计的启发式方法，使用这种方法可以不用对所有的训练样本进行正确的区分，但是规约出的规则在对新数据的处理上有很好的表现。 算法 4-7 CN2 输入：E /*E为训练样本*/ 输出：RULE_LIST /*返回一个覆盖若干样例的规则*/ （1） Let RULE_LIST be the empty list； /* 初始化RULES_LIST为空；*/ （2） REPEAT （3） Let BEST_CPX be Find_Best_Complex（E）； /*寻找最佳的规则Find_Best_Complex（E）并将其结果放入BEST_CPX中；*/ （4） IF BEST_CPX is not nil THEN BEGIN （5） Let E’ be the examples covered by BEST_CPX；/*令E’为BEST_CPX覆盖的所有样例*/ （6） Remove from E the examples E′ covered by BEST_CPX； /*从训练样本E中除去E’，即E=E-E’；*/ （7） Let C be the most common class of examples in E’； /*令C为样本子集E’中最频繁的分类标号；*/ （8） Add the rule ‘if BEST_CPX then class=C’ to the end of RULE_LIST； /*将规则‘if B