机器学习入门 介绍.ppt

* * * * * * * * 第7章 机器学习 7.1 机器学习的基本概念 7.2 机械式学习 7.3 指导式学习 7.4 归纳学习 7.5 类比学习 7.6 基于解释的学习 7.7 学习方法的比较与展望 * 7.6 解释学习 解释学习（explanation-based learning）：由美国Illinois大学的Dejong于1983年提出，属于分析学习，本质为演绎学习方法。 它是通过运用相关的领域知识，对当前提供的单个实例的问题求解进行分析，从而构造解释并产生相应知识的。 解释学习系统： 米切尔（Mitchell）等人研制的LEX和LEAP系统， 明顿（S. Minton）等人研制的PRODIGY系统等。 * 7.6 解释学习 7.6.1 解释学习的概念 7.6.2 解释学习的学习过程 7.6.3 领域知识的完善性 * 7.6.1 解释学习的概念 解释学习：通过运用相关的领域知识及一个训练实例来对某一目标概念进行学习，并最终生成这个目标概念的一般性描述。 解释学习的一般性描述（米切尔（Mitchell）等，1986）： 给定：领域知识DT（用于证明训练实例为什么可作为目标概念的实例） 目标概念TC（要学习的概念） 训练实例TE 操作性准则OC （指导系统对描述目标的概念进行取舍） 找出： 满足OC的关于TC的充分条件。 * 7.6.1 解释学习的概念 解释学习与示例学习的主要区别： （1）示例学习：输入一组实例。 解释学习：输入一个实例。 （2）示例学习：归纳学习，不要求提供领域知识。 解释学习：演绎学习，要求提供完善的领域知识。 （3）示例学习：概念的获取，即知识增加的一面。 解释学习：技能提高的一面。 * 7.6.2 解释学习的学习过程 证明过程：通过运用领域知识进行演绎实现的，证明的结果是得到一个解释结构。 1. 构造解释 解释学习的学习过程：首先运用领域知识找出训练实例为什么是目标概念的证明，即解释，然后按操作性准则对解释进行推广，从而得出关于目标概念的学习描述。 例如，学习目标：“一个物体x可以安全地放置在另一个物体y的上面”（堆叠问题）。 目标概念：物体（x, y)，Safe-to-stack(x, y) * 7.6.2 解释学习的学习过程 训练实例（描述物体Obj1和Obj2的事实）： 领域知识（安全放置准则和计算准则）： 例如，学习目标：“一个物体x可以安全地放置在另一个物体y的上面”（堆叠问题）。 目标概念：物体（x, y)，Safe-to-stack(x, y) * 7.6.2 解释学习的学习过程 1. 构造解释 ) , ( 2 1 Obj Obj Stack To Safe - - ) , ( 2 1 Obj Obj Lighter ) 1 . 0 , ( 1 Obj Weight ) 15 , ( 2 Obj Weight ) 15 , 1 . 0 ( Smaller ) , ( 2 book table Obj Isa - ) 1 , ( 1 Obj Volume ) 1 . 0 , ( 1 Obj Density ) 1 . 0 , 1 . 0 , 1 ( * Safe - To - Stack ( Obj1 , Obj2 ) 的解释结构 * 7.6.2 解释学习的学习过程 任务：对上一步得到的解释结构进行一般化处理，从而得到关于目标概念的一般性知识。 处理的方法: 把常量变换为变量，并把某些不重要的信息去掉，只保留那些对以后求解问题所必须的关键性信息。 2. 获取一般性的知识 * 7.6.2 解释学习的学习过程 2. 获取一般性的知识 ) , ( 2 1 O O Stack To Safe - - ) , ( 2 1 O O Lighter ) , ( 1 1 w O Weight ) 15 , ( 2 O Weight ) 15 , ( 1 w Smaller ) , ( 2 book table O Isa - ) , ( 1 1 v O Volume ) , ( 1 1 d O Density ) , , ( * 1 1 1 w d v Safe - To - Stack ( O 1 , O 2 ) 一般化解释结构 * 7.6.3 领域知识的完善性 两种极端情况： （1）构造不出解释 原因：系统中缺少某些相关的领域知识，或者领域知识中包含了矛盾等错误。 （2）构造出了多种解释 原因：领域知识不健全，已有的知识