机器学习必威体育精装版课件 (1).ppt

重点掌握：理解机器学习的定义和分类；机器学习系统的特点；掌握机器学习的一般模型；掌握示例学习中的双空间模型；掌握变型空间法；掌握决策树算法。人类学习的特点人类学习是一个漫长的过程；人类学习不存在复制过程；人类学习可能会遗忘；人类学习是逐渐积累的过程。假设规则的集合H：H是规则空间的子集H中最一般的元素组成的子集称为G集合H中最特殊的元素组成的子集称为S集合在规则空间中，H是G和S中间的一段。可以用G和S来表示H变型空间方法：初始：G是最上面一个点，S是最下面的直线（示教正例），H为整个规则空间有哪些信誉好的足球投注网站过程：G下移，S上移，H逐步缩小。结果：H收敛为只含一个要求的概念消除侯选元素算法(1)正规的初始H集是整个规则空间，这时S包含所有可能的示教正例（最特殊的概念）。(2)接收一个新的示教例子。如果是正例：去掉G中不覆盖新正例的概念，然后修改S为由新正例和S原有的元素共同归纳出的最特殊的结果如果是反例：从S中去掉覆盖该反例的概念；然后修改G为由新反例和G原有元素共同特殊化为最一般的结果(3)若G=S，且是单元集合，则转(4)，否则转(2)(4)输出H中的概念（即G和S）例子物体的大小用大(lg)或小(sm)来描述；物体的形状用圆(cir)、方(squ)或三角(tri)来描述。若用x表示大小,用y表示形状。用删除候选算法学习”圆”的概念。练习考虑积木世界的以下属性和属性值：颜色={黄色，蓝色，绿色}形状={圆锥形，球形，长方形}硬度={硬，软}尺寸={大，小}请用变型空间法，学习“黄色”实例：1.（黄色，圆锥形，软，大，+）2.（蓝色，长方形，软，小，-）3.（黄色，球形，软，小，+）4.（黄色，圆锥形，硬，大，+）5.（黄色，长方形，软，大，+）6.（绿色，球形，硬，大，-）归纳学习归纳学习(InductiveLearning)是指以归纳推理为基础的学习，它是机器学习中研究得较多的一种学习类型，其任务是要从关于某个概念的一系列已知的正例和反例中归纳出一个一般的概念描述。归纳学习的类型根据学习过程有无教师指导，归纳学习可分为示例学习和通过观察与发现学习两大类型。1.示例学习（实例学习）示例学习(LearningfromExamples)是归纳学习的一种特例。它给学习者提供某一概念的一组正例和反例，学习者归纳出一个总的概念描述，并使这个描述适合于所有的正例，排除所有的反例。根据所用例子的不同来源和不同类型，示例学习有以下两种分类方法：(1) 按例子的来源分类根据例子来源的不同，示例学习可分为：①例子来源于教师的示例学习。②例子来源于学习者本身的示例学习。学习者明确知道自己的状态，但完全不清楚所要获取的概念。学习者可以根据信息产生例子，并让学习环境或教师来区分正例或反例。③例子来源于学习者以外的外部环境的示例学习。在这种方式下，例子的产生过程是随机的。(2) 按可用例子的类型分类根据学习者所获取的可用例子的类型，示例学习可分为：①仅利用正例的示例学习。这种学习方法会使推出的概念的外延扩大化。一种有效的解决办法是依靠预先了解的领域知识对推导出的概念加以限制。②利用正例和反例的示例学习。这是示例学习的一种典型方式，它用正例用来产生概念，用反例用来防止概念外延的扩大。示例学习示例学习也称为实例学习。它是一种从具体示例中推导出一般性知识的学习方法。在这种学习方式下，外部环境提供的是一些具体示例，并且这些示例都是一些非常初级的信息，学习系统需要从这些大量示例中，归纳出适应于更大范围的一般性知识。例如，如果要教会一个系统懂得“猫”的概念，我们可以为系统提供各种动物的例子，并且告诉系统那些是猫，那些不是猫。而该学习系统应该能够从大量的示教例子中，总结出识别猫的一般规则，并能把猫和其他动物区别开来。示例学习的学习模型如图6-3所示。在该模型中，有两个重要的空间概念，一个示例空间，另一个是规则空间。示例空间是我们向系统提供的示教例子的集合。例如，前面为了教会系统识别猫而提供的各种动物例子都在示例空间中。规则空间是事物所具有的各种规律的集合。例如，“猫有4条腿”，“猫有两只眼睛”，“猫会咪咪叫”，“猫会捉老鼠”等。示例学习系统应该能从示例空间的大量示例中，总结出规则