六续机器学习.ppt

机器学习 6.3机械学习 2．机械学习的主要问题 6.3.2机械学习应用举例 6.4基于解释经验的学习 6.4.1 解释学习的基本原理 2．解释转换运用类比解题 4．MACDDW过程说明解释原理 5．MACBETH过程建立公共上下文 6.4. 2学习形式和功能 2．基于解释的学习提供更多的东西 6.4. 3解释学习的匹配 2．不精确匹配归约至逆向推理 3. 匹配阐明类似问题求解 6.5基于事例的学习 1.相容启发使事例支持特性 2．相容启发解决动力学难题 6.5.2最近邻物体的寻求 事例分组和建立决策构的过程： 2．并行硬件更快求得最近邻物体 6.6 基于概念的学习 6.6.1 类型定义 1.统计法 2．结构法 6.6. 2分类程序 1．概念形成问题的基本方法 2．各种学习程序的差别 6.7基于类比的学习 1.类比学习的表示 2．类比学习的求解 下面研究两种寻求员近邻物体的较快方法，一种是串行过程，另一种是并行过程。 1．快速串行过程以对数次数求得最近邻物体 决定积木最近邻物体的最直接方法是：计算备积木空间的距离，求取这些距离的最小值。对于(n＋1)个积木，要计算n个距离和比较(n－1)个蹬离。 因此，当n较小(如n＝10)时，这种直接方法较好用；但是，当n很大（如n为一百万或十亿）时，这种方法就不那么好用了。 幸好有种更好的方法，其计算工作量与log2n成正比，而不是与n成正比。这种好方法采用一种待别的决策树。决策树大体上是一些测试的排列，它规定了分析中每一步员合适的测试。 定义：决策树是一种表示，是一种语义树。树上， (1)每个节点与一个可f回答集合有关。 (2)每个非终叶节点与某个测试有关，该测试把它的可能回答集合分解为对应于不同测试结果的一些于集。 (3)每个分支把一个具体的调试结果子集传给另一个节点。 要利用决策树思想来处理积木辨识例子，必须在计算最近邻物体之前对事例进行分组，如图6.18所示。首先，按高度把积木分为两组，每组合有相同的积木数。其中一组，所有积木的高度等于或大于5cm；另一组，其高度等于或小于2cm。在两组之间，有一个3cm无积木区把两者隔开。 接着，按宽度再分这两组积木。上面那组分为两组，其中一组的宽度大于或等于5cm，另一组宽度等于或小于2cm。类似地，把下面那组分为宽度等于或大于4cm的一组及宽度等于或小于2cm的另一组。 最后，把上述4组进一步分成8组，每组正好只有一块积木。 称这全部结果为k-维树。因其距离是由k个尺寸测量的。 定义：k—维树是一钟表示，它是一种决策树，树上， (1)可能回答集合由点组成，其中有个点可能是给定点的员近邻点。 (2)每个测试规定一个坐标、一个阈值和一个围绕该阈值的不合点的中性区， (3)每个测试根据每个点处在阈值的哪一边而把点的集合分为两组。 要确定积木u的最近邻积木，首先注意到u的高度大于3.5cm，即处于员矮的高积木和最高的矮积木问的中等高度。根据这一观察可以得出结论：积木u很可能靠近某块高积木而不是矮积木。在这个基础上，可以暂时舍弃那些矮积木。 因为最高的矮积木高2cm，它与积木U的距离不小于2cm，即高度差为2。m，如图6.19(a)所示。如果积木U与高积木的距离是等于或小于2cm，那么暂时舍弃矮积木的决策将成为永久的决策。如果积木u与高积木的距离太子2cm，那么最终还得考虑矮积木。也就是说，未知积木u与下一组任何积木的距离不能比2cm更近。 接着，考虑高积木；它们也分为两组。因为积木U的宽度小于3.5cm，所以它很可能靠近某块窄的高积木，而不是宽的高积木。以此为基础，可以暂时舍弃宽的高积木。 如图6.19(b)所说明的，如果积木U与窄的高积木的距离是等于或小于4cm，那么暂时舍弃宽的高积木的决策将成为永久的决策，因为u的宽度与最窄的宽高积木的宽度相差4cm。 下一步是把未知积木与矮的窄高积木放在一起，这种积木只有一块，即桔黄色积木．见图6.19(c)。如果积木U与桔黄色积木的距离等于或小于2cm，那么就无需计算至窄的红色高积木的距离，后者与积木u的高度相差2cm。 至此可以知道，最靠近U的积木是桔黄色积木，两者相距1.41cm，只要前述各决策被证明是合理的。在本例中，因为1.41cm小于2cm，说明了舍弃窄的红色高积木是合理的；1.41cm也小于4cm，说明了舍弃黄色积木和紫色积木也是合理的；1.41cm又小于2cm，说明了舍弃所有矮积木是合理的；所以，各项决策都是合理的。 寻找最靠近的积木实际上是个跟随决策树路径的问题，该树反映了物体的分组方法。不管未知积