第七章机器学习..ppt

中南大学 智能系统与智能软件研究所 第七章 机器学习 7.1 机器学习的定义、研究意义与发展历史 7.2 机器学习的主要策略与基本结构 7.3 –7.7 几种常用的学习方法 7.8 知识发现 7.9 小结 7.1 机器学习的定义和发展历史 学习 学习就是系统在不断重复的工作中对本身能力的增强或者改进，使得系统在下一次执行同样任务或类似任务时，会比现在做得更好或效率更高。（人工智能大师西蒙的观点） 7.1.2 机器学习的发展史 机器学习的发展分为4个时期 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 机器学习的必威体育精装版阶段始于1986年 。 机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 2. 机器学习的分类 目前常用的分类方法： 7. 2 机器学习的主要策略和基本结构 7.2.1 机器学习的主要策略 按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种———机械学习、通过传授学习、类比学习和通过事例学习。 机械学习 传授学习策略 类比学习系统 通过事例学习策略 7.2.2 机器学习系统的基本结构 1.学习系统的基本结构 2.影响学习系统设计的要素 影响学习系统设计的最重要因素是环境向系统提供的信息，或者更具体地说是信息的质量。 知识库是影响学习系统设计的第二个因素。知识的表示有特征向量、一阶逻辑语句、产生式规则、语义网络和框架等多种形式。 7.3 机械学习 1.机械学习模式 机器学习是最简单的学习方法，也是一种最基本的学习过程。 机器学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。 可把机械学习系统的执行部分抽象地看成某个函数，机械学习在存储器中简单地记忆存储对((X1,X2,…,Xn),(Y1,Y2,…,Yp))。当需要f(X1,X2,…,Xn)时,执行部分就从存储器中把(Y1,Y2,…,Yp)简单地检索出来而不是重新计算它。这种简单的学习模式如下： 2.机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 环境的稳定性与存储信息的适用性问题： 机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。 7.4 归纳学习 归纳学习（induction learning）是应用归纳推理进行学习的一种方法。根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。环境提供的 信息是关于实际例子的输入与输出描述； ? 输入数据、输出结果规定了一个特殊的知识原则(特殊知识); ? 学习元从这些特殊知识中假设和归纳出一般性知识。 7.4.1 归纳学习的模式和规则 归纳学习的模式 归纳学习包括示例学习和观察发现学习。 1.归纳推理 （1）归纳推理是应用归纳方法所进行的推理，即从足够多的事例中归纳出一般性的知识，它是一种从个别到一般的推理。 常用的归纳推理方法有： 枚举归纳 联想归纳 类比归纳 Ⅰ. 枚举归纳 设a1, a2, …是某类事物 A 中的具体事物，若已知 a1, a2, …, an 都有属性 P ,并且没有发生反例，当 n 足够大时，就可得出“ A 中所有事物都有属性 P ” 的结论。 这是一种从个别事例归纳出一般性知识的方法， “ A 中所有事物都有属性 P ” 是通过归纳得到的新知识。 例如：设有如下已知事例： 张三是足球运动员，他的体格健壮。 李四是足球运动员，他的体格健壮。 … … 赵十是足球运动员