第61-62节 机器学习概及其基本系统结构第61-62节 机器学习概述及其基本系统结构第61-62节 机器学习概述及其基本系统结构第61-62节 机器学习概述及其基本系统结构.ppt

各位同学可从教务处“网络教学”登录了 用户名：cs05 密码：cs05 目前可用的资源 教学文档（课件）； 讨论版（教学内容和课后习题的帖子和回帖）。 第6.1节 机器学习的概述 王庆江 计算机科学与技术系 qjwang@ouc.edu.cn 目前的AI系统多是基于演绎的，没有归纳推理，故不能自动获取和生成新知识； 系统中的知识是事先输入的，包含的错误也不能自动改正。 自1956年AI创立至今，科研人员一直重视机器学习（Machine learning）的研究。 50年代，Samuel的跳棋程序可从经验中学习，调整棋盘的评估函数； 70年，Winston的学习系统可从积木世界里学习概念，如“桥梁”； 80年代，机器学习逐渐成为AI的主要研究问题之一。 机器的能力（智能）会超过人类吗？ 对于不具备学习能力的机器，这是不可能的； 反之，机器能力的提高可能是难以预测的。 机器学习的不可预测问题 能否设计出检测AI系统能力的系统？ 检测系统必须有与被检测系统相当的或更强的学习能力； 检测系统本身的变化又如何了解和控制呢？ 6.1.1 机器学习的基本概念 什么是机器学习？ 它是研究如何用机器来模拟人类学习活动的一门学科； Simon说，“学习是系统在不断重复的工作中对本身能力的增强或改进，使系统下一次执行同样或类似任务时比现在做得更好或效率更高。” Minsky说，“学习是人脑（心理内部）中进行了有用的变化。” 学习的基本形式 知识获取 获取新的知识，这是学习的本质。 技能求精 学习机制本身的提高。 学习的目的是使系统性能得到改善。 从不会做到会做； 从会做到做得更好。 机器学习的内涵随着网络技术发展而变得丰富 在AI新兴的数据挖掘和知识发现研究中， 更多地涉及大规模海量数据； 数据可以是文本、图形图像、语音视频； 数据可以是结构化的，也可以半结构化的； 并存着分类、聚类、贝叶斯网络推理、决策树、遗传算法等多种学习方法。 机器学习的定义更模糊了，这也意味着机器学习正受到越来越多的关注。 机器学习的任务 获得对输入的数据进行分类的能力； 概念区分、文字识别、医疗诊断等。 获得解决问题、行为计划和行为控制的能力。 下棋、平衡杠杆、驾车等。 怎么评价学习能力？ 分类精度 能否对输入数据进行正确、精确的分类。 解答的正确性和质量 无论是分类系统还是解决问题的系统，都有正确性问题； 质量包括可读性、稳定性等指标。 学习速度 很费时的学习方法在实践中可能是不可用的。 6.1.2 机器学习的研究意义 一个真正的智能系统应该有学习能力； 通过归纳、演绎等推理丰富知识库，使系统适应环境。 大的智能系统比较注重静态知识的学习； 如医疗、勘探，有大规模数据库和较完整的规则库，应用领域明确，环境变化较小； 而较忽视动态知识的学习。 一些较小的智能系统注重动态知识的学习； 很难手工创建较完整的数据库； 但可自动适应环境和定制自身。 当前机器学习的研究时机比较成熟 已经有机器学习的初步算法和理论基础； 互联网可提供越来越充足的数据； 计算机性能不断提高，能运行高复杂度的算法。 若干难点制约机器学习的发展 预测难 脱离实际环境的学习方法，在实际中会有怎样的表现？ 有学习能力的中医诊断系统在实际中学到的新知识是否正确？ 归纳推理中问题 保假，归纳得到的知识不可靠。 判断难 什么重要、什么应该学习？ 6.1.3 机器学习的发展史 神经系统模型阶段； 开始于50年代； 主要研究没有知识的学习，试图建立自组织、自适应系统； 1957年的“感知器”是这一时期最具代表性的神经网络模型； 这段时期，还出现了跳棋程序、决策理论。 符号概念获取阶段； 开始于70年左右； 试图模拟人类的概念学习过程，通过分析一些概念的正例和反例，构造概念的符号表示； 表示形式可以是逻辑表达式、决策树、产生式规则、语义网络等。 例：Winston的ARCH系统； 只能学习单概念，未能投入实际应用。 知识加强和论域专用学习阶段 开始于70年代中期； 继续沿符号主义路线研究； 侧重专业的专用性，强调面向任务的学习和任务对学习过程的引导作用； 例：D.J. Mostow的指导式学习，T.J. Mitchell的解释学习。 近20年中的机器学习 归纳学习的绝对优势有所动摇； 出现了解释学习； 遗传式学习有了新的发展； 神经网络学习又有了重要进展； 随着数据挖掘、知识发现的研究蓬勃发展，贝叶斯网络、决策树、神经网络得到了深入研究和应用。 6.1.4 机器学习的分类 按学习风格分类 记忆学习（死记硬背学习、机械学习） 基于记忆和检索； 直接记录问题有关的信息，然后检索并利用这些存储的信息来解决问题； 如从数据x，经过某种计算得到结果y，则把(x, y)记录下来，以后要再对x计算时，通过查询直接得到y。 按学