第3章机器学习.ppt

中南大学 智能系统与智能软件研究所 第3章 机器学习Machine Leanrning 引言 学习是人类获取知识的重要途径和人类智能的重要标志，而机器学习则是计算机获取知识的重要途径和人工智能的重要标志。 在人工智能系统中，知识获取一直是一个“瓶颈”问题，而解决这一问题的关键又在于如何提高机器的学习能力。 因此，机器学习应该是人工智能研究的核心课题之一。 什么是学习 学习是人们习以为常的一个概念，但究竟什么是学习，至今仍无一个统一的定义。 产生这一现象的原因主要与以下三个方面的因素有关: 第一，学习是一种综合性的心理活动，它与记忆、思维、知觉、感觉等多种心理活动密切联系，使得人们难以弄清它的机理； 第二，学习是一种具有多侧面的现象，它包括获取或发现新知识、修正或精化老知识、归纳或演绎原有知识等多种实践活动，使得人们很难把握它的实质； 第三，从事学习研究的学者多来自不同的学科，如社会学家、逻辑学家、心理学家等，他们分别从不同的角度对学习给出了不同的解释、提出了不同的观点。 学习的基本形式 知识获取 学习的本质就是获取新的知识。 技能求精 通过实践改造机制和认知技能，这种改变是通过反复实践和从失败中纠正错误来进行的。 例如：学习骑自行车。 给出学习一般性的解释 学习是一个有特定目的的知识获取和能力增长过程，其内在行为是获得知识、积累经验、发现规律等，其外部表现是改进性能、适应环境、实现自我完善等。 3.1 机器学习的定义 机器学习是一门研究怎样用计算机来模拟或实现人类学习活动的学科。它是人工智能中最具有智能特征的前沿研究领域之一。 机器学习（这里指符号学习）是靠学习程序（或称为学习系统）实现的。 学习程序的输入是数据、事实等各种各样的信息，输出则是知识，即概念、规则（规律）等。 3.1.1 机器学习的定义 这里所说的“机器”，指的就是计算机；现在是电子计算机，以后还可能是中子计算机、光子计算机或神经计算机等等。 目前，关于机器学习的研究主要集中在以下三个方面： （1）认知模拟 认知模拟研究的主要目的是要通过对人类学习机理的研究和模拟，从根本上解决机器学习方面存在的种种问题。 ?（2）理论性分析 理论性分析研究的主要目的是要从理论上探索各种可能的学习方法，并建立起独立于具体应用领域的学习算法。 ?（3）面向任务的研究 面向任务研究的主要目的是要根据特定任务的要求，建立相应的学习系统。 3.1.2 研究机器学习的意义 （1）机器学习速度惊人； （2）机器学习可以把学习不断地延续下去，避免大量的重复学习，使知识积累达到新的高度； 未来的计算机将有自动获取知识的能力，直接从书本中学习，通过与人谈话学习，通过观察学习，通过实践自我完善。 （3）机器学习有利于知识的传播：一台计算机获取的知识很容易复制给任何其他机器。 （4）克服人的存储少，效率低，注意力分散，难以传送所获取知识等局限性。 3.1.3 机器学习的发展史 机器学习的发展分为4个时期 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 第二阶段在60年代中叶至70年代中叶， 被称为机器学习的冷静时期。 第三阶段从70年代中叶至80年代中叶， 称为复兴时期。 机器学习的必威体育精装版阶段始于1986年。 第一阶段是在50年代中叶到60年代中叶，属于热烈时期。 在这个时期，所研究的是“没有知识”的学习，即“无知”学习。 其研究目标是各类自组织系统和自适应系统；指导本阶段研究的理论基础是早在40年代就开始研究的神经网络模型。 在这个时期，我国研制了数字识别学习机。 第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。 本阶段的研究目标是模拟人类的概念学习过程，并采用逻辑结构或图结构作为机器内部描述。 这个时期正是我国“史无前例”的十年，对机器学习的研究不可能取得实质进展。 第三阶段从70年代中叶至80年代中叶，称为复兴时期。 在这个时期，人们从学习单个概念扩展到学习多个概念，探索不同的学习策略和各种学习方法。 本阶段已开始把学习系统与各种应用结合起来，中国科学院自动化研究所进行大量的研究，表明我国的机器学习研究得到恢复。 1980年西蒙来华传播机器学习的火种后，我国的机器学习研究出现了新局面。 机器学习的必威体育精装版阶段始于1986年。 一方面，由于神经网络研究的重新兴起，另一方面，对实验研究和应用研究得到前所未有的重视。 我国的机器学习研究开始进入稳步发展和逐渐繁荣的新时期。 3.1.4 学习系统 要使计算机具有某种程度的学习能力，即使计算机能够通过学习增长知识、改进性能、提高智能水平，就需要为它建立相应的学习系统。 1、什么是学习系统 所谓学习系统是指能够在一定程度上实现机器学习的系统。 1