华中科技大学人工智能第六章机器学习全解.ppt

机器学习要介绍的内容 机器学习概述 基于符号的方法 连接主义的方法 遗传与进化的方法 机器学习的定义 机器学习还没有统一的定义 机器学习的一种定义: 机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。 Simon的机器学习定义： 能够让系统在执行同一任务或相同数量的另外一个任务时比前一次执行的更好的任何改变。 任何智能系统必须具备学习的能力 学习是使得智能主体在与环境交互的过程中改变自己. 机器学习研究的几种观点 符号主义采用符号来表示问题域中的实体极其关系,通过对符号语言表示的规则进行有哪些信誉好的足球投注网站，试图用这些符号来推出新的、有效的并且也用这些符号表达的一般规则。 连接主义受生物神经网络系统的启发，把知识表示为由小的个体处理单元组成的网络的激活或者抑制状态模式。学习是通过训练数据来修改网络结构和连接权值来实现。 遗传和进化观点，在开始时有一组问题的后选解，根据他们解决问题的能力来进化，适者生存，并相互交叉产生下一代解，这样，解不断的增强就像达尔文描述的生物世界一样 机器学习研究的主要内容 机器学习中的大多数研究都致力于开发一些有效方法，以能够解决： 通过对与人类学习类似的样本进行的处理，来获取高层次概念和(或)问题求解策略。 机器学习系统的基本结构 环境向系统的学习部分提供某些信息 学习部分利用这些信息修改知识库 执行部分根据知识库完成任务,并把获得的信息反馈给学习部分 影响设计学习系统的因素 具体系统中,环境、知识库和执行部分决定了具体的工作内容。学习部分要解决的问题由这三部分确定 最重要因素是环境提供的信息。如果信息的质量高，与知识库里保存的一般原则差别小，则容易处理，否则需要获得足够数据，才能形成一般原则，放入知识库 学习系统获得的信息往往不完全，得出的规则不一定正确，要通过执行加以检验，保留正确的，删除错误的 知识的表示方式影响学习,不同的方式修改和扩展知识库的难易程度是不同的 执行部分的反馈的方式，影响评价知识库的便利性 机械学习 机械学习就是记忆,不需要计算和推理,是最简单的机器学习方法,也是最基本的学习过程 机械学习可描述成： 机械学习举例—建筑工程预算 建筑工程预算中的工程量计算是工作量大,存在大量非标准的部件 系统中预先保存许多部件的工作量 计算时在数据库中进行查找 如果有则可以直接使用 如果没有则有一个学习程序。让用户输入部件的参数和相应的工作量 存储到数据库,以后使用时查表即可 基于解释经验的学习 基于解释经验的学习的主要思想: 一、给出一个训练实例(目标概念的实例) 二、用领域知识对它进行解释 三、泛化对训练实例的解释 (得到目标概念) 基于解释经验的学习有多种不同的形式 EBL的初始状态 一、一个目标概念 依赖与具体的应用，可以是一个分类，要证明的定理，达到目标的一个计划，问题求解程序的启发式信息等 二、一个训练实例 目标概念的实例 三、领域知识 用于解释训练实例如何成为目标概念的规则和事实集合 四、操作标准 概念定义可以采取的形式的某种方式的描述 什么时候物体是一个杯子 我们讨论EBL采用这个例子。 目标概念：一条规则，可以用来推断一个物体是否是一个杯子 promise(X)-cup(X) (promise是一个合取表达式) 领域知识： liftable(X)∧holds_liquid(X)-cup(X) part(Z,W)∧concave(W) ∧points_up(W)-holds_liquid (X) light(Y)∧part(Y,handle)-liftable(Y) samll(A)-light(A) made_of(A,feathers)-light(A) 什么时候物体是一个杯子(续一) 训练实例 cup(obj1) small(obj1) part(obj1,handle) owns(bob,obj1) 解释实例 泛化解释 我们的目标是用变量替换那些是训练实例的一部分常量。而保留领域知识中有的常量和限制。 本例中常量handle是领域知识中的一部分，因此保留，从而得到泛化树 可以有多种方法来建造泛化树 泛化数 基于泛化树，得到一条规则： small(X) ∧ part(X,handle) ∧ part(X,W) ∧ concave(W) ∧ Points_up(W) — cup(X ) 连接主义观点 神经元激励模型不再强调用符号来解决问题 认为智能存在于这种简单的、相互作用的部件（生物的或人工的神经元）组成的系统中 调节神经元之间的连接参数可以提高智能 神经网络的问题求接是并行的 人工神经元 输入信号xi：可能来自环境也可来自其神经元的刺激。不同模型允许输入参数有不同范围 权值wi：描述连接强度 激励层 阈值函数f 用神经元模型构造逻辑函数 McC