9机器学习分析报告.pptx

机器学习 Machine Learning 中南大学 刘丽珏 什么是机器学习 机器学习的发展史 学习策略 神经学习 决策树学习 机器学习的应用及意义 主要内容 至今没有统一的定义 Learning denotes changes in the system that enable a system to do the same task more efficiently the next time. —— Herbert Simon,1983 Learning is making useful changes in the workings of our minds. —— Marvin Minsky, 1986 What is machine learning 马文·闵斯基 (Marvin Minsky) Machine Learning T,P,E: Computer automatically improves at task T(任务) according to performance metric P(性能) through experience E(经验) —— Tom Mitchell，1997 What is machine learning 下棋 T: 下棋 P: 比赛中击败对手的百分比 E: 与自己对弈的训练 手写体识别 T: 识别手写文字 P: 识别的正确率 E: 已经做好的具有代表性分类的手写体数据库 自动驾驶 T: 通过视觉传感器在高速路上自动驾驶 P: 平均无差错行驶里程 E: 在观察人的驾驶过程中记录的一系列图像和驾驶指令数据库 Examples of the Learning Tasks 机器学习的发展分为4个时期 热烈时期（50年代中叶到60年代中叶） 神经元模型研究 罗森勃拉特1957年提出的感知器模型 冷静时期（60年代中叶至70年代中叶 符号概念获取 模拟人类的概念学习过程 复兴时期（70年代中叶至80年代中叶） 知识强化学习 与各种实际应用相结合，尤其是专家系统在知识获取方面 必威体育精装版阶段（1986年至今） 连接学习和混合型学习 符号学习和连接学习结合 机器学习的发展史 机器学习进入新阶段的表现 机器学习已成为新的边缘学科并在高校形成课程。 综合各种学习方法 机器学习与人工智能问题的统一性观点正在形成。 各种学习方法的应用范围不断扩大。 数据挖掘和知识发现的研究已形成热潮 。 与机器学习有关的学术活动空前活跃 。 机器学习的发展史 Rote Learning(死记硬背式学习、机械学习) memory-based Induction(归纳学习) Learning from examples (Supervised) Dicision Tree(决策树学习) Learning from observation and discovery (Unsupervised) Analogy (类比学习) according to the similarity of knowledge in different domain Explanation-based Learning(解释学习) Deduction and Induction are combined Neural Learning Clustering(聚类) Discovering similar group Reinforcement(增强学习) Learn from feedback given at end of a sequence of steps 学习策略 机械学习模式(Rote Learning) 最初在Sameul的跳棋程序CHECKERS中提出，并获得成功应用 最简单的学习方法 机械学习就是记忆，即把新的知识存储起来，供需要时检索调用 也叫死记硬背学习 不需要计算和推理 是一种最基本的学习过程 学习策略——机械学习 Lenat，Hayes-Roth，和Klahr等人于1979年关于机械学习提出一种有趣的观点 学习策略——机械学习 机械学习的主要问题 存储组织信息：要采用适当的存储方式，使检索速度尽可能地快。 环境的稳定性与存储信息的适用性问题： 机械学习系统必须保证所保存的信息适应于外界环境变化的需要。 存储与计算之间的权衡：对于机械学习来说很重要的一点是它不能降低系统的效率。 学习策略——机械学习 Induction learning 是应用归纳推理进行学习的一种方法 根据归纳学习有无教师指导，可把它分为示例学习和观察与发现学习。 示例归纳学习的模式 学习策略——归纳学习 向系统提供的示教例子的集合 事务所具有的各种规律的集合 从实例中抽象出一般性的知识的