王荣贵 第1章 机器学习概述.pptxVIP

机器学习Machine Learning 计算机与信息技术学院教育技术系第1章机器学习概述1机器学习基本概念2机器学习发展历程3机器学习基本问题 本章学习内容机器学习基本概念机器学习基本概念人工智能与机器学习机器学习的基本术语机器学习的误差分析人工智能与机器学习诞生： 一批具有远见卓识的科学家共同探究使用机器模拟人类思维或人类智能的一系列问题，并在1956年夏季首次提出人工智能的概念。目标： 通过计算机这台机器模拟人的某些思维能力或智能行为，让计算机能够像人类一样进行思考。领域： 机器翻译、智能控制、图像理解、语音识别、游戏博弈等。人工智能与机器学习人工智能的发展历程知识工程逻辑推理机器学习依据所用核心技术的不同人工智能与机器学习逻辑推理阶段——人工智能发展的早期阶段时间：20世纪50年代至70年代思想：普遍认为实现人工智能的关键技术在于自动逻辑推理，只要机器被赋予逻辑推理能力就可以实现人工智能。成果：主要通过谓词逻辑演算模拟人类智能。这个阶段的人工智能的主流核心技术是符号逻辑计算，在数学定理自动证明等领域获得了一定成功。人工智能与机器学习专家系统——以知识工程为核心技术时间：20世纪70年代至90年代提出原因：如果没有一定数量专业领域知识支撑，则很难实现对复杂实际问题的逻辑推理。成果：专家系统使用基于专家知识库的知识推理取代纯粹的符号逻辑计算，在故障诊断、游戏博弈等领域取得了巨大成功。人工智能与机器学习方法：专家系统需要针对具体问题的专业领域特点建立相应的专家知识库，利用这些知识来完成推理和决策。缺陷：将专家知识总结出来并以适当的方式告诉计算机程序有时非常困难，通常需要针对每个具体任务手工建立相应的知识库。总结：专家知识的人工获取和表示方式严重制约了人智能的进一步发展。人工智能与机器学习机器学习——如何使得机器能够像人类一样具有这种学习能力起源：20世纪50年代的感知机数学模型发展：20世纪90年代中期以来，机器学习得到迅速发展并逐步取代传统专家系统成为人工智能的主流核心技术，使得人工智能逐步进入机器学习时代。 目前，以机器学习为主流核心技术的人工智能在多个领域取得的巨大成功已使其成为社会各界关注的焦点和引领社会未来的战略性技术。人工智能与机器学习人工智能系统典型框架人工智能与机器学习机器学习是一种通过先验信息来提升模型能力的方式。 具体地说，对于给定的任务和性能度量标准，使用先验信息，通过某种计算方式改进初始模型，获得一个性能更好的改进模型即有： ?人工智能与机器学习【例题】已知样本数据集为：中数据点在坐标系中的分布如图所示：??令初始模型： ??=????+??， 试根据数据集??优化并计算??=6时的模型输出。人工智能与机器学习【解】? 对于初始模型，令对每个样本的预测输出与其真实值之间的误差平方为，即 ,则模型对所有样本的累计误差为：人工智能与机器学习? 将模型的参数看作累计误差函数的变量，由于在多元函数极值点处，函数对其所有变量的偏导数均为0，故分别对参数求偏导，并令偏导数为0，得到：??联立并代入中样本数据，解得:人工智能与机器学习?由此得到优化模型：? 图中的实线表示的函数图像，将代入，可求得优化模型的预测值：。机器学习基本概念人工智能与机器学习机器学习的基本术语机器学习的误差分析机器学习的基本术语回归分类机器学习的任务聚类所要解决的问题不同机器学习的基本术语? 回归任务是通过若干带有标注的样本数据构造出一个预测模型，使得的预测输出尽可能符合真实值，并为回归模型。用于构造模型的样本称为训练样本。用于测试模型效果的样本称为测试样本。机器学习的基本术语用于分类任务的机器学习模型称为分类模型或分类器分类任务的目标是通过训练样本构建合适的分类器??(??)，完成对目标的分类。分类类别只有两类的分类任务称为二值分类或二分类，这两个类别分别称为正类和负类，通常用+1和-1分别指代。分类类别多于两类的分类任务通常称之为多值分类。机器学习的基本术语 对于一个具体的回归或分类任务，所有可能的模型输入数据组成的集合称为输入空间，所有可能的模型输出数据构成的集合称为输出空间。 回归或分类机器学习任务的本质就是寻找一个从输入空间到输出空间的映射，并将该映射作为预测模型。 从输入空间到输出空间的所有可能映射组成的集合称为假设空间。机器学习的基本术语满足条件的映射通常不止一个，此时需要对多个满足条件的映射做出选择。选择的主观倾向性称为机器学习算法的模型偏好。奥卡姆剃刀原则：在同等条件下选择简单事物的倾向性原则。机器学习的基本术语聚类任务——对样本数据实现物以类聚的效果聚类的类别由不同样本之间的某种相似性确定，因而聚类类别所表达的含义通常是不确定的，聚类样本也不带特定的标注表示样本所属的类别。机器学习的基本术语示例集：在聚类任务中，所有输