机器学习讲义.pdf

基本概念

人工智能(ArtificialIntelligence，AI）

是一个以计算机科学为基础，研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系

统的一门新的技术科学。它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应

的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

人工智能是一个很宽泛的概念，机器学习是人工智能的一个子集，深度学习又是机器学习的一个子集。

机器学习（MachineLearning，ML）

是人工智能的一种实现方法，同时也是人工智能的核心。它是一门多领域交叉学科，涉及概率论、统计

学、逼近论、凸分析、算法复杂度理论等多门学科。

它主要是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，并通过重新组织已有的

知识结构使之不断自我学习和完善的过程。

深度学习（DeepLearning，DL）

是受人脑结构启发而发展起来的一种机器学习技术。

人脑在处理信息时，会通过神经元之间的连接和传递，逐步将信息抽象、提炼，最终形成高级的认知和

决策。深度学习正是借鉴了这种“层层递进”的处理方式，通过构建多层的神经网络模型，让机器能够自

动提取出数据的复杂特征，从而实现更为精准的学习和预测。

监督学习、半监督学习、无监督学习和强化学习

监督学习：训练数据包含有标签的样本，即每个输入都与相应的输出相关联。

无监督学习：学习涉及从未标记的数据中学习数据的结构、模式或分布，即训练数据不包含标签。

半监督学习：是一种综合了有标签数据和未标签数据的学习方式。

强化学习：是一种通过观察环境、执行动作并从奖励中学习的学习方式。

特征和标签

在机器学习中，标签（label）是指一个实例的正确输出或类别，也可以称为目标变量（target

variable）或响应变量（responsevariable）。通常情况下，数据集包含两部分：特征和标签。特征是

用于描述实例的属性或特征，而标签则是用于训练和评估机器学习模型的目标变量。

例如，在图像分类问题中，特征可能是像素值或特征描述符，标签则是图像的类别，如猫、狗或鸟等；

在房价预测问题中，特征可能是房子的地段、年份以及面积，标签则是房子的销售价格。

监督学习

核心任务

分类：目标变量为类别或者属性，目标变量唯一且独立时，如预测是否借款、车辆类型等。

回归：目标变量为一个具体的值，且这个值处在某个取值范围内，这个取值范围内的任一值代表着不同

的度量单位或者程度，比如房产价格、行驶里程等。

工作示意图

先把一部分已知的“问题和答案”（特征和标签）给机器去学习

选择一个适合目标任务的机器学习算法模型

机器总结出了自己的“方法论”（训练模型）

人类把”新的问题”（新特征数据）给机器，让他去生成新答案

机器学习算法可以粗略地分为三个基本要素：模型、学习准则（损失函数、优化目标）、优化算法。

建模流程图

问题抽象：将实际问题抽象成数