人民大2024《人工智能与Python程序设计》课件（教材配套版）第10章-使用 Python 语言实现机器学习模型-回归分析.pdf

《人工智能与Python程序设计》——回归分析

人工智能与Python程序设计教研组

提纲

一元线性回归

多元线性回归

逻辑回归

PythonAI

回归分析

回归与分类

•都是监督学习中常见的任务类型

•区别

–任务类型不同

–输出值不同输入：每一个图像表示为28*28维的向量x∈784

学习一个分类器:↦0,1,2,3,4,5,6,7,8,9

•回归模型一般给出具体数值，输出值连续

•分类模型一般给出所属类别，输出值离散

–使用的模型不同

回归分析

•回归分析是一种预测性的建模技术

–因变量（目标）和自变量（特征）之间的关系

–用于预测分析、时间序列模型以及发现变量之间的因果关系。

•通常使用曲线/线来拟合数据点，目标是使数据点到曲线的距离差异

最小。

训练集/测试集

•训练集

–给定样本的特征和目标值，用来训练或者拟合模型，获得模型参数。

•测试集

–用来检验训练得到的模型的性能，评估模型的泛化能力。

•给定数据集，首先需要做训练/测试集划分。

一元回归举例

•在坐标纸上给定三个点

(,),(,),(,)（训练集合），用平

112233

滑的曲线把这三个点连接起来

–回归模型：平滑的曲线()

•给定一个新的位置（测试数据），在坐标

4

纸上标出()的值（对点对应值进行预测）

44

–回归预测

•处真实的值是y，因此预测误差为

44

2

–

44

–回归误差

一元线性回归

•在坐标纸上给定三个点的训练集合

–,,,,,

112233

•并且规定为线性函数（直线）

–=w+

•三个点，一条直线

–可能无法满足这条直线完美穿越所有的点（训练

集合上的误差）

•训练误差的计算

122(

–൫−+−+−

11223

3

损失函数

•使用任何一组参数都可以得到一组预测值ො，需要一个标准来对预测

结果进行度量：定量化一个目标函数式度量预测结果的好坏。

•MSE(meansquareerror)均方误差：线性