第5章 多元回归分析.pptx

张爱桃河北医科大学Python机器学习技术与应用

多元回归分析第五章

本章要点多重共线性多元线性回归的实现岭回归、Lasso回归回归模型的评估指标多项式回归、Logistic回归线性回归的基本原理

主要内容5.1多元回归分析5.2多重共线性问题5.4Logistic回归主要内容5.3非线性回归-多项式回归

5.1多元回归分析?一元线性回归模型：

5.1多元回归分析多元线性回归模型：?

5.1多元回归分析估计模型参数：???

5.1多元回归分析估计模型参数：最小二乘方程组:?

5.1多元回归分析例：某研究机构进行了一系列实验来收集关于混凝土渗透性系数的信息。9组实验的混凝土渗透性系数y与孔隙率x1，渗水率x2测量值列于表5.1中，根据表5.1中的数据试建立渗透性系数与其他几项指标关系的多元线性回归方程。序号孔隙率x1渗水率x2渗透性系数y10.0500.9031.002?0.0350.7221.003?0.0250.5901.004?0.050?0.3450.105?0.035?0.2820.106?0.0250.2330.107?0.0500.1030.018?0.0350.0910.019?0.0250.0780.01

5.1多元回归分析?

5.1多元回归分析回归模型的评估指标：??

5.1多元回归分析回归模型的评估指标：?4．中值绝对误差（Medianabsoluteerror,MedAE）?该指标对样本量不敏感，即使在比较少的样本数据中依然可行，并且对异常值不敏感，不会因为特殊的异常值而导致估计的严重偏差。此方法非常适用于含有离群点的数据集。metrics.median_absolute_error(y_test,pred_y))#调用函数实现中值绝对误差计算

5.1多元回归分析回归模型的评估指标：??

5.2多重共线性问题序号身长（cm）x1头围(cm)x2体重（g）x3受精周龄?y113.009.2050.0013.002?18.7013.20102.0014.003?21.0014.80150.0015.004?19.0013.30110.0016.005?22.8016.00200.0017.006?26.0018.20330.0018.007?28.0019.70450.0019.008?31.4022.50450.0020.009?30.3021.40550.0021.0010?29.2020.50640.0022.001136.2025.20800.0023.001237.0026.101090.0024.001337.9027.201140.0025.001441.6030.001500.0026.001538.2027.101180.0027.001639.4027.401320.0028.001739.2027.601400.0029.001842.0029.401600.0030.001943.0030.001600.0031.002041.1027.201400.0033.002143.0031.002050.0035.002249.0034.802500.0036.00?例：22例胎儿的身长，头围，体重和胎儿的受精周龄的测量数据如表5.4所示，建立由前三个指标推测胎儿受精周龄的回归方程。

5.2多重共线性问题岭回归（Ridgeestimate）???

5.2多重共线性问题K值的选择k0.010.42397-0.274350.006530.020.29810-0.058070.006110.030.254840.031160.005790.040.234630.081740.005540.100.206930.191490.004620.200.201390.234630.003960.400.193760.248660.00339

5.2多重共线性问题Lasso回归?

5.3多项式回归非线性回归——多项式回归（Polynomialregression）如某机构调查了全电气化住宅中7月份用电量y和住宅面积x之间的关系，用电量与住宅面积的散点图如图5-4所示。

非线性回归——多项式回归（Polynomialregression）?5.3多项式回归

非线性回归——多项式回归（Polynomialregression）分析sklearn自带的波士顿房价预测数据集中人口中低收入阶层比例（特征LSTAT）与房价（标记MEDV）的关系。5.3多项式回归

5.4Logistic回归Logistic回归模型是一种广义的线性回归分析模型，是在用线性回归的方法做分类任务。例如，临床中研究胃癌的影响因素，自变量为年龄、性别、饮食习惯、