《10.线性回归.ppt

线性回归分析 第一节 一元线性回归模型 第二节 多元线性回归模型 第三节 回归方程统计检验 第四节 多重共线性问题 第五节 虚拟变量的应用 第六节 统计软件在线性回归分析中的应用 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 第一节 一元线性回归模型 一元线性回归模型的由来： 假设在总体中满足Y=A+BX+ε，Y为随机变量，X为确定变量； 将随机样本的观测数据代入方程中，则有：yi = a+bxi+ei，ei为样本随机误差项。 y’=a+bx。参数a、b用最小平方法（Ordinary Least Squares）求得，即所有观测值与估计值之间的误差平方和最小。 一元线性回归模型y’=a+bx的作用： 简化x、y之间的关系，以直线作为简化方式； 用x来预测y的变化，以直线作为预测的准则； 研究x在多大程度上解释y的变化。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 一元线性回归系数 一元回归系数的含义： a是直线在y轴上的截距，代表y的基础水平； b是直线的斜率，代表x变化一个单位时，y的平均变化 ； 变量变换： 由于直线关系是最简单的（叠加）关系，所以，尽量用直线作为预测或估计的准则； 当因变量y与自变量x是非线性关系时，可以通过变量变换使经过变换的新变量对于参数是线性的。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 关于最小平方法 一元线性回归模型的估计方法：最小平方法； 最小平方法的统计性质： 回归方程的拟合误差总和等于0，即Σei ＝0； 误差平方和最小，即在所有拟合散点的直线中，根据最小平方法原则得到的回归直线使n个散点（yi，xi）沿y轴方向到直线的距离平方和最小； y’的平均值等于y的平均值； x与e相互独立，即x与e的协方差等于0，Cov(x,e)=[ Σ(xi-x)（ei）]/n =0; y’与e相互独立，即y’与e的协方差等于0； 直线通过n个散点的重心点，即x与y的均值确定的点 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 一元线性回归模型的假设 模型的假设条件（assumption）。 统计理论已经证明，在满足一定的假设条件下，样本数据的最小平方估计是总体参数的最佳线性无偏估计。 在推断总体参数或进行统计检验时，必须考虑总体回归模型中的随机误差项ε的分布特征 。 对总体随机误差ε的假设： 高斯假设：零均值性；等方差性；误差之间独立；误差项与自变量相互独立； 误差的正态分布性； 违反假设可能产生的影响。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 第二节 多元线性回归模型 含义和作用 分析一个随机变量与多个变量之间线性关系的最常用的统计方法。 它用变量的观察数据拟合所关注的变量，并以线性关系式表达所关注的变量，并且回答这种表达的解释程度有多高； 检验影响变量的显著程度和比较它们的作用大小，进而用两个或多个变量的变化解释和预测另一个变量的变化。 因变量（dependent variable）和自变量（independent variable）的确定是建立回归模型的主要任务。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 多元线性回归方程 多元线性回归方程的由来： Y=B0+B1X1+B2X2+…+BkXk+ε，其中Y为可观察的随机变量，X1、X2，…Xk 为可观察的一般变量，B0，B1，B2，…Bk为待定模型参数，其中B0 为截距，