整理：多元线性回归过程.ppt

第三章 回归分析预测法 第一部分：多元线性回归经典假设 异方差 随机误差项包含众多因素对因变里的影响，如果其中某一个或多个因素随 着自变量观侧值的变化而对因变量产生不同的影响，往往会导致异方差性。一 般情况下，用截面数据作样本时出现异方差性的可能较大，或者说一般都存在 异方差性。而当随机误差项存在异方差性时，它的方差往往与主要的自变量之 间存在某种联系。 序列自相关 一般说来，经济时间序列中自相关现象较为常见。这主要是由经济变量的滞后性带来的。许多经济变量都会产生滞后影响。 自相关的产生违背了回归的基本假设，若仍用OLS法估计，将导致参数估计值虽是无偏的，但不是有效的.显著性检验失效。预测失效等。 假设3. 随机误差项?与解释变量X之间不相关： Cov(Xi, ?i)=0 i=1,2, …,n 假设4. ?服从零均值、同方差、零协方差的正态分布 ?i~N(0, ?2 ) i=1,2, …,n 多重共线性 第二部分：多元线性回归经典假设检验 VIF如果大于5，则说明有多重共线性，这个值越大，共线性越严重； 解决方法：岭回归，主成份分析 变量间关系分析 计算相关系数 经验，DW值如果在2附近，不太可能有序列自相关 可以查表获得，其中m表示自变量的个数（包含常数项）m=3，因为，两个x，一个截距 实际应用中：存在多重共线性，需要消除多重共线性，不能直接建立多元线性回归方程。 序列自相关 计算结果为1.956，查表，结果发现不存在序列自相关 异方差检验 怀特检验 第三部分：多元线性回归建模过程 F检验：检验函数整体上是否可行，如果sig.列小于0.05，说明函数整体上看可行。 每个系数的检验：t检验 Sig列小等于0.05，说明对应行的变量通过检验，可接受，对应的系数，就是B列的值； Sig列只要有一个大于0.05，则说明这个函数还不能用，要改进 改进：逐个按照Sig从大到小，去掉Sig大于0.05行对应的变量，重新建模 这个过程叫做逐步回归，这个过程用spss自动完成 到此，如果检验都通过，说明：这个模型是可以用的 如果有多个都可以，那个更好 多元线性回归方程的评价 评价回归方程的优劣、好坏可用确定系数R2和剩余标准差Sy,x1,2..p 。 Sy,x1,2. p ＝SQRT（SS误差／n-p-1） 如用于预测，重要的是组外回代结果。 R检验 一般接近1的好 估计标准误，小一些好 确定系数： 简记为R2，即回归平方和SS回归与总离均差平方和SS总的比例。 R2 ＝ SS回归／ SS总 可用来定量评价在Y的总变异中，由P个X变量建立的线性回归方程所能解释的比例。 残差平方和，小的好 二、预测的评价标准 １、平均预测误差平方和（mean squared error，简记MSE）平均预测误差绝对值（mean absolute error,简记MAE）。 变量的MSE定义为： MSE= （2.66） 其中 ― 的预测值， ―实际值，T―时段数 变量的MAE定义如下： MAE= ，变量的定义同前 （2.67） 可以看到，MSE和MAE度量的是误差的绝对大小，只能通过与该变量平均值的比较来判断误差的大小，误差越大，说明模型的预测效果越不理想。 2、Theil不相等系数 其定义为： （2.68） 注意，U的分子就是MSE的平方根，而分母使得U总在0与1之间。如果U=0，则对所有的t， 完全拟合；如果U=1，则模型的预测能力最差。因此，Theil不等系数度量的是误差的相对大小。 Theil不等系数可以分解成如下有用的形式： 其中 分别是序列 和 的平均值和标准差， 是它们的相关系数，即： 定义不相等比例如下： 偏误比例 表示系统误差，因为它度量的是模拟序列与实际序列之间的偏离程度。 方差比例 表示的是模型中的变量重复其实际变化程度的能力。 协方差比例 度量的是非系统误差，即反映的是考虑了与平均值的离差之后剩下的误差。 理想的不相等比例的分布是 。 第五节：模型