第九章2 多元回归分析.ppt

残差序列的独立性分析： 分析残差序列是否存在后期值与前期值相关的现象。 D.W检验 样本奇异值的诊断： 样本奇异值是样本数据中那些远离均值的样本数据点。它们会对回归方程的拟合产生较大偏差影响。 一般认为，如果某样本点对应的标准化残差的值超出了-3—+3的范围，就可以判定该样本数据为奇异值。 Analyze-regression-statistics-case diagnostics 异方差诊断： 线性回归模型要求残差序列服从等方差的正态分布 一般通过绘制SRESID与因变量预测值的散点图或计算SRESID和因变量预测值间的相关系数。 如果残差序列和预测值的平方根成正比例变化，可以对因变量作开方处理；如果残差序列与预测值成比例变化，可以对因变量取对数；如果残差序列与预测值的平方成比例的变化，可以对因变量求倒数。 还可以用WLS法消除异方差。 七、预测和控制 所谓预测就是给定解释变量x样本外的某一特征值x0=(1，x10,x20,…,xp0),对因变量的值y0以及E(y0)进行估计。 1、y0的点预测： 2、y0的（1-α）的预测区间： 返回 第四节 逐步回归 多元线性回归中，如何选择自变量 如果自变量选的太少，则自变量对Y的决定系数太小，导致过大的偏差；一般来讲，选的自变量愈多，ESS愈大。 把与Y有关的自变量都选入是不可能的 多个自变量中若对Y影响不显著，反而会因自由度的减少而增大了误差。 自变量间的相关给回归方程的实际解释上造成麻烦，即多重共线性的影响。 最优方程的概念：要求进入回归方程的自变量都是显著的，未进入回归方程的自变量都是不显著的。回归方程的决定系数： 一、“最优”回归方程的选择 目标： 1.回归方程中包含尽量多的信息 2.回归方程中包含尽量少的变量 方法： 逐步剔除的回归分析方法 逐步引入的回归分析方法 “有进有出”的回归分析方法(逐步回归分析方法) 逐步剔除法（backward） 1、用全部变量建立一个回归方程 2、对每个变量进行检验，剔除偏回归平方和最小的变量。 3、对剩余变量再作回归，再检验…… 直至方程中没有可剔除的变量为止。 逐步引入法（forward） 1、将所有自变量分别与因变量建立一元线性回归方程，比较各自的回归平方和，将回归平方和最大的变量引入回归方程。 2、再分别将剩余变量与因变量y、及已引入的变量建立二元线性回归方程，再比较回归平方和，选择回归平方和最大的变量引入方程。 直至方程检验不显著为止。 “逐步剔除”法与“逐步引入”法都有明显的不足之处: (1) “逐步剔除”法计算量大,且一旦某个自变量被剔除,没有机会重新进入方程. (2)“逐步引入”法一旦引入某个变量,就不再改变. 逐步回归法（stepwise） 1、将所有自变量分别与y建立一元线性回归方程，将偏回归平方和最大及通过显著性检验的变量引入方程。 2、将剩余变量再分别与y、及已引入方程的变量建立二元回归方程，并检验方程若有不显著变量，剔除。 再检验外边变量，若有显著的，引入最显著的那个变量， 检验方程里的已引入变量，若有不显著的，剔出 …… 直到再无自变量引入，也无自变量剔出 二、偏回归平方和 设s回是p个自变量x1,x2,…xp所引起的回归平方和，si回是p-1个变量 x1,x2,……x i-1,x i+1,…xp所引起的回归平方和，那么它们的差 Qi=s回-s i回，Qi称为自变量xi的偏回归平方和 在回归计算的某一步需要引进的变量应该是所有未进入回归方程的变量中最显著的一个，也就是偏回归平方和最大的一个。 三、逐步回归分析方法的应用 如果要在回归方程中剔除不显著的变量，则首先应从已引入的变量中剔除对因变量贡献最小的，也就是偏回归平方和最小的一个变量。 设模型中已引入L个自变量， xi的偏回归平方和为Qi(L),再假设偏回归平方和最小的变量为xk,作检验为： 直到 F引 F引α 且 F踢 F踢α 则逐步回归结束 The End 第九章  回归问题 第一节 一元线性回归 第二节 多元线性回归 第三节 可化为多元线性回归的问题 第四节 曲线回归 §2 多元回归分析 一元线性回归只是回归分析中的一种特例。 若某公司管理人员要预测来年该公司的销售额y时，研究认为影响销售额的因素不只是广告宣传费x1,还有消费人群个人可支配收入x2,价格x3,研究与发展费用x4,各种投资x5,销售费用x6. ————多元回归问题。 Yi= b0+b1x1i+b2x2i+…+bpxpi+ξi Y1=b0+b1x11+b2x21+…+bpxp1+ ξ1 Y2=b0+b1x12+b2x22+…+bpxp2+ ξ2