第四章多重共线性剖析.ppt

* 山东财经大学统计学院计量经济教研室 第*页 ln(x1/x2)为解释变量，建立如下对数回归模型: 从而克服了x1与x2的相关性。 另外，也可以采用差分法，将原模型变形为差分模型 形式进而减低多重共线性。因为一般而言，差分后变量 之间的相关性要比差分前要弱得多，所以差分后的模型 可以有效地降低出现共线性的可能性，此时可直接估计 差分方程。但因为差分常常会丢失一些信息，差分模型 的误差项可能是序列相关的，会违背经典线性回归模型 的相关假设，在具体运用时要慎重。 * 山东财经大学统计学院计量经济教研室 第*页 七、逐步回归法 为了选出所有系数具有显著性而且相互之间不存在 严重多重共线性的自变量进入回归方程，可以采用对所 有子集回归方程进行“全局比较”，寻找“最优子集回归”。 在实际应用中，我们经常使用的是一种简化的方法 ，即“局部比较”方法，包括逐步剔除法、逐步添加法和 逐步回归法。局部比较”方法得到的回归方程不一定是“ 最优”的，而只是较好的。但由于需要的计算量远远小于 “全局比较”方法，这些方法（尤其是逐步回归法）所以还 是得到了广泛应用。 * 山东财经大学统计学院计量经济教研室 第*页 1.逐步剔除法（后退法，Backward Regression）。 先建立一个包括所有可能自变量的回归方程，然后逐个 剔除作用不显著的自变量，直到方程中所包括的自变量 都有显著作用为止。这种方法的缺点是，先剔除的变量 不一定总是不显著的，在剔除别的变量后，其作用有可 能变得显著，但整个过程是“只出不进”，最终有可能漏 掉起重要作用的变量； 2.逐步添加法（前进法，Forward Regression)。先从一个 自变量开始，再将显著变量逐个引入回归方程。这个方 法有一个问题是，先期引入的自变量，随着其他变量的 引人，由于多重共线性其作用可能变得不显著了，但整 个过程是“只进不出”，最终会引入作用不显著的自变量； * 山东财经大学统计学院计量经济教研室 第*页 3.逐步回归法（Stepwise Regression）。逐步回归可以克 服逐步剔除法和逐步添加法的缺陷。其基本思想是“有进 有出”，根据各个自变量重要性的大小，每次选一个重要 自变量进入回归方程，同时将不显著的变量剔除掉。 这种方法要求首先估计被解释变量对每一个解释变量的 回归方程，这些回归方程叫做基本回归方程。对每一个 基本回归方程进行统计检验，并根据经济理论分析这些 回归方程，从中选出最合适的基本回归方程，然后再逐 一加入其它的解释变量，重新再作回归。根据这个新加 的解释变量的边际贡献（样本决定系数的增加量）和标 准差，并考察对每个回归系数的影响，作如下的分析判 断： * 山东财经大学统计学院计量经济教研室 第*页 第一，如果新加进的解释变量改进了R2，并且其它回归系数在统计上仍是显著的，那么，就可以认为新加进去的解释变量是有用的，作为模型中的解释变量予以保留。 第二，如果加进去的解释变量未能改进R2，对其它回归系数也没有影响，则不作为解释变量。 第三、如果新加进的解释变量不仅改进了R2，并且主要是显著地影响了回归系数的符号或数值，致使某些回归系数达到不能接受的地步，则可断言产生了严重的多重共线性。 这个新加进的变量在经济理论上可能十分重要，但由 于它与其它解释变量存在线性相关关系，使得普通最小 * 山东财经大学统计学院计量经济教研室 第*页 二乘法估计失效。但舍弃的结果往往会不利于全面地、 尽可能精确地描述经济现象，而且还可能会带来随机项 与模型中的解释变量相关。这时再进行进一步检验，若 相关的两个解释变量中一个可由另一个来解释，则可以 略去其中对因变量影响较小的一个，保留影响较大的一 个。 如此继续下去。一般地说，第t步是在未选的自变量 中，选一个自变量与其他已经选择的自变量一起所组 成t元回归方程，并使该方程有更大的 个选入回归方程的自变量是真正重要的，需要对每一个 进入回归方程的自变量进行显著性检验。 。为保证每一 通过“有进有出”的调整，直到回归方程中的自变量 都不能剔除，而又没有新的自变量引入回归方程为止。 * 山东财经大学统计学院计量经济教研室 第*页 〔例4.3〕表4-4的数据，用逐步回归法筛选解释变量 1.用每个解释变量分别对被解释变量做简单回归，以样本决定系数为标准确定解释变量的重要程度，为解释变量排序。 　 = - 11.932＋19.883 x1 (2.052) R2 = 0.931 = - 310.138＋26.554 x2