计量经济学讲义第六讲.docxVIP

1

浙江工商大学金融学院姚耀军讲义系列

第六讲多重共线

一、FWL定理及其应用

考虑模型：

yi=a+b1x1i+b2x2i+b3x3i+εi（1）

1假如我们只关注，则通过如下步骤可以获得之。

1

1第1步：把x对其他解释变量进行回归（请注意，截距所对应的解释变量为1），即有：

1

x1i=+x2i+x3i+i（2）

第2步：把y也对（2）中的解释变量进行回归，即有：

yi=+x2i+x3i+（3）

3步：把w对v

3步：把w对v进行回归（不含截距，当然你可以包含截距，但你会发现，截距

的估计结果是零，这是因为与其均值都为零），即有模型：

（4）

则有可以验证且残差i等于初始的残差。此

即著名的FWL定理（Frisch-Waugh-Lovelltheorem）。关于FWL定理的一个简单证明见附录1。思考题：

利用关于“偏导数”的直觉，你能够理解吗？

考察，把=yi-x2i-x3i代入，现在分子

是：

2

浙江工商大学金融学院姚耀军讲义系列

应该注意到，在进行第一步回归时，OLS法保证了

Σi=Σix2i=Σix3i=0

因此

显然，如果把y对直接进行无截距回归：

（5）

我们也可以得到：

因此，如果只关注如何获得，我们可以把FWL定理中第二步与第三步合并为把y对

直接进行无截距回归。思考题：

i与相等吗？提示：

i

注意到，Σi2是（2）中的残差平方和，对（2），有：

TSSESSRSS

3

浙江工商大学金融学院姚耀军讲义系列

其中R)是根据（2）计算的决定系数。

练习：

对yi=a+b1x1i+b2x2i+εi进行OLS估计，利用前述知识证明：

在这里，rx1x2、ryx2分别是x2与x1、y的样本相关系数。

笔记：

在上述练习题中，当1x2=0时，则现在考虑另外一个回归模型：yi=x1i+，在OLS法下，有：

总结：尽管yi=a+b1x1i+b2x2i+εi与yi=β0+β1x1i+ei是不同的

模型，但当x2与x1样本不相关时，在OLS法下，=1。

4

浙江工商大学金融学院姚耀军讲义系列

1的方差是多少呢？

1

OLS法保证了Σi=Σx2ii=Σx3ii=0，因此

由于我们假定x1i是非随机的，进而i也是非随机的，因此在εi是同方差且序列无关的假

定下，有：

其中

在上式中通常被称为方差膨胀因子，而1-R被称为容忍

(2)

度。另外，由于2为x1的样本方差Var(x1)，因此，

就上述例子，根据（6）式，初步的总结是，的方差（或者标准差sd()）：

（1）随着样本容量的增加而减少；

1（2）随着x样本方差的增加而减少；

1

（3）随着R)增加而增加；（4）随着误差项方差的增加而增加；

5

浙江工商大学金融学院姚耀军讲义系列

笔记：

样本容量越大则信息越多，x1样本方差越大意味着样本覆盖面广，故信息越

多。信息越多将提高估计精度。R)越大表示解释变量所蕴含信息的重叠度高，

因此有效信息较少，故降低估计精度。误差项方差大意味着估计时所面临的不确定性程度高，因此估计精度下降。

δ2一般是未知的，需要估计。的标准误为：

其中因此，

考虑初始模型（1），显然有：

Σi2=[Σ(yi-y)2](1-R2)=NVar(y)(1-R2)

因此，有：

特别要注意，se()是随机的（在（7）式中，R2是随机的，其随机性来源于y的随机性）。既然se()是随机的，那么我们再也不能像对（6）式那样总结了！然而在大样

本下，由于标准误在概率上收敛于标准差，故此时有关标准差的一些结论可以应用于标准误。

6

浙江工商大学金融学院姚耀军讲义系列

思考题：

根据特定的样本，我们可以计算出一个具体的标准误的值，公式仍然是（7）式，但此

时它是非随机的。考虑此种情况。如果在模型（1）上再增添一个解释变量x4，显然R)

一般是增加的，因此将增加的标准差，但一定会增加的标准误吗？

二、完全共线与多重共线

针对上述例子，如果R=1，即x1被1,x2,x3完全拟合，换句话说，存在：

λ1x1+λ2●1+λ3x2+λ4x3=0

其中λ1不为零。那么根据公式：

有：

思考题：

为什么i=0？

现在我们把