经济计量分析讲义 第4章.doc

第4章 最小二乘估计的大样本性质和工具变量估计 LARGE-SAMPLE PROPERTIES OF THE LEAST SQUARES ESTIMATOR AND INSTRUMENTAL VARIABLES ESTIMATORS 4.1 介 绍 我们前面在正态扰动和独立样本假设下获得了参数估计和检验统计量的确切分布，这些性质和分布与样本数量无关。但是随机误差的正态性和样本之间的独立性是古典回归模型中两个比较强的假设，在一些面版数据情形或者时间序列情形下，这些性质不一定成立。为此，我们需要推广这两个基本限制。在本章中我们讨论最小二乘估计的大样本性质，即极限性质。 4.2 最小二乘估计的渐近性质(Asymptotic properties of LSE) 由于我们开始讨论大样本性质，因此不再要求误差的正态分布假设，而是对数据生成机制的不同假设给出分析。 4.2.1 最小二乘估计的相合性( Consistency of the least squares estimator) 假设的生成过程可以不加以指定的，即它可以是常数或者是由与误差独立的随机过程生成的。下面我们做出两个关键假设。 (1) ，是独立样本观测数据。 (2) 数据的大样本行为满足： ，是正定矩阵 由于最小二乘估计可以表示为： 则得到： 假设其中的解释变量与误差向量的相交项为： 因此有： 根据解释变量的外生性假设，可以得到： 因此有： 现在我们考虑方差，利用条件方差公式，可以得到： 上式中的第二项为零，而第一项为： 因此得到： 如果解释变量矩阵乘积的极限为正定矩阵的话，则上述方差收敛到零，即 因此，由于的均值为零、方差收敛到零，因此可以知道均方收敛到零(convergence in mean square to zero)，因此也可以推导出它按概率收敛到零。因此有： 因此有： 这说明最小二乘估计按照概率收敛到参数，它古典线性模型中的相合估计。如果时间序列当中包含时间的一次趋势、二次趋势等现象经常违背上述严格假设，此时需要推广一些条件，例如称为Grenander条件等。这是最小二乘估计仍然是相合估计。 4.2.2 最小二乘估计的渐近正态性(Asymptotic normality of the least squares estimator) 我们假设样本观测值之间是独立的，则可以表示下述公式： 连续函数的概率收敛定律满足，因此可以得到： 因此上述分布的极限分布与下述概率极限的分布相同： 这样一来，我们需要寻求下述变量的极限分布： ， 我们利用多元情形下的Linderberg-Feller中心极限定理来获得上述极限分布，这是个独立随机向量的和的极限问题，的均值为零，而方差矩阵为： 则的方差为： 在通常假设下，可以得到上述极限为： 利用中心极限定理可以得到： 总结可以得到： 定理4.1 独立观测数据的渐近分布 如果是具有均值零和方差的独立随机变量，并且解释变量数据满足Grenander条件，则有： 在具有应用中，需要利用参数的估计量替代分布中的未知参数。 4.2.3 的相合性和渐近方差的估计 为了完成最小二乘估计渐近性质的推导，我们需要得到最小二乘估计方差的渐近估计。类似地推导可以得到： 命题 最小二乘估计中，有： (1) (2) 4.2.4 最小二乘系数估计函数的渐近分布 在具有应用中，需要利用参数的估计量替代分布中的未知 4.2.5 渐近有效性 前面提出的Gause-Markov定理表明，在有限样本情形下最小二乘估计是最优的。为了建立最小二乘估计更为广泛范围内的优良性质，我们需要给出另外的评价标准。 定义4.1 渐近有效性(asymptotic efficiency) 在所有相合和渐近正态分布的估计量中，如果一个估计量的渐近方差在正定意义下是最小的，则称该估计量是渐近有效的。 如果最小二乘估计也是极大似然估计，则最小二乘估计是渐近有效的。 4.3 工具变量与二阶段最小二乘估计(instrumental variable and two stage least squares estimation) 到目前为止，与之间的不相关性假设起到了关键作用。但是，在一些重要的经济问题当中，这样的假设地不到满足，典型的情况是解释变量的度量当中存在误差，或者模型包含涉及到预期的动态过程。如果没有这样的假设，则上述关于最小二乘估计的相合性的证明就都不再成立了，因此对应的最小二乘估计就不再是吸引人的估计了，这时另外一种估计方法被称为工具变量法(instrumental variable，IV)，最小二乘估计只是特例，而工具变量方法则更为一般。 目前分析的问题是，在古典线性回归模型中，个解释变量可能与误差是相关的。现在假设存在个变量(至少与一样大)，与相关，但与不相关。此