四极大似然估计和广义矩估计.ppt

第四章 极大似然估计和广义矩估计 （Maximum Likelihood method and Generalized Method of Moments ） 除普通最小二乘法（OLS）外，极大似然估计（MLE）和广义矩估计（GMM）也是计量经济学中重要的估计方法。 极大似然估计法和广义矩估计法适用于大样本条件下参数的估计，它们在大样本条件下显示了优良的性质。 本章主要介绍极大似然法和广义矩方法以及基于极大似然估计的似然比（LR）检验、沃尔德（W）检验和拉格朗日乘数（LM）检验。 通常情况下， 关于 可微，这时 可从方程 解得。因为 与 在同一点处取到极值， 的 极大似然估计值 通常从方程 解得，式中 称为对数似然函数。 为了后面内容表述方便起见，我们将对数似然函数 的一阶导数向量表示为 称为score向量或梯度向量， 的极大似然估计过求解 得到，因此 称为似然方程。 根据以上假设可知： 因此，的概率密度函数为： 由于独立同分布，因此，联合概率密度函数，即似 然函数为： 这表明 ， 是一个有偏估计量 不难看出，当样本容量趋向无穷时， 因而 是一个渐近无偏估计量。 因此，在随机扰动项满足标准假设条件的情况下，的极大似然估计量与普通最小二乘估计量相同，方差 的ML估计量与OLS估计量则不同。 是无偏的，而 是有偏的，但在大样本下渐近无偏。 将这些极大似然估计量代入(4.17)，就得到 lnL 的极大值： 为了得到 的无偏估计量的Cramèr-Rao下界，需要先计算信息矩阵 信息矩阵是按 分块对角的，这是扰动项为正态分布的回归模型的一个重要性质，意味着Cramèr-Rao下界为：值得注意的是， 达到了Cramèr-Rao下界。在正态性的假设下， 是最小方差无偏估计量（MVU），这表明， 在所有无偏估计量而不仅仅是线性无偏估计量中方差最小。 第二节 似然比检验、沃尔德检验和拉格朗日乘数检验 似然比检验（Likelihood Ratio Test, LR） 瓦尔德检验（Wald Test, W） 拉格朗日乘数检验（Lagrange Multiplier Test, LM） 是三种基于极大似然法的大样本检验方法。 我们在第二章中介绍的F检验适用于检验CLR模型的线性约束条件。 如果施加于模型的约束是非线性的，模型存在参数非线性，或者扰动项的分布不是正态的，在这些情况下，F检验就不再适用，通常需要采用LR、 W和LM这三个检验方法中的一个来检验约束条件是否成立。 这三个检验方法是渐近等价的，与这些检验相联系的统计量的小样本分布是未知的，但它们每一个都渐近地服从自由度为约束条件个数的 分布 一、三种检验的基本原理 这三个检验统计量基于三个不同的原理，我们用下图来解释之。 图中，对数似然函数（ ）由上面的那条曲线表示，它是要估计的参数 的函数。 是使 达到极大的 值。假设要检验的约束条件是， 这一条件在 这个值得到满足，从图上看，这个点是函数 与横轴 的交点。 下面对这三个检验所依据的原理作出解释。 1. LR检验 如果约束条件为真，则在施加约束条件的情况下， 的极大值 不应当显著小于 的无约束极大值 。因此，LR检验要检验的是（ - ）是否显著异于0。 2. W检验 如果约束条件 为真，则 不应当显著异于0，其中 是 的无约束极大似然估计值。因此，W检验要检验的是 是否显著异于0。 3. LM