计量经济学王少平杨继生欧阳志刚第6章节多元线性回归的向量表述.ppt

《计量经济学》，高教出版社，王少平、杨继生、欧阳志刚等编著。 第6章 多元线性回归的向量表述 多元线性回归模型的一般形式 在实际经济问题中，一个变量往往受到多个原因变量的影响，在线性回归模型中则表现为有多个解释变量，这样的模型被称为多元线性回归模型。 模型的一般形式如下： 第6章 多元线性回归的向量表述 多元线性回归模型的四种向量表述 真实的回归模型： 估计的回归模型： 真实的回归线： 样本回归线： 随机误差项的方差 的估计 因为残差可以表示为： 矩阵 是对称的幂等矩阵，幂等矩阵是指自身相乘后仍等于自身的矩阵，即 。 因此残差平方和可以表示为： 两边求期望得： 随机误差项的方差 的估计 OLS估计量 的方差-协方差估计 因为： 则： 一、OLS估计量的有限样本性质 在满足基本假设的情况下，其结构参数? 的普通最小二乘估计(OLS)具有：线性性、无偏性、有效性。同时，随着样本容量增加，参数估计量具有：一致性、渐近正态性。 1、线性性 其中,C=(X’X)-1 X’ 为一仅与固定的X有关的行向量。 2、无偏性 这里利用了假设: E(X’?)=0 二、OLS估计量的渐近性质 1.OLS估计量是一致估计量 一致估计量是指对于回归参数的真实值 ，样本容量为N时的OLS估计量记为 ，随着样本容量N的逐步增大， 即： 2.OLS估计量的正态性 正态性是指，在大样本下，OLS估计量的分布收敛到正态分布。设 ，则： 补充：样本容量问题 6.4 LR、Wald和LM检验 1.似然比(LR)检验 似然比检验是三种检验中最简单的，其原假设和备选假设分别为： HA：原假设的约束条件中至少有一个不成立 LR检验统计量等于似然函数的无约束极大值和有约束极大值之差的两倍，即： 其中 分别表示模型中参数向量的无约束和有约束的极大似然估计结果。LR检验的基本思想是：如果约束条件为真，则无约束和有约束的似然函数极大值不应有显著的差异，所以，如果二者存在较大差异则认为约束条件不成立。 在大样本下： q 表示约束条件的个数。 LR检验的判别规则： 如果 ，则拒绝原假设；反之不能拒绝原假设。 2.Wald检验 LR检验既要估计约束条件下的极大似然函数值，又要估计无约束下的极大似然函数值，但当约束模型的估计很困难时，检验就不适用了。而Wald检验则只需要对无约束模型进行极大似然估计，所以比LR检验具有一定的优势。 Wald检验的原假设和备择假设为： HA：原假设的约束条件中至少有一个不成立。 如果约束条件是成立的，我们用参数估计值 来代替参数 ， 应该很接近0；而如果约束条件不成立， 将显著地偏离0。因此构造以下统计量： 在原假设成立的条件下，在大样本下Wald统计量具有以下渐近分布： q为约束条件的个数。 Wald检验的判别规则： 如果 ，则拒绝原假设；反之就不能拒绝原假设。 3.LM检验 当无约束模型的估计较容易时，采用Wald检验较方便，但是当无约束模型的估计很难或根本不可能时，只能采用LM检验，LM检验又称为得分检验(Score Test)。 LM检验的基本方法是首先给出无约束的对数似然函数： 对于无约束极大似然估计量 必然有： j=1,2,…,k 若约束条件成立，则施加约束条件下极大似然估计量 应与不施加约束条件下的极大似然估计量 非常接近。也就是说，如果约束条件 成立， 应近似为零。拉格朗日乘子检验的原理是：如果 显著不为零，则说明约束条件不成立。 LM检验统计量被定义为： 其中： 为信息矩阵。在约束条件成立的条件下，LM统计量渐近地服从： q也是约束条件个数，判别规则与前面两种检验方法相同。 对三个检验统计量的说明