__异方差与自相关广义线性模型.doc

第三章 异方差与自相关广义线性模型 本章继续讨论线性模型 Y=Xβ+ε, E (ε)=0 （3.0.1） 所不同在于以前的关于误差方差的假定是 Var(ε)=σ2In （3.0.2） 这一章逐次推广讨论。第一节讨论异方差的存在与检验，尤其是在经济模型资料中的存在与影响，第二节讨论的是 已知 （3.0.3） 未知 （3.0.4） ，未知 （3.0.5） 这些都是误差方差为对角阵的模型。 第三节讨论自相关线性模型。首先讨论的是残差一阶自回归线性模型，它的残差满足 （3.0.6） （3.0.7） 此时残差εi的方差虽不为对角阵，但只含一个参数。接着我们介绍自回归条件异方差(ARCH)模型，它的误差假设是 （3.0.8） （3.0.9） 因为模型计算中用到了广义矩估计方法(GMM)，我们在第四节又介绍了GMM。 第五节讨论的是 未知，M已知 （3.0.10） 第六节讨论的是 未知，M已知 （3.0.11） 所讨论的内容还是各种回归模型、算法及性质。 第一节 异方差的存在与检验 一、异方差的存在与影响 前面介绍的线性回归模型，都是假定随机误差项εi独立同分布，有相同的方差 (Homoscedasticity) （3.1.1） 但是实际抽样很难保证这一点。经济对象千差万别，可以按不同标准划分成不同的群体。这些群体间的差别导致样本方差不一致，于是就有所谓异方差(Heteroscedasticity): （3.1.2） 反映在散点图上，如下图可以明显看出样本方差与点 (Xi, Yi)有关，随着样本数值增大而增大。 图3.1.1.1 由于样本方差的差异，原来最小二乘估计的一些优良性质不再存在。如在一元线性回归 （3.1.3） 我们知道最小二乘估计 （3.1.4） （3.1.5） 于是 （3.1.6） （3.1.7） 现在Var(Yi)不是常量，我们就无法证明是最小方差线性无偏估计。显著性检验也成了问题。原来构造的F统计量是分子分母都含有未知参数σ2, 可以分别提取公因式再约去，现在是异方差，按原来方法构造的F统计量里的未知参数无法直接约去，预测精度也无法保证。差不多原来推导的各种统计方法、统计性质由于基础动摇而都需重新考虑。 因此我们需要将一般线性回归模型推广。 不过在推广之前，首先要解决异方差的检验问题。 二、异方差的检验 异方差的检验一般需要比较大的样本，一般都是作所谓残差分析。 图3.1.2.1 最简单直观的方法是将残差平方 （3.1.8） 与画在一张图上，大致可以看出残差是否发生改变。图3.1.2.1除了第1个图外，其余图像都指示有异方差。 还有一些方法对异方差问题作统计检验。 1. Park检验 R. E. Park建议将看作解释变量X的函数，并使用函数形式为 （3.1.9） 或取对数 其中是随机分布项。因为未知，就用残差项的平方代替 对上式作回归，并作假设检验。若β=0成立，则认为异方差不成立；若β≠0成立，则认为异方差成立。 Park检验要作两次最小二乘，第一次是对原始资料对(Xi, Yi), 获得；第二次是对()。从某种意义上讲，是用第二次最小二乘去否定第一次最小二乘，用第二次假设去否定第一次假设。 类似的还有Glejser检验，不过使用的回归方程不一样。 2. Breusch Pagan Godfrey (BPG)检验 这里考虑的是多元问题，基本思想差不多。设原始资料满足模型 （3.1.10） 先用普通最小二乘获得，作 （3.1.11） 注意这里不是。然后定义变量 （3.1.12） 用pi与Xji去作回归 （3.1.13） 而获得回归平方和SES, 定义统计量 （3.1.14） 可以证明在正态假设下，当样本容量充分大时，有渐近分布： （3.1.15） 于是对给定显著性水平，当超过分布的临界值时，就拒绝同方差假设，接受异方差假设。 算例3.1.2 消费-收入异方差资料的BPG检验 在文献［1］里，收有一组消费(Y)与收入(X)的资料，共60对，要求作异方差检验。 表3.1.2 消费 (Y)，收入 (X) 资料 Y X Y X Y X 55. 80. 152. 220. 95. 140. 65. 100. 144. 210. 108. 145. 70. 85. 175. 245. 113. 150. 80. 110. 180. 260. 110. 1