第03章多元线性回归模型1剖析.doc

第3章 多元线性回归模型 §3.1 模型的建立及假设条件 1． 基本概念 1）多元线性回归模型： Yi = (0 +(1Xi1 + (2Xi2 +…+ (k- 1Xi k -1 + ui , (3.1) 其中Yi是被解释变量（因变量），Xi j是解释变量（自变量），ui是随机误差项，(i, i = 0, 1, … , k - 1是回归参数（通常未知）。 对经济问题的实际意义：Yi与Xi j存在线性关系，Xi j, j = 0, 1, … , k - 1, 是Yi的重要解释变量。ui代表众多影响Yi变化的微小因素。使Yi的变化偏离了E( Yi) = (0 +(1Xi1 + (2Xi2 +…+ (k- 1Xi k -1 决定的k维空间平面。 当给定一个样本（Yi , Xi1, Xi2 ,…, Xi k -1）, i = 1, 2, …, I时, 上述模型表示为 Y1 = (0 +(1X11 + (2X12 +…+ (k- 1X1 k -1 + u1, Y2 = (0 +(1X21 + (2X22 +…+ (k- 1X2 k -1 + u2, ……….. YI = (0 +(1X I 1 + (2X I 2 +…+ (k- 1X I k -1 + uI, (3.2) 经济意义：Xi j是Yi的重要解释变量。代数意义：Yi与Xi j存在线性关系。几何意义：Yi表示一个多维平面。 2）矩阵形式 此时Yi与X i i已知，(j与 ui未知。 (3.3) Y = X ( + u , (3.4) 为保证得到最优估计量，回归模型（1.4）应满足如下假定条件。 2．假定条件 (1) 随机误差项ui是非自相关的，每一误差项都满足均值为零，方差 (2相同且为有限值，即 　　E(u) = 0 = , (2) 对于解释变量的所有观察值，随即误差项具有相同的方差。 Var (u) = E( ) = ( 2I = ( 2 (3) 随机误差项之间彼此不相关 Cov(ui, uj) = E(ui, uj) = 0, i ( j, i,j=1,2,… (4) 解释变量是确定变量，解释变量与误差项相互独立，即 E(X u) = 0 (5) 解释变量之间不存在精确的线性关系。 　　rank(X X) = rank(X) = k+1n 其中rk(()表示矩阵的秩。 (6) 随机误差项服从正态分布，ui ( N (0, (u( )。 §3.2 最小二乘法 1.最小二乘 (OLS) 法的原理是求残差（误差项的估计值）平方和最小。代数上是求极值问题。 minS = (Y - X) (Y - X) = Y Y -X Y - Y X +X X = Y Y - 2X Y + X X (3.5) 因为Y X是一个标量，所以有Y X = X Y。(3.5) 的一阶条件为： = - 2X Y + 2X X= 0 (3.6) 化简得 X Y = X X 因为 (X X) 是一个非退化矩阵（见假定⑶），所以有 = (X X)-1 X Y （3.7） 因为X的元素是非随机的，(X X) -1X是一个常数矩阵，则是Y的线性组合，为线性估计量。 求出，估计的回归模型写为 Y = X+ (3.9) 其中= ( … ) 是 ( 的估计值列向量，= (Y - X) 称为残差列向量。因为 = Y - X= Y - X (X X)-1X Y = [I - X (X X)-1 X ]Y (3.10) 所以也是Y的线性组合。的期望和方差是 E() = E[(X X)-1 X Y ] = E[(X X)-1X (X( + u)] = ( + (X X)-1X E(u) = ( (3.11) Var() = E[(–() (–()]= E[(X X)-1X u u X (X X)-1] = E[(X X)-1X ( 2I X (X X)-1] = ( 2 (X X)-1 (3.12) 高斯—马尔可夫定理：若前述假定条件成立，OLS估计量是最佳线性无偏估计量。具有无偏性。具有最小方差特性。具有一致性，渐近无偏性和渐近有效性。 3. OLS估计量的分布 若u ( N (0, ( (I ) ，则每个ui都服从正态分布。于是有 Y ( N (X(, ( (I ) (3.13) 因也是u