4 经典线性回归模型1.ppt

第四章 经典线性回归模型(I) Classical Linear Regression Model (I) 经典线性回归模型 假设 估计（b??, s2??2） OLS估计的数值性质 (几何解释) OLS估计的统计性质(小样本，大样本） 预测（均值E(Y|X), 个值Y） 拟合优度 经典正态回归 假设 b的抽样分布（正态分布，t分布） 置信区间 假设检验（单参数，多参数） §4.1 经典线性回归模型Classical Linear Regression Models 一、经典回归模型 Classical Regression Model 经典回归模型(classical regression model)建立在如下假设之上： 假设1(linearity): Yt=?0+?1Xt1+…+?kXtk+?t =Xt?+?t (t=1,2,…n) 或 Y=X?+? 其中，?=(?0, ?1,…,?k)’, ?=(?1,?2,…,?n)’ 假设2（strict Exogeneity）: E(?t|X)=E(?t|X1,X2,…Xn)=0, (t=1,2,…n) (4) 计量经济学中，关于严格外生性有其他的定义。如定义为?t独立于X，或X是非随机的。这一定义排除了条件异方差性。而我们这里的假设2是允许存在条件异方差性的。 注意： (1) X’X非奇异意味着X满秩于K=k+1。因此应有K=k+1≤n； (2)本假设排除了解释变量间的多重共线性(multicollinearity) (3) (1/n)X’X中的元素为(1/n)?t=1nXtiXtj，QXX的存在意味着当n?∞时，Plim (1/n)?t=1nXtiXtj存在（LLN），即有新信息进入X，即Xt不能老是重复相同的值。 假设4（Spherical error variance） (a) [conditional homoskedasticity]: E(?t2|X)=?20, t=1,2,…,n (b) [conditional serial uncorrelatedness]: E(?t?j|X)=0, t, j=1,2,…,n (3) 假设4意味着存在非条件同方差性： var(?t)=?2 类似地， Cov(?t, ?j)=0 二、参数?的估计 Estimation of ? 由假设1与假设2知： E(Y|X)=?0+?1X1+…+?kXk=X? 其中，X=(1, X1, …,Xk) 即线性模型Y=X?+?关于E(Y|X) 正确设定。 由类比法，对样本回归模型 Yt=Xtb+et t=1,2,…,n 其中，Xt=(1, Xt1, …,Xtk), b=(b0, b1, …,bk)’ 需求解极值问题 min (1/n)?(et)2 一些有用的等式 (1) X’e=0 (2) b ??=(X’X)-1X’? 因为 b=(X’X)-1X’Y=(X’X)-1X’(X?+?)=?+(X’X)-1X’? (3) 定义n?n方阵： PX=X(X’X)-1X’ , MX=In?PX 则 PX=PX’ ， MX=MX’ PX2=PX， MX2=MX 且 PXX=X, MXX=On?(k+1) (4) e=MXY=MX? SSR(b)=e’e=Y’MXY=?’MX? 三、线性回归的几何解释The Geometry of Linear Regression Y=X?+? 各bj 为标量，Xb?e，即 Xb, e=(Xb)’e=b’X’e=0 右图表明：记b为OLS估计，则 ||Y||2=||Xb||2+||e||2 或 Y’Y=b’X’Xb+e’e 记PX为Y关于?(X)的投影矩阵(proje