[经济学]3计量经济学第三讲-双变量线性回归模型.ppt

目标：在给定X和Y的观测值(X1,Y1), (X2,Y2), …, (Xn,Yn)的情况下，求出 中?和?的估计值 和 ，使得拟合的直线为“最佳”。 为此，必须理解和认识总体回归模型和样本回归模型的区别和关系。 假设总体真正的回归直线是： 它来自于总体回归模型： 显然，上面的模型是想象的、理论上的，实际上是找不到的，它们实际上就是所谓客观规律。 设拟合的直线方程为： 它来自于样本的回归模型： 式中， 和 为参数（系数）估计值； 为因变量的估计值（或预测值）。任何(Xt, )点均落在估计直线上，而观测点（Xt,Yt）则不一定落在该直线上。 将拟合方程代入，得 ，t = 1, 2, …, n （3.6） 我们的目标是使拟合出来的直线在某种意义上是“最佳”的。直观地看，也就是要求估计直线尽可能地靠近各观测点，这意味着使各残差 尽可能地小。 然而，∑et显然不是一个理想的测度。理想的测度是残差平方和 。最小二乘法就是选择一条直线，使其残差平方和达到最小值的方法。即 选择 和 ，使得 达到最小值。 (choose and to minimize ) 为求使上式最小的 和 ，可将∑et2看作是 和 的函数，则其关于 和 的一阶偏导数必须为零，即 根据前面的结果，我们有 , 其中 到此样本回归模型的参数就估计出来了。对于这个结果需要注意的是：这里的 和 都是Y的函数，因而是随机变量。因此，从理论上说，随机变量是一个概率分布，而不是一个或几个固定的值。 考虑Yt = ? + ?Xt + ut; t = 1, 2, …, n的两种特殊情况 Yt = ? + ut; t = 1, 2, …, n 此时，残差平方和 。 令 整理，得 ， 故有 。 考虑Yt = ? + ?Xt + ut; t = 1, 2, …, n的两种特殊情况 2. Yt = ?Xt + ut; t = 1, 2, …, n 此时，残差平方和 。 令 整理，得 ， 故有 。 式（3.14）和式（3.15）定义了最小二乘估计量 和 。从具体的一组观测值用这两个公式便可求出截距和斜率的一对估计值。 一般而言，好的估计量所产生的估计值将相当接近参数的真实值。 和 的均值 估计值的线性性质 所谓线性是指估计值 和 是观测值的线性函数。 估计值的无偏性 所谓无偏性是指估计值 ， 的期望值等于总体回归模型参数 ， 的值。亦即 ， 。 证明： 通过计算可知 在上面的讨论中，我们视∑et2为目标函数，即通过选择 和 使得∑et2最小。但∑et2实际上是拟合劣度（‘badness’ of fit）的测度，且其大小取决于被解释变量Y的单位,而我们需要的则是与被解释变量Y单位无关（unit-free）的拟合优度（goodness of fit）的测度。 拟合优度（goodness of fit）：是指两变量间（线性）关系强度的测度。对于任意两个变量的一组观测值，我们总是可以运用最小二乘法得到一条直线，问题是该直线能否较好地拟合所给定的观测值，这就是拟合优度的问题。 让我们来考察一下Y的变差的组成情况。设Y的N个观测值，Y的总变差的一个测度是 ，Y的变差 中有一部分是可以由X的取值变动所解释的。还有一部分是不能由X所解释的变差，如图3－4所示。 [The variation of Y is divided into two parts: the first accounted for by the regression equation and the second associated with the unexplained portion (the error term) of the model. (R.S. Pindyck D.L. Rubinfeld (1991, p.59).] 由图3－4可见，对于第t个观测值，有 要获得与因变量Y单位无关的拟合优度的测度，我们将式(3.21)两端都除以总变差 ，得 相关系数r与决定系数R2的关系为R2＝(r)2，故有 最小二乘估计 和 的显著性检验与置