双变量回归模型 估计问题.pptVIP

第三讲： 双变量回归模型：估计问题 主要内容： 普通最小二乘法 高斯-马尔可夫定理 拟合优度 3.1 普通最小二乘法 如何去估计样本回归线？ 估计的方法：普通最小二乘法(OLS) 简单方便 参数估计量在一定的假设下具有其他方法所没有的良好统计性质 给定一组样本观测值如何使 尽可能好地拟合这组值.即我们希望样本回归模型的估计值 尽可能地靠近观测值 。 为达到此目的，我们选择使 即求出 、 ，使 成立 根据微积分知识， （3-2） （3-3） 假定4： 解释变量的样本有变异 在样本中，解释变量 的取值不为相同的常数。 有意义或有解 写成离差形式： （3-8） （3-9） 上面得到的估计量 , 是从最小二乘原 理演算而得的。因此，称其为最小二乘估计量。 估计量的数值性质 数值性质：指运用最小二乘估计法而成立的那些性质，而不管数据如何产生。 （1） （2） （3） ， 3.2 高斯-马尔可夫定理 最小二乘估计量有何优良的统计性质呢？ 假定5：同方差性 高斯-马尔可夫定理： 在假定1~假定5下，OLS估计量是最优线性无偏估计量（BLUE）。 它是线性的 它是无偏的 它是有效估计量 （1）线性性 令 ，则有 这说明 是 的一个线性函数，它是以 为权的一个加权平均数，从而它是一个线性估计量。同理， 也是一个线性估计量。 （2）无偏性 就是说，虽然由不同的样本得到的 ， 可能大于或小于它们的真实值 ， ，但平均起来等于它们的真实值 ， 。 （3）有效估计量：具有最小方差 估计量的精度（可靠性）： 3.3 拟合优度 ？样本回归直线对数据拟合得有多好呢 样本在多大程度上能够解释被解释变量的变异程度 判定系数 -------拟合优度度量 总平方和（TSS）解释平方和（ESS）残差平方和（RSS） 对（3-12）两边取平方求和 （3-16） 上述定义的 称为判定系数，它是对回归线拟合优度的度量。就是说， 测度了在 的总变异中由回归模型解释的那个部分所占的比例或百分比。 从定义可以看出 。在回归分析中，R2是一个比R 更有意义的度量，因为R2告诉我们在被解释变量的变异中，由解释变量解释的部分占怎样一个比例，因而对一个变量的变异在多大程度上决定另一个变量的变异，提供了一个总的度量，而R 则没有这种作用。 Thanks ! * * 回归分析的主要目的：根据样本回归函数 ，估计总体回归函数 。 2321 2178 2101 1749 1551 1364 1144 1045 847 638 2629 2552 2244 1969 1716 1408 1408 913 638 561 Y 3500 3200 2900 2600 2300 2000 1700 1400 1100 800 X 两组随机样本 样本回归线如何确定 残差平方和 （3-1） 尽可能地小，其中 是残差的平方 换句话说，我们期望能确定出 、 ，使得残差平方和最小