2.4二元线性回归模型及参数估计.ppt

二元线性回归模型的估计 最简单的多元线性回归模型是二元线性回归模型， 即具有一个被解释变量和两个解释变量的线性回归模 型： Y i ? ? 0 ? ? 1 X 1 i ? ? 2 X 2 i ? ? i ， i =1 ， 2 ， … ， n 。 一、 二元线性回归模型的参数估计 1 ．偏回归系数的估计 对 于 二 元 线 性 回 归 模 型 ： Y i ? ? 0 ? ? 1 X 1 i ? ? 2 X 2 i ? ? i ， i = 1 ， 2 ， … ， n 其 中 的 参 数 ? 0 、 ? 1 、 ? 2 称 为 偏 回 归 系 数 。 ， 所谓 偏回归系数 ，是指多元线性回归模型中解释变量前 的系数。 其含义是：当其他解释变量保持不变时，某一解释 变量变化一个单位而使被解释变量 Y 平均改变的数值，即某一 解释变量对被解释变量 Y 的影响程度。 要估计二元线性回归模型 Y i ? ? 0 ? ? 1 X 1 i ? ? 2 X 2 i ? ? i 中的 参数 ? 0 、 ? 1 、 ? 2 ， 常用的方法仍然是 普通最小二乘法 。 i =1 ， 2 ， … ， n ， 设根据给定一组样本数据 （ Y i ， X 1i ， X 2i ）， 采用普通最小二乘法估计得到的样本回归模型为 ? ? ? ? X ? ? ? X ? e ， 则 参数估计量 ? ? 、 ? ? 、 ? ? 应 Y i ? ? 0 1 1 i 2 2 i i 0 1 2 该使残差平方和 n n 2 2 2 ? ? ? ? ? e ? ? ( Y i ? Y i ) ? ? ( Y i ? ? 0 ? ? 1 X 1 i ? ? 2 i X 2 i ) i i ? 1 i ? 1 i ? 1 n 达到最小 。 根据 极值存在的必要条件 ，应该有 ? ? ? e 2 i ? ? 2 ( Y ? ? ? ? X ? X ? ? ? ? ? ) ? 0 ? i 0 1 1 i 2 2 i ? ? ? ? 0 ? ? 2 ? e ? ? i ? ? 2 ( Y ? ? ? ? X ? X ? ? ? ? ) X 1 i ? 0 ? ? i 0 1 1 i 2 2 i ? ? ? 1 ? ? ? ? ? e 2 i ? ? 2 ( Y ? ? ? ? X ? X ? ? ? ? ? ) X 2 i ? 0 ? i 0 1 1 i 2 2 i ? ? ? ? 2 ? 从而得到 正规方程组 ? ? ? ? ( Y i ? ? 0 ? ? ? ? ? ( Y i ? ? 0 ? ? ? ? ? ? ( Y i ? ? 0 ? ? X ? ? ? X ) ? 0 ? 1 1 i 2 2 i ? X ? ? ? X ) X ? 0 ? 1 1 i 2 2 i 1 i ? X ? ? ? X ) X ? 1 1 i 2 2 i 2 i ? 0 ? e i ? 0 ? ? e i X 1 i ? 0 ? e i X 2 i ? 0 如 果 X 1 与 X 2 之 间 不 存 在 线 性 关 系 ， 那 么 ， 由 上 述 正 规 方 程 组 可 以 解 出 ? ? 0 、 ? ? 1 、 ? ? 2 ： ? ? ? ? ? ? 0 ? Y ? ? ? 1 X 1 ? ? ? 2 X 2 ? ? ? ? ? ? ( ? y i x 1 i )( ? x 2 2 i ) ? ( ? y i x 2 i )( ? x 1 i x 2 i ) ? 1 ? ( ? x 2 )( ? x 2 ) ? ( ? x x ) 2 ? 1 i 2 i 1 i 2 i ? ? ? ? ? ( ? y x )( ? x 2 ) ? ( ? y x )( ? x x ) ? 2 ? i 2 i 1 i i 1 i 1 i 2 i ? ( ? x 2 1 i )( ? x 2 2 i ) ? ( ? x 1 i x 2 2 i ) 其 中 ， x i ? X i ? X ， y i ? Y i ? Y ， X ? 1 n ? X i ， Y ? 1 n ? Y i 。 如 果 X 1 与 X 2 之 间 存 在 线 性 关 系 ， 那 么 ， 上 述 计 算 ? ? 1 的 公 式 的 分 子 、 分 母 将 变 为 0 ， 从 而 无 法 求 解 。 ? ? 2 、 2 ． 随 机 误 差 项 ? i 的 方 差 ? 2 的 无 偏 估 计 其 中 ， ? ? 2 ? ? e i 2 n ? 3 ? e 2 i 的 简 捷 计 算 公 式 为 ? e 2 2 i ? ? y ? i ? ? 1 ? y i x 1 i ? ? ? 2 ? y i