[数学]04：第三讲 多元回归模型：估计与推断.ppt

第三讲  多元回归模型：估计与推断 陈创练 / 1 § 1 前言 § 2 本章框架及思路 § 3 模型设定及说明 § 4 假设以及OLS估计量的无偏性 § 5 多元普通最小二乘法的推导 § 6 拟合优度 § 7 OLS估计量的方差 § 8 多元回归分析：推断 第三讲 多元回归模型：估计与推断 为什么需要多元线性回归模型？ 简单线性回归方程： 多元线性回归模型： 既然exper与edu相关，为得到 的无偏估计，明确将两个变量同时放在模型中是有益的。 § 1 前言 4 § 1 前言 How to interpret the parameters ？ § 2 本章框架及思路 1. 古典多元线性回归模型的一般形式 矩阵记为： § 3 模型设定及说明 局部影响效应： （线性影响）； （线性影响） 例3.1 大学城GPA的决定因素 例3.2 小时工资方程 2.方程解释 清楚多元回归中“保持其他因素不变”的含义，同时改变不止一个自变量的解释。 如 exper：在劳动市场上的工作经历； tenture：现任职务的任期。 各增加一年： 增加2.6%。 2.方程解释 OLS拟合值和残差具有某些能直接从单变量情形推广而得到的重要性质： （1）残差的样本平均值为零； （2）每个自变量和OLS协残差之间的样本协方差为零 （3）点 总位于OLS回归线上。 3. 代数性质 Here， 为利用现有样本 对 回归而得到的OLS残差。 （ 排除了 影响之后的部分） 4. 对多元回归“排除其他变量影响”的解释 将 对 进行回归，用回归中 的拟合值及其残差来表示 ： 对于 ， 将其代入一阶方程可得 由于 可得 由于 可得 由于 可求得 。（得证） 证明： 对于模型为 当存在下列两种情况时，简单回归的系数 与多元回归的系数 相等。 （1）样本中 对 的局部效应为零，即 （2）样本中 和 不相关。 § 3 模型设定说明 在回归模型中包含了无关变量 在一个多元回归模型中包含或多一个无关自变量，或对模型进行了过度设定（因为无关变量系数 ），并不会影响到OLS估计量的无偏性。但是却对OLS估计量的方差具有不利的影响。 §3 模型设定说明 假定MLR.1 （对参数而言为线性） 总体模型可写成 Here, 为我们所关心的未知参数（常数），u 为观测不到随机误差或随机干扰项。 §4 假设以及OLS估计量的无偏性 假定MLR.2 （随机抽样性） 我们有一个含n 次观测的随机样本 它来自假定MLR.1描述的总体模型。 §4 假设以及OLS估计量的无偏性 假定MLR.3 （条件均值为零、严格外生性） 给定自变量的任何值，误差u的期望值为零。换句话说，即 1) 2) §4 假设以及OLS估计量的无偏性 严格外生性假定不成立的情况： 1）当i 代表时间，回归模型为时间序列模型，严格外生性可表述为： 解释变量与过去、当前和将来的扰动项正交。 对大多数时间序列模型来说，不能得到满足。 §4 假设以及OLS估计量的无偏性 例如，含有滞后因变量的模型（动态模型）： （一阶自回归模型） 根据外生性要求 ，那么 也就是说解释变量与过去的扰动项相关，违背了严格外生性的假定。 §4 假设以及OLS估计量的无偏性 2）被解释变量与解释变量的函数关系设定错误。 例3.2（续） 设定一个简单的工资方程： 如果工资方程中的被解释变量被错误设定为 wage，那么严格外生性假定不成立，系数估计量就会有偏。 §4 假设以及OLS估计量的无偏性 3) 遗漏重要解释变量。 遗漏变量的偏误：简单模型 §4 假设以及OLS估计量的无偏性 而由 代入可得 两边除以 并求期望可得 §4 假设以及OLS估计量的无偏性 设定 ，则 偏误 通常被称为遗漏变量偏误 （omitted variable bias） 可以判断是否有偏，但是很难判断偏误的方向。 例如，上述的工资方程中遗漏了重要的解释变量——个人的智力水平。 §