第七章 多元回归2014new.pdfVIP

第七章多元回归 上章讨论的一元线性回归对相关与回归 的理论与方法的讲述是重要的，但在应 用中多元回归占用支配性的地位。虽然 仅是增加几个解释变量，多元回归具有 以下难以比拟的特点： 1可以很大地提高模型的预测能力。 2能更好反映变量之间的关系，特别是 潜变量的问题 3可很大增加函数形式的灵活性。 第一节多元回归的数据分析 • Case7.1 与任何统计分析一样，多元回归分析也开始 于对数据的仔细研究。首先分别对单个变 量进行描述性统计分析，如直方图、概括 性度量，从而了解分布形态和是否存在异 常值。 第一节多元回归的数据分析 • 其次，研究变量两两之间的关系，如相关 系数和散点图。 解释变量与响应变量之间的高相关说明有较 强的解释能力，但解释变量之间的高相关 则说明包含有相同的信息，两个变量一起 解释响应变量可能仅比单变量解释好一 点，解释能力提高不会有很大的提高。散 点图可以反映两变量之间关系的形态，可 作为多元回归方程形式确定的基础。 第一节多元回归的数据分析 • 估计多元回归的系数： 使用最小二乘法来拟合多元线性回归方程 ˆ y b 0  b1 x1    b k x k ˆ 残差： e i y i  y i 最小二乘估计方法： n ˆ 2 M i n b 0 ,  , b k  y i  y i  i 1 第一节多元回归的数据分析 • 残差分析：利用残差来检验回归模型的一 些假定是否满足：残差的直方图、正态分 位数图和残差-解释变量散点图。 第二节多元回归的推断 • 多元回归模型的设定： 总体回归函数：y  x  x u i 0 1 1i k ki i ˆ ˆ ˆ 样本回归函数：y    x     x e i 0 1 1 i k k i i CLRM假定：线性性、零条件均值、同方差性、无 序列相关性、正态性、无多重共线性性。 • 多元回归模型的估计：最小二乘法 n ˆ 2 M i n ˆ ˆ  y i  y i  , ,  0   k i 1 高斯-马尔可夫定理：在CLRM假定下，最小二乘 估计是BLUE。 第二节多元回归的推断 回归系数的区间估计和假设检验： 第二节多元回归的推断 • 多元回归的方差分析（ANOVA ） 第二节多元回归的推断 • 一组回归系数的检验： 第二节多元回归的推断 • 多元回归的拟合优度： 可决系数：R 2 SSR / SST