第三篇 多变量回归分析(计量经济学,南开大学).ppt

第三章 多变量回归分析 第一节 多变量线性回归模型 一、多变量线性回归模型的PRF 如果假定对因变量Y 有k-1个解释变量：X2，X3，…，Xk，k 变量总体回归函数为： 其中?1为常数项， ?2 ~ ?2 为解释变量X2 ~ Xk 的系数，u为随机干扰项。 总体回归函数PRF给出的是给定解释变量X2 ~ Xk 的值时，Y的期望值：E ( Y | X2，X3，…，Xk )。 假定有n组观测值，则可写成矩阵形式： 二、多 变量线性回归模型的基本假定 随机干扰项的期望值为0。 同方差性；无序列相关。 无多重共线性，即Xi (i = 2,3, …,k )之间不存在线性关系： 随机干扰项服从正态分布。 三、多 变量线性回归模型的SRF 根据残差的平方和最小化的原理，解出参数的估计量。 第二节 多变量回归模型的OLS估计 一、参数估计 可得到如下正规方程组： 如果直接用矩阵微分，则 二、 的估计量 三、 的方差-协方差矩阵 四、OLS估计量 的性质： 第三节 拟合优度检验： 一、判定系数R2： 平方和 df 均方差 ESS k-1 RSS n-k TSS n-1 方差分析表（ ANOVA) 二、校正的R2 ： 由R2的计算式可看出， R2 随解释变量的增加而可能提高（不可能降低）： 与解释变量X的个数无关，而 则可能随着解释变量的增加而减少（至少不会下降），因而，不同的SRF，得到的R2 就可能不同。必须消除这种因素，使R2 即能说明被解释的离差与总离差之间的关系，又能说明自由度的数目。定义校正的样本决定系数 ： 三、R2 与 的性质 第四节 显著性检验 一、单参数的显著性检验： 如果接受H0 ，则变量Xi 对因变量没有影响，而接受H1，则说明变量Xi 对因变量有显著影响。 检验 的显著性， 即在一定显著水平下， 是否显著不为0。 检验步骤： 如果根据理论或常识， 非负，则可做单侧检验，比较 t 与tα。 二、回归的总显著性检验： 检验回归系数全部为零的可能性。 平方和 df 均方差 ESS k-1 RSS n-k TSS n-1 方差分析表（ ANOVA) 显然，R2 越大，F越大，当R2 =1时，F无限大。 选择显著水平α ，计算F统计量的值，与F分布表中的临界值进行比较： 第五节 解释变量的选择 在回归模型中的解释变量，除非由明确的理论指导或其他原因，在选择上具有一定的主观性，如何正确选择解释变量是非常重要的。 一、解释变量的边际贡献分析 在建立回归模型时，假定我们顺序引入变量。在建立了Y与X2的回归模型，并进行回归分析后，再加入X2。考虑加入的变量X2是否有贡献：能否再加入后显著提高回归的解释程度ESS或决定系数R2。ESS提高的量称为变量X2的边际贡献。 决定一个变量是否引入回归模型，就要先研究它的边际贡献，以正确地建立模型。如果变量的边际贡献较小，说明改变量没有必要加入模型。 分析变量的编辑贡献，可以使用方差分析表为工具，根据变量引入前、后的RSS的变化量及其显著性检验（扣除原来引入模型的解释变量的贡献），确定该变量的边际贡献是否显著。 一个简单的检验方法，就是对引入新变量后的RSS增量与新的ESS的比值做显著性检验。 可以利用方差分析表来进行分析。 设ESS为引入变量前的回归平方和，ESS’ 为引入m个新变量后，得到的回归平方和，RSS’为引入变量后的残差平方和。 ANOVA表如下： 平方和 自由度 均方差 引入变量前的ESS U1 k-1 U1/(k-1) 引入变量后的ESS U2 k+m-1 U2/(k+m-1) 添加变量的边际贡献 (U2-U1) m (U2-U1)/m 添加变量后的RSS Q n-(k+m) Q/( n-k-m) TSS n-1 在新引入变量的系数为0的原假设下， 把计算出的该统计量的值与α 显著水平下的临界值进行比较： 引入的新变量的边际贡献显著，则应该把这些变量纳入回归模型，否则这些变量不应引入回归模型做解释变量。 二、逐步回归法 如果根据理论，因变量Y与k-1个变量X2，X2，…，Xk 有因果关系，我们要建立的回