第3讲多元回归分析.pptx

第三章：多元回归分析之估计;第一节 使用多元回归的动因;总体回归函数的非随机表达式:;写成矩阵形式为：;二、使用多元回归的动因; 总的说来，相对于简单回归分析而言，多元回归分析具备以下优势：;以例2.4为例：;控制工作经历之后：;多元线性回归中，变量之间存在非线性关系并不少见，上例中引入工作经历的二次项：;第二节 OLS的操作和解释;对于随机抽取的n组观测值;于是得到关于待估参数估计值的正规方程组： ;正规方程组的矩阵形式：;最简单的多元线性回归模型是二元线性回归模型，其一般形式为：;四、对多元回归的解释;例3.1：大学GPA的决定因素(GPA1.RAW);剔出不显著的解释变量 ACT 再进行回归，结果如下：;五、“保持其他因素不变”的含义;六、OLS的拟合值和残差的性质;考虑回归线 的一种表达是：;在一个含有k个解释变量的一般模型中， 仍然可以写成： 但残差 来自x1对x2… , xk的回归。 于是 度量了在排除x2… , xk等变量的影响之后， x1对y的影响 ;仍举例3.1：大学GPA的决定因素;第三节 OLS估计量的期望值;假定 MLR.2（随机抽样性）;假定 MLR.4（零条件均值）;变量太多还是太少了？;如果我们在设定中排除了一个本属于真实模型的变量会如何？;回想真实的模型，有：;考虑 对 的回归，有：;若x2与 x1间相关性和x2与y间相关性同向，偏误为正 若x2与 x1间相关性和x2与y间相关性反向，偏误为负; 通常我们不能观测到b2 ，而且，当一个重要变量被缺省时，主要原因也是因为该变量无法观测，换句话说，我们无法准确知道Corr(x1, x2)的符号。怎么办呢？ 我们将依靠经济理论和直觉来帮助我们对相应符号做出较好的估计。;更一般的情形;对于模型：;第四节 OLS估计量的方差;定理 3.2（OLS斜率估计量的抽样方差）;对定理3.2的解释;总的样本变异：斜率系数估计量的方差受到三个因素的影响：1）更大的SSTj意味着更小的估计量方差，反之亦然 2）其它条件不变情况下， x的样本变异越大越好 3）增加样本变异的一种方法是增加样本容量 4）参数方差的这一组成部分依赖于样本容量;误设模型中的方差 (Variances in Misspecified Models);舍弃x2的后果;估计误差项方差 (Estimating the Error Variance);我们能观察到的只是残差项?i。我们可以用残差项构造一个误差项方差的估计：;定理3.3（ s2的无偏估计）;在假定 MLR.1.5下，OLS是最优线性无偏估计量（BLUEs） 最优：方差最小 线性：因变量数据的线性函数 无偏：参数估计量的期望等于参数的真值。;;拟合优度;在实际操作中，被估计系数精确取零是极其罕见的，所以，当加入一个新的解释变量之后，SSR一般都会降低。因此， R2增加并不意味着加入新的变量一定会提高模型拟合度。;调整过的R2的三个有用性质：;R2和调整过的R2告诉我们，解释变量是否很好地预测了，或“解释”了手头数据中被解释变量的值。;假设1：解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2：随机误差项具有零均值、同方差及不序列相关性;上述假设的矩阵符号表示 式：;假设3：; 同一元回归一样，多元回归还有如下两个重要假设： 假设5：样本容量趋于无穷时，各解释变量的方差趋于有界常数，即n?∞时，有：