相关与回归不带上机.pptVIP

第三节 多元线性回归分析 一、多元线性回归模型 假定因变量Y与 自变量具有线性相关关系它们之间的线性回归模型可表示为（7.28） 其中 是k+1个未知参数，称为回归系数。回归系数 表示在其它变量保持不变的情况下，自变量 每变动一个单位时所引起的因变量Y的平均变动量(i=1,2,…,k)。 称为随机项，同一元线性回归模型一样假定 对一个实际问题，如果我们获得n组样本观测值 (i=1,2,…,n)，则多元线性回归模型（7.28）式可 表达为（7.29）和（7.30） 二、模型参数的估计 由样本观测值（ ） (i=1,2,…,n)得到 的估计量设为 。则回归方程（7.30）的估计方程为(7.31) 由最小二乘法可知， 应使全部样本观测值与估计值 的残差平方和最小。即使如下取最小值 根据多元函数极值原理， 是下列方程组的解 将上述方程组整理成以下形式的正规方程组： 其中： 以上计算很多统计软件都可以通过计算机方便地得出结果 三、回归方程的统计检验 与一元线性回归分析类似，在多元线性回归分析中也要对回归方程进行各方面的检验。 （一）拟合优度检验 同一元线性回归分析中拟合优度检验一样，将Y的总离差平方和SST分解为两部分：一部分为回归平方和SSR，另一部分为残差平方和SSE，即 SST=SSE+SSR （7.36） （7.37） （7.38） （7.39） 与一元线性回归分析相同，也是用判定系数作为回归方程拟合优度的评价指标。其定义为 由（7.40）式可知 。 越大，表示回归方程与样本观测值拟合得越好；反之，回归方程与样本观测值拟合越差。当然我们总希望 越大越好。但是， 的大小受回归方程中自变量个数多少的影响，自变量个数越多， 就会越接近1 ， 就这样容易引起一种错误：要使 增大，增加模型中自变量的个数就行了。显然这样用 来检验回归方程与样本观测值“拟合优度”是不合适的。为了消除自变量个数的影响，常采用调整的来判断拟合优度，调整的办法是用自由度进行修正。调整的判定系数定义为（7.41） （7.40） 在多元线性回归分析中，反映因变量Y与全体自变量X1，X2，…，Xk，间线性关系的统计指标称为复相关系数记为R。并且同一元线性相关回归分析中简单相关关系与判定系数之间的关系类似，多元线性回归分析中复相关系数与判定系数有如下关系 （7.42） 要注意复相关系数同简单相关系数的区别，复相关系数是衡量作为一个整体的 与Y的线性关系的密切程度。 （二）回归方程的显著性检验 与一元线性回归分析一样，我们用任何一组数据（ ） (i=1,2,…,n)通过最小二乘法都可以形式地求出一个回归方程。然而当变量Y与诸自变量 间不存在线性关系或线性相关程度很小时，求出的回归方程是无意义的。因此，必须判断变量Y与 间是否存在线性关系。 同样用F检验方法，检验步骤如下： 1.提出假设 不同时为零，i=1,2,…，k 这里检验Y是否与所有自变量这个整体间有线性关系。如果 被接受，则表明Y与 之间不存在线性关系。 2.在 成立时指出检验统计量及所服从的分布 3.对于给定的显著性水平 ，查第一自由度k，第二自由度n-k-1的F分布表的临界值 ，使 4.由样本观测值计算检验统计量F的观测值 当 时拒绝 ，有 的把握认为Y与 间存在线性关系。否则，可以认为Y与间不存在线性关系。 ~F(k,n-k-1) (7.43) 通常可列成方差分析表计算，见表7-8所示。 （三）回归系数的显著性检验 在多元回归分析中，回归方程的显著性检验已经通过了，但并不意味着每个自变量对因变量的影响都是重要的。我们应将那