第二章回归模型(7-8).ppt

三、多元线性回归方程的显著性检验 1．复相关系数法：在多元线性回归中，回归平方和U与离差平方和 之比的方根称为复相关系数。 ①总离差平方和 计算公式： 总自由度 。 的大小反映了数据 的总波动。 ②回归平方和U： U反映了因素对变量y的线性关系密切程度。 一元线性回归中： 其中： 对于多元线性回归： 计算公式： 上式中： 为 的回归系数， 证明： 回归自由度 （自变量个数为p个） ③剩余平方和 ： 以 一定的情况下，Q越小，U越大，则说明回归效果好。由此可导出复相关系数： 2．F检验法 （在多元线性回归中常用） 服从第一自由度为p，第二自由度为N-P-1的F分布。对于给定置信度α，相应的自由度p和N-P-1 ，查F分布表，可得到对应的临界值F α 若 ，则认为y与x存在线性关系。 3．估计回归方程的精度仍用剩余标准差 4．偏回归平方和的显著性检验 在处理多元回归的实际问题中，往往不满足于仅仅判断回归方程是否显著，因为回归方程显著，并不意味着每个自变量对y的影响都显著，其中有些次要的自变量是可有可无的，为了剔除这些次要变量。建立既简单又不失准确性的回归方程，往往还要进行回归系数的显著性检验。 回归平方和U是所有x对y的总影响，若剔除一个自变量 ，新的回归方程的U值只会减小，不会增加。U减小的越多，说明该自变量对y的影响越大，若用 表示这个减少量， 则是衡量回归方程中自变量 对y影响大小的指标，称为偏回归平方和。 设： 表示p个自变量 所引起的回归平方和。 表示p-1个自变量 所引起的回归平方和。 则： 可以证明： 式中： 所对应的偏回归系数； —为正规方程组系数矩阵的逆矩阵主对角线上第k个元素。 若用行列式表示，则 其中Δ为系数行列式 为划去k行，k列后的行列式。 当求出偏回归平方和后，要进行F检验，通常采取步骤如下： （1）按上式计算出回归方程中各因素的偏回归平方和p1，p2，…，pp，比较其大小，首先对偏回归平方和最小者进行显著性检验，如果检验结果发现其不显著，则将它从回归方程中剔除，剔除该因素以后，重新计算新回归方程的回归系数，然后再对新回归方程的各因素进行显著性检验，直到各因素都显著为止。 （2）对偏回归平方和进行F检验。 Fk是服从第一自由度为1，第二自由度为N-P-1的分布，对于给定的置信度α，若FkFα ，则Fk对y的影响显著，否则就不显著，即可以将不显著的变量剔除。 例：根据经验认为，在人的身高相等的情况下，血压的收缩压与体重、年龄有关，为了了解其相关关系，现收集了13个男子的下述数据： 解：一般对于多元回归分析，我们不是首先根据数据作散点图，因为多元回归不象一元回归那样可以在平面上表示出来，多元回归要想表示，只有在多维空间中表示，所以一般达不到，所以多元回归分析，首先，一般是根据经验给定一个模型形式，然后检验。 这里为了考查它们的相关关系，我们选择模型形式为： 这里P=2，即二元线性回归。 由于变量取值较大，为减少计算量，我们先对各变量分别作线性变换，通过观察。 我们用变换后的数据先求出 关于 、 的二元线性回归方程，然后再回复到y关于x1，x2的二元线性回归方程。 （一）计算回归方程系数。 ①按公式计算变换后的正规方程组系数 ， 这样可以列出变换后的二元线性方程组 解此方程组，得： ， ∴ ① 即： 得： （二）回归方程显著性检验 对回归方程显著性检验，等价于对回归方程习作显著性检验： ∴ 查F分布表，在 水平下 ∵ ∴可知回归方程是显著的。 也可采用复相关系数： （三）回归系数的显著性检验。 ①我们利用求偏回归平方和 ,其中 那么对于本例