八单元相关与回归分析1节.ppt

* * * * * * * * * * * * * * * * * * 124 Note: 1. As we move farther from the mean, the bands get wider. 2. The prediction interval bands are wider. Why? (extra Syx) * * 124 Note: 1. As we move farther from the mean, the bands get wider. 2. The prediction interval bands are wider. Why? (extra Syx) * * * * * * * * * * 139 * * * * * * * * 24 This teleology is based on the number of explanatory variables nature of relationship between X Y. * * * * * * * * * * * * * * 　　 2、估计标准误差 Sy 实际观察值与回归估计值离差平方和的均方根。 反映实际观察值在回归直线周围的分散状况。 从另一个角度说明了回归直线的拟合程度。 计算公式为 由样本资料计算 了　　解 最小二乘估计量的性质 一元线性回归模型的检验 （一） 回归模型检验的种类 回归模型的检验包括理论意义检验、一级检验和二级检验。 （二）拟合程度的评价 所谓拟合程度，是指样本观测值聚集在样本回归线周围的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数（又称决定系数）。它是建立在对总离差平方和进行分解的基础之上的。 总离差平方和的分解 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面： 由于自变量 x 的取值不同造成的； 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响。 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示。 误差的分解(图示) x y y ? 离差平方和的分解 （三个平方和的关系） 2. 两端平方后求和有 从图上看有 SST = SSR + SSE 总变差平方和 （SST） { 回归平方和 （SSR） { 残差平方和 （SSE） { 三个平方和的意义 总平方和(SST) 反映因变量的 n 个观察值与其均值的总离差 回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和。 残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和。 可决系数R2  (coefficient of determination) 回归平方和占总误差平方和的比例 反映回归直线的拟合程度 取值范围在 [ 0 , 1 ] 之间 R2 ?1，说明回归方程拟合的越好；R2?0，说明回归方程拟合的越差 判定系数等于相关系数的平方，即R2＝r2 估计标准误差(standard error of estimate) 实际观察值与回归估计值误差平方和的均方根 反映实际观察值在回归直线周围的分散状况 对误差项?的标准差?的估计，是在排除了x对y的线性影响后，y随机波动大小的一个估计量 反映用估计的回归方程预测y时预测误差的大小 计算公式为 显著性检验 线性关系的检验 检验自变量与因变量之间的线性关系是否显著 将回归均方(MSR)同残差均方(MSE)加以比较，应用F检验来分析二者之间的差别是否显著 回归均方：回归平方和SSR除以相应的自由度(自变量的个数k) 残差均方：残差平方和SSE除以相应的自由度(n-k-1) 线性关系的检验 (步骤) 提出假设 H0：?1=0 线性关系不显著 2. 计算检验统计量F 确定显著性水平?，并根据分子自由度1和分母自由度n-2找出临界值F ? 作出决策：若FF ?,拒绝H0；若FF ?,不拒绝H0 回归系数的检验 在一元线性回归中，等价于线性关系的显著性检验 采用t检验 检验 x 与 y 之间是否具有线性关系，或者说，检验自变量 x 对因变量 y 的影响是否显著 理论基础是回归系数 的抽样分布 回归系数的检验(样本统计量 的分布) 是根据最小二乘法求出的样本统计量，它有自己的分布 的分布具有如下性质 分布形式：正态分布 数学期望： 标准差： 由于? 未知，需用其估计量se来代替得到 的估计的标准差 回归系数的检验 (检验步骤) 提出假设 H