应用数理统计16.ppt

第二节 一元曲线回归 例3 出钢时所用的盛钢水的钢包,由于钢水 对耐火材料的侵蚀,容积不断增大.我们希 望找出使用次数与增大的容积之间的关系. 并求出剩余标准差与相关指数. 第三节、多元回归分析 * 常用的线性化方法： 1. 双曲线 则可线性化为 2. 幂函数 则可线性化为 第四章 回归分析 3. 指数曲线 则可线性化为 4. 倒指数曲线 则可线性化为 5. 对数曲线 则可线性化为 6. 曲线 则可线性化为 7. 多项式 则可线性化为 这种情形常用的是二次多项式。 还有更多种曲线形式, 参见教材. 注 (1) 线性化的过程使得有关的显著性检验 无法进行， 但仍可根据原始数据计算 及 R2称为相关指数。 R仍称为相关系数,它与变换后的数据算出 的r不是一回事。然而,R2却与r2有类似的性 质, 即R2越接近于1,所配置曲线效果越好. (2) 也可以根据剩余平方和Q的值来评价回 归曲线的优劣. Q越小,效果越好. (3) 也可以根据剩余标准差 来评判拟合的好坏。 (4) 也可以根据剩余标准差S来近似估计y的 预测区间. 9.99 9.93 10.00 9.70 9.50 9.58 8.20 6.42 增大容积(y) 9 8 7 6 5 4 3 2 使用次数(x) 10.76 10.90 10.60 10.80 10.60 10.59 10.49 增大容积(y) 16 15 14 13 12 11 10 使用次数(x) 收集的15组数据如下: 双曲线 则可线性化为 分析 这就成了y关于x的一元线性回归问题了,不过 所用样本点(xi,yi)相应为(1/xi,1/yi), i=1,2,…,15 变换后的经验回归曲线 原经验回归曲线为 或 R=0.9627 由于2S=0.6656,故关于y的0.95预测区间的半径 近似为0.6656. 讨论: 关于曲线回归, 是否能从一种选定的回归 曲线比较满意就认为所配回归曲线十分好呢? 在实际配曲线时,常选择几种可能的曲线类型, 分别计算后, 再进行比较, 择其优者而留之. 比较时,可比较Q, R2, S这三个量中的任何一 个, Q, S小者为优, R2大者为优. 例如上例的散点图也有点象倒指数函数曲线: 经过计算得回归曲线为 则可线性化为 并可得剩余平方和Q=0.89128,剩余标准差S=0.2618,与双曲线相比, Q, S均小一些. 故倒指数曲线更好一些。 除了利用变换把曲线回归化为直线回归来处理外,因为有些曲线不能这样处理,故我们用多项式来逼近这些曲线,这就引入了多项式回归,前面的类型7就是多项式回归的常见形式. 当多项式回归也不能解决问题时,可利用 “分 段回归”思想, 引入样条回归。 考虑含 个因素的回归模型 （一）多元回归模型 其中 是可观测的随机变量， 是未知 参数，称为回归系数， 是不可观测的随机误差， 称为回归因子或设计因子，简称因子。 实际上反映了因子 对观测值 的贡献大小，因此也称 为因子 的效应。 设有 组观测值 则有 用矩阵可表示如下： （*） 其中 称 为设计矩阵，且一般假设 。 显然有 （二）参数的最小二乘估计及性质 误差的平方和为 选择参数 使上式达到最小。 可得 令 有 此方程称为正规方程， 由于 可逆，所以 就是参数 的最小二乘估计。 性质1 使得 达到最小。 *