[数学]第3章 回归分析.ppt

第3章 回归分析 回归分析的目的:依靠观察数据建立变量间的相关关系,分析数据规律并用于预测或控制. 回归分析的基本内容: 线性回归分析 参数回归分析 回归分析 非线性回归分析 非参数回归分析 本章内容:线性回归分析与Logistic模型. 基本要求:掌握线性回归分析的基本方法与步骤,并能应用该方法解决一些实际问题. (2)线性回归关系的显著性检验 至少有某个 基于上述方差分析表,构造如下检验统计量: 当 为真时,可以证明F~F(p-1,n-p),这里表示自由度为p-1和n-p的F分布.给定显著水平 ,计算F的观测值 , 检验法则为: 若 ,接受 若 ,拒绝 3.关于预报值的统计推断. 设给定了自变量的一组新观测值 ,则利用回归方程可得因变量Y的预报值为 是对应于自变量值 的一个点估计. 基于 可给出在 处的真值 的区间估计.可证明 其中 而 .因此可得 的置信度为 的置信区间为 参数估计表 由此知, 与 均对Y有显著影响.回归方程为 进一步可得参数 和 的置信度为95%的置信区间分别为 若有一新城市关于 和 的值为(200,2500),则代入回归方程得Y的预报值为 其真值 的置信度为95%的置信区间为(130.602, 140.544). (**) 进一步考察 或 是否因 的进入可被剔除,即计算 若 ,则首先剔除 和 中较小的一个对应的自变量,再接着检验另一个变量是否可被删除.若 , 均不能被剔除,则(**)为当前模型. 重复以上步骤,直到没有自变量能进入模型,同时已在模型中的自变量均不能被剔除,则选择过程结束,最后一个模型即认为是最优的. 注意到 则 从而得似然方程为 2.似然方程的 Newton-Raphson 迭代解法. (1)Newton-Raphson 迭代法的一般描述. 问题:设 是 的p元函数,求 ,使 解法:令 ,其中 其中 记 为 第t次迭代值,代入上式得 和 ,在 处将 按 Taylor 公式展开并取至二阶项(记为 ),则 令 求解此方程组得 的第t+1次迭代值为 (2) Logistic模型的参数的最大似然估计的 Newton-Raphson 迭代法. 此时目标函数为 . 由前面讨论知,当 时. 其中 .这时 从而得 的最大似然估计的 Newton-Raphson 迭代式为 具体算法如下: 1)给定初值 ,计算 其中 2)计算 3)由 按步骤1)求出 和 ,从而由2)得 ; 4)重复3)至 ,使对给定的误差限 ,有 则得 的最大似然估计 . 5)同时得 3.初值 的确定. 在上述迭代方法中,初值 通常由如下修正的经验Logistic变换确定: 令 记 则 的初值 取为 3.3.3 Logistic模型的统计推断 1.一组自变量影响显著性的似然比检验. 将p-1个自变量 分为两组.不妨设为 和 检验 对A 事件影响的显著性等价于检验假设: 中至少有一个不为零. (i)当r=p-1时,即检验 的综合影响的显著性,即回归关系的显著性检验; (i)当r=1时,即检验其中某个自变量(适当调整顺序后可设为 )对A 发生的概率影响的显著性检验. 以上假设可利用似然比统