[物理]第九章 回归分析.ppt

* ? ? ? ? ? 092大学数学II. WM. 第九章 回归分析 第九章 回归分析 第一节 一元回归分析 第二节 可线性化的一元非回归分析 第三节 多重回归分析(不讲) 相关关系问题 现实问题中有联系的变量之间的关系大致分两种: (1)确定性关系或函数关系; (2)非确定性关系或相关关系. 相关关系表现为所涉及的变量之间有一定的依赖关系, 但这种关系不完全确定, 不能用函数式精确地表示, 因为其中含有随机因素. 这些变量中至少有一个是随机变量. 例如, 在气候, 土壤, 水利, 种子和耕作技术等条件基本相同时, 某农作物的亩产量Y与施肥量X有关系, 但施肥量相同, 亩产量未必相同. 亩产量是一个随机变量. 又如, 人的血压Y与年龄X有关. 但年龄相同的两个人的血压未必相等. 血压是一个随机变量. 上述亩产量与施肥量, 血压与年龄间的关系就是相关关系, 其中施肥量, 年龄是可控变量, 亩产量, 血压是不可控变量. ?讨论相关关系时, 可控变量一般当作自变量, 不可控变量当作因变量. 在函数关系中, X 决定 Y 的值, 而在相关关系中, X 影响 Y 的值, 即 X 决定 Y 的概率分布 fY(y|x). 回归是指给定 X = x 的条件下求 Y 的条件数学期望(局部平均) E(Y|x). 回归分析是研究相关关系的一种统计方法, 其基本问题是估计回归函数 ?(x) = E(Y|x). 而回归方程 y = ?(x) = E(Y|x) 反映 Y 随 X 变化的平均情况. 回归分析包括三个方面: (1)提供建立有相关关系的变量之间的数学关系式(称为经验公式)的一般方法; (2)判断所建经验公式是否有效, 并从影响随机变量的诸变量中判别哪些变量的影响是显著的, 哪些是不显著的; (3)利用所得经验公式进行预测和控制. 一(多)元回归分析: 只含一(多)个自变量. 设随机变量 Y 依赖于(? 相关于!)自变量 x, 作 n 次独立试验, 得容量为 n 的一个子样, 即 n 对观测值: (x1, y1), (x2, y2), …, (xn, yn). 以之作试验的散点图. ?i x y o (xi, yi) 图 9-1 ?(x) = E(Y) = ?0 + ?1x 称为回归函数, 而 ?0, ?1 称为回归系数.回归函数的估计式 称为经验公式或回归方程. 如果图中的样本点大致在一条直线附近, 则设数学模型假设为 yi = ?0 + ?1xi + ?i. 其中 ?I ~ N(0, ? 2) 且相互独立, 从而 yi ~ N(?0 + ?1xi, ? 2). 一般地, 一元线性模型 (?0, ?1, ? 2 是与 x 无关的未知常数) 最小二乘法估计是选取 ?0, ?1, 使诸散点与直线的总偏差平方和 Q(?0, ?1) = ??i2 = ?ni=1(yi ? (?0 + ?1xi )]2 的值最小. 二元函数的无条件极值问题 变量 Y 对 x 的线性回归方程 回归系数, 截距, 斜率 散点 (xi, yi) 回归方程有效性的检验 对任一组数据(xi, yi), 都可按最小二乘法确定一个线性函数 , 但变量 Y 与 x 之间是否真有近似于线性函数的相关关系呢? 这尚需进行假设检验. 存在线性关系? ?1 ? 0. 故作假设检验 H0: ?1 = 0, H1: ?1 ? 0. 如果 H0 成立, 则不能认为 Y 与 x 有线性相关关系. 三种检验方法: F 检验法, t 检验法, r 检验法. 回归方程有效性的 F 检验法(方差分析法) 样本观测值间的差异可用总离差平方和来衡量 可分解为 剩余平方和 SSE 源于试验误差和其他未加控制的因素. 其中回归平方和 SSR 源于 x 的变化: Y与x线性相关则SSR较大 原假设H0: ?1 = 0成立时, 可证 给定检验水平?, 查得F?. (1)若F F? , 则拒绝H0 , 即认为变量 Y 与 x 有线性相关关系; (2)若F ? F? , 则接受H0 , 即认为 Y 与 x 没有线性相关关系; 此时, 可能有以下情况: ① x 对 Y 没有显著影响, 应丢弃自变量 x;(没有相关关系) ② x 对 Y 有显著影响, 但影响不是线性的, 应作非线性回归; ③除 x 外还有其它变量对 Y 有显著影响, 应考虑多元回归. 于是统计量 不线性相关未必不相关! 回归方程有效性的 R 检验法P207