第十二章回归分析.pdf

第十二章 回归分析 前面我们讲过曲线拟合问题。 曲线拟合问题的特点是， 根据得到的若干有关变量的 一组数据，寻找因变量与 （一个或几个） 自变量之间的一个函数，使这个函数对那组数 据拟合得最好。通常，函数的形式可以由经验、 先验知识或对数据的直观观察决定， 要 作的工作是由数据用最小二乘法计算函数中的待定系数。 从计算的角度看， 问题似乎已 经完全解决了，还有进一步研究的必要吗 ? 从数理统计的观点看， 这里涉及的都是随机变量， 我们根据一个样本计算出的那些 系数，只是它们的一个（点）估计，应该对它们作区间估计或假设检验，如果置信区间 太大， 甚至包含了零点， 那么系数的估计值是没有多大意义的。 另外也可以用方差分析 方法对模型的误差进行分析， 对拟合的优劣给出评价。 简单地说， 回归分析就是对拟合 问题作的统计分析。 具体地说，回归分析在一组数据的基础上研究这样几个问题： （i ）建立因变量 y 与自变量 x ,x , , x 之间的回归模型（经验公式） ； 1 2 m （ii ）对回归模型的可信度进行检验； （iii ）判断每个自变量 x (i 1,2, , m) 对 y 的影响是否显著； i （iv ）诊断回归模型是否适合这组数据； （v ）利用回归模型对 y 进行预报或控制。 §1 多元线性回归 回归分析中最简单的形式是 y 0 1 x ， x, y 均为标量， 0 , 1 为回归系数， 称一元线性回归。它的一个自然推广是 x 为多元变量，形如 y 0 1x1 m xm (1) m 2 ，或者更一般地 y f (x ) f (x ) （2 ） 0 1 1 m m 其 中 x (x1, ,x m ) ， f j ( j 1, , m) 是 已 知 函 数 。 这 里 y 对 回 归 系 数 ( 0 , 1, , m ) 是线性的，称为多元线性回归。不难看出，对自变量 x 作变量代 换，就可将（ 2 ）化为（ 1）的形式，所以下面以（ 1）为多元线性回归的标准型。 1.1 模型 在回归分析中自变量 x ( x1 ,x 2 , ,xm ) 是影响因变量 y 的主要因素，是人们能控 制或能观察的，而 y 还受到随机因素的干扰，可以合理地假设这种干扰服从零均值的 正态分布，于是模型记作 y 0 1 x1 m xm （3 ） 2 ~ N (0, ) 其中 未知。现得到 n 个独立观测数据 ( yi ,xi 1 , , xim ) ， i 1, , n, n m ，由（ 3 ） 得 yi 0 1xi 1 m xim i