第九章 线性回归与方差分析.ppt

第九章 线性回归分析与方差分析 第一节 一元线性回归分析 第二节 可线性化的非线性回归 第三节 多元线性回归简介 第四节 方差分析 第一节 一元线性回归分析 在许多实际问题中，我们常常需要研究多个变量之间的相互关系。 一般来说，变量之间的关系可分为两类： 一类是确定性关系，确定性关系是指变量之间的关系可以用函数关系来表达，例如电流I电压V电阻R之间有关系式V=IR。 另一类是非确定性关系，有些变量之间的关系是非确定性的关系，这种关系无法用一个精确的函数式来表示。 例如，农作物的单位面积产量与施肥量之间有密切的关系，但是不能由施肥量精确知道单位面积产量，这是因为单位面积产量还受到许多其他因素及一些无法控制的随机因素的影响。 又如，人的身高与体重之间存在一种关系，一般来说，人身高越高，体重越大， 但同样高度的人，体重却往往不同。这种变量之间的不确定性关系称之为相关关系。 一、 一元线性回归模型 例1 对某广告公司为了研究某一类产品的广告费用x与其销售额Y之间的关系，对多个厂家进行调查，获得如下数据 画出散点图如图9-1所示.从图中可以看出，随着广告投入费x的增加，销售额Y基本上也呈上升趋势，图中的点大致分布在一条向右上方延伸的直线附近.但各点不完全在一条直线上，这是由于Y还受到其他一些随机因素的影响. 二、 参数a、b、 的估计 为了计算上的方便, 引入下述记号: 这样a,b的估计值可写成 为了计算Qe, 将Qe作如下分解: 可以证明, 作为统计量的残差平方和Qe服从分布 即知E(Qe/(n-2))=s2. 这样就得到了s2的无偏估计量: 例2(续例1) 求Y关于x的线性回归方程.解 现在n=9, 所需计算列表如下表 于是得到回归直线方程 补充例题 为研究某一化学反应过程中, 温度x(°C)对产品得率Y(%)的影响, 测得数据如下.求y关于x的一元线性回归方程. 解 现在n=10, 所需计算列表如下表 于是得到回归直线方程 下面求s2的无偏估计.解 由上表得 三、线性回归的显著性检验 （1）x对Y没有显著影响； （2）x对Y有显著影响，但这种影响不能用线性相关关系来描述； （3）影响Y取值的，除x外，另有其他不可忽略的因素. 四、 预测 第二节 可线性化的非线性回归 在实际问题中，常常会遇到这样的情形：散点图上的几个样本数据点明显地不在一条直线附近，而在某曲线周围： 例1 在彩色显像技术中，考虑析出银的光学密度x与形成染料光学密度Y之间的相关关系，其中11个样本数据如下所示： 第三节 多元线性回归简介 习题9—1、2、3 1．在一元线性回归模型中，试证：未知参数a、b的最小二乘估计恰是极大似然估计. 2．通过原点的一元线性回归模型为 试由独立样本观测值（xi, yi）（i=1,2,…,n），采用最小二乘法估计b. 3．为了研究钢线含碳量（单位：%）x对于电阻（单位：微欧）Y在20℃下的效应，作了7次试验，得数据如下： ① 画出散点图； ② 求出经验回归方程； ③ 试求相关系数R的值，并在显著性水平 下检验 。 4．某种产品在生产时产生的有害物质的重量（单位：克）Y与它的燃料消耗量（单位：千克）x之间存在某种相关关系。由以往的生产记录得到如下数据。 ① 求经验回归方程； ② 试进行线性回归的显著性检验（ ）； ③ 试求x0=340时Y0的预测区间（ ）。 5．气体的体积（单位：立方米）v在压力（单位：标准大气压）p之间的一般关系为pvk=c. 今对某种气体测试到下列数据： 试对参数k，c进行估计. 6．今有4个物体，按下述方法称重，得到如下数据： 其中1表示该物体放在天平左端，-1表示该物体放在天平右端，Y是使天平达到平衡时，在天平右端所加砝码的重量。试用最小二乘法估计这4个物体的重量。 第四节 方差分析 在实际问题中，影响一事物的因素往往是很多的。 例如，在化工生产中，有原料成分、原料剂量、催化剂、反应温度、压力、反映时间等因素，每一因素的改变都有可能影响产品的质量。 有些因素影响较大，有些影响较小. 方差分析就是根据试验的结果进行分析，鉴别各有关因素对试验结果影响的有效方法。 例1 某消防队要考察4种不同型号冒烟报警器的反应时间（单位：秒）。今将每种型号的报警器5个安装在同一条烟道中，当烟量均匀时观测报警器的反应时间，得数据如下： 综上所述，得出单因素方差分析要