《概率论与数理统计》课件 概率学与数理统计 第十章.pptxVIP

第10章 回归分析;在实际问题中，经常会遇到这样一类问题:要考察若干因素对我们所关心的某个指标的影响. 例如，研究男性成年人的身高与他们父母身高之间的关系. 又如，研究农作物的产量与施肥量、浇水量、气温等的关系. 回归分析方法是处理这种多个变量之间相关关系的一种数学方法.是数理统计中的常用方法之一.;本章内容;第一节 一元线性回归;具有相关关系的变量之间虽然具有某种不确定性，不能用完全确定的函数形式表示，但通过对它们之间关系的大量观察，可以探索出它们之间的统计规律，如在平均意义下往往有一定的定量关系，研究这种定量关系表达式就是回归分析的主要任务，它主要解决以下几方面问题:;先考虑两个变量的情形. 设随机变量y 与x 之间存在着某种相关关系. 这里x 一般是可以控制或可精确观察的变量，看作是非随机变量，如在产量与施肥量的关系中,施肥量是能控制的，可以随意指定几个值x1 ， x2 ，… ， xn ，故可将它看成普通变量，称为自变量，而产量y 是随机变量，无法预先作出产量是多少的准确判断，称为因变量. 本章只讨论这种情况;由x 可以在一定程度上决定y，但由x 的值不能准确地确定y 的值. 为了研究它们的这种关系，我们对(x，y) 进行一系列观测，得到一个容量为n 的样本(x 取一组不完全相同的值)：(x1 ，y1) ， (x2 ， y2) ， … ， (xn ， yn)，其中yi 是x =xi 处对随机变量y 观察的结果. 每对(xi ， yi) 在直角坐标系中对应一个点，把它们都标在平面直角坐标系中，称所得到的图为散点图. 如图10 - 1.;由图10 - 1(a)可看出散点大致地围绕一条直线散布，而图10 - 1(b)中的散点大致围绕一条抛物线散布，这就是变量间统计规律性的一种表现.;如果图中的点像图10 - 1(a)中那样呈直线状,则表明y 与x 之间有线性相关关系,我们可建立数学模型; 因为x 不能严格地确定y ，故带有一随机误差项ε ，一般假设ε~N(0 , σ2)，因而y也是随机变量，对于x的每一个值有y ~N(a+bx ， σ 2)，其中未知数a ， b ， σ2 不依赖于x ，(10.1) 式称为一元线性回归模型(Univariable linear regreesion model). 特别地，由于y 是随机变量，a ， b 为未知数，x 一般是非随机变量，对(10.1)两边求数学期望，??有;称为y 关于x 的线性回归方程或回归方程，其图形称为回归直线. 从这里可以看出，回归方程的因变量其实是y的数学期望(均值). (10.2)式是否真正描述了变量y与x 客观存在的关系，还需进一步检验.;实际问题中，随机变量y 有时与多个普通变量x1 ， x2 ， … ， xp (p 1) 有关，可类似地建立数学模型; （10.4）;第二节 回归系数的最小二乘法;例10.1 测得某种物质在不同温度x 下吸附另一种物质的量y ，如表10 - 1所示.; （10.5）;直观地说,平面上直线很多,选取哪一条最佳呢? 很自然的一个想法是，当点 (xi ， yi)， i=1 ， 2 ， … ， n ，与某条直线的偏差平方和比它们与任何其他直线的偏差平方和都要小时，这条直线便能最佳地反映这些点的分布状况，并且可以证明,在某些假设下，a和b是所有线性无偏估计中最好的. 根据微分学的极值原理，可将 Q(a，b) 分别对a，b 求偏导数，并令它们等于零.; （10.6）;由于xi 不全相同，正规方程组的系数行列式;于是,所求的线性回归方程为;上述确定回归直线所依据的原则是使所有观测数据的偏差平方和达到最小值. 按照这个原理确定回归直线的方法称为最小二乘法. “二乘”是指 Q 是二乘方(平方) 的和. 如果y 是正态变量,也可用极大似然估计法得出相同的结果.;这样，a ，b的估计可写成;例10.2 由例的数据得;例10.3 某企业生产一种毛毯,1~10月份的产量x 与生产费用支出y 的统计资料如表10 -2. 求y 关于x 的线性回归方程.;于是,所求的线性回归方程为;;对Q分别关于b0 ，b1 ，… ， bp求偏导数,并令它们等于零，得;即;(10.13)式称为正规方程组，引入矩阵;于是()式可写成;例10.4 见表10-4，某一种特定的合金铸品，x和z表示合金中所含的A 及B 两种元素的百分数，现x 及z各选4种，共有4×4=16种不同组合，y表示各种不同成分的铸品数，根据表中资料求二元线性回归方程.;解 由()式，根据表中数据，得正规方程组;第三节 回归效果的显著性检验;综上所述，当且仅当b ≠0时，变量y 与x 之间存在线性相关关系. 因此我们需要检验假设:;若拒绝 H0，则认为y与x 之间存在线性关系，所求