概率论 第八章 回归分析.ppt

* * § 8.1 回归分析 一、回归分析：如果变量Y和X之间有一定的联系，且在大量的试验中， Y和X之间的不确定关系能呈现出明显的规律性，研究Y和X之间的近似的函数关系的一种方法就是回归分析 例如： 1、某商品的需求量与价格 3、人的体重与身高 4、货币储蓄量与利率 2、某商品的供给量与价格 8.1.1 回归分析的概念 二、回归模型：回归分析中，变量Y和X之间的不确定关系不能用一个精确的函数关系表示出来，是因为有随机因素的影响，仿照函数中的称呼，把X对Y的影响用f(X)表示，随机因素对Y的影响用记作 e ,将Y的值分成两部分： Y= f(X)+e (1) 式(1)称为回归模型 1、 e为随机误差：一般要求其均值为 0 ，即E e = 0 2、Y为因变量：因有随机误差的影响，所以总是随机的 3、 X为自变量：有时是随机的，如从总体中随机抽取一个个体，测其Y和X值，这时所以Y和X都是随机变量；有时是非随机的，如货币储蓄量与利率，利率可人为给定。本章中，如无特别声明，一律设X为非随机变量。 三、回归方程：回归模型 Y= f(X)+e 中， 当X为非随机变量时， f(X) 也是非随机变量，而 E e =0, 于是有 EY= f(X) ，所以可以用f(X) 作为Y的近似。 当X为随机变量时， 求Y对X的条件期望，也有 E(Y|X)= f(X) 记 y=f(x) 则称 y=f(x) 为 Y对X的回归方程 1、 f(x) 称为回归函数 2、随机误差 e 的方差D e是回归模型的重要参数， D e的大小反映了f(X) 对Y 的近似程度： 因为 E[Y- f(X)] 2 = D e = σ2 所以 σ2 的大小反映了f(X) 对Y 的近似程度 E e = 0 ，并假定 D e = σ2 四、多元回归模型： 1、一元回归模型：回归模型 Y= f(X)+e 中，只含一个自变量 X ，称为一元回归模型 2、多元回归模型： 如果自变量有多个：X1 ， X2 ，? , Xp ，( p ? 2 ) 这时 Y= f(X1 ， X2 ，? , Xp ) + e ，其中E e = 0 则称为多元回归模型 注：线性回归模型是在应用上最重要且在理论上发展最完善 的回归模型 注：1o一元线性回归分析的过程是指依据对变量 X 与 Y 进行n 次独立观察得到的样本（X1 ,Y1 ), ( X2 ,Y2 ), ? , ( Xp , Yp) , 推断出其一元线性回归模型,并对其回归模型进行检验的过程 2o在应用上一元线性回归模型是利用其数据形式. 8.1.2 一元线性回归 1、理论模型：是指回归模型 Y= f(X)+e 中的 f(X) 为线性函数，即有 Y= β0+ β1 X+e E e = 0 ，0? D e = σ2 ? 其中β0 ， β1 为未知参数. β0 称为常数项； β1 称为回归系数，确切地说，是Y 对 X 的回归系数 一、一元线性回归模型： 2、一元线性回归模型的数据形式：对变量 X 与 Y 进行n 次独立观察得到的样本（X1 ,Y1 ), ( X2 ,Y2 ), ? , ( Xp , Yp) ,则理论模型具体化为 Yi= β0+ β1 Xi+ei i = 1,2,…,n E ei = 0 ，D e i= σ2 i = 1,2,…,n 其中e 1 , e 2 , … , e n 互相独立 注：依据对变量 X 与 Y 进行n 次独立观察得到的样本 （X1 ,Y1 ), ( X2 ,Y2 ), ? , ( Xp , Yp) ,推断出其一元线性回归模型, 实际上就是对 β0 , β1 进行估计 注：依据对变量 X 与 Y 进行n 次独立观察得到的样本 （X1 ,Y1 ), ( X2 ,Y2 ), ? , ( Xn , Yn) , 对 β0 , β1 进行估计时， 还须注意X 与 Y间线性关系的强弱 (a) (b)中X 与 Y间 线性关系强 (c) (d)中X 与 Y间 线性关系弱 (a) (