多元线性回归.ppt

Adj R-Sq :校正决定系数 为避免因自变量增加， R-Square增大的不合理现象，提出Adj R-Sq 。 可见，校正决定系数是相对SS残与SS总的自由度进行的加权调整。 应 用 偏回归系数β βj ：表示在其他自变量保持不变时，自变量Xj每增加（或减少）一个计量单位，应变量Ｙ平均变化βj个单位，描述Y与Xj的数量关系； βj有量纲，如要比较Xi与Xj对Y的影响程度，不能直接根据βi与βj的绝对值大小下结论，要消除量纲的影响，将βi与βj标准化。 多元线性回归 Multiple Regression 基本概念 例 以8岁正常男童的 体重 X1 心脏纵径 X2 儿童心脏面积Y 胸腔横径X3 推算 基本概念 例: 人的体重与身高、胸围 血压值与年龄、性别、劳动强度、饮食习惯、吸烟状况、家族史 糖尿病人的血糖与胰岛素、糖化血红蛋白、血清总胆固醇、甘油三脂 射频治疗仪定向治疗脑肿瘤过程中，脑皮质的毁损半径与辐射的温度与照射的时间 基本概念 多元（重）线性回归 研究2个或2个以上自变量Xi与1个应变量Y的线性关系。 是简单线性回归的扩展形式，旨在建立多个自变量与一个应变量之间的数量依存关系，从而对应变量更为准确地预报。 回归模型 β0：常数项，截距，指当所有自变量X1、X2、…Xm均为0时，应变量Ｙ的总体平均值μY βj（j=1,2,…,m) ：自变量Xj的总体偏回归系数,表示在其他自变量保持不变时，自变量Xj每增加（或减少）一个计量单位，应变量Ｙ平均变化βj个单位 回归方程 从样本数据出发，建立的样本回归方程 =b0+b1x1+b2 x2 +…+bmxm : Y的平均估计值 b0 ，b1，b2，…..，bm：参数β0 ,β1, … ,βm的估计值，即常数项和偏回归系数 基本任务 从具有n个样品的m个自变量与1个应变量的样本观测数据出发，建立Xi与Y关系的线性回归方程表达式； 对所建立的多元线性回归方程进行假设检验： 各βi（i=1 2 ….m）不全等于0 ； 对每一变量进行假设检验： H0：某一βJ不等于0 ； 应用：描述、预报与控制。 多元回归分析所要求的条件 LINE 样本量要求：一般样本含量要求是参与分析的变量（自变量+因变量）个数的5~10倍,对多元线性回归甚至要求20倍（粗略估计）。 数据准备---数据格式 数据准备----随机缺失的处理 不完全数据样品：1个样品中有一个或几个变量值缺失。“缺失”分为非随机缺失、随机缺失。 随机缺失的处理 样本含量大，不完全数据样品小，删除该样品； 样本含量小，需利用不完全数据样品 ※ 用该变量的均数值代替； ※ 缺失值变量与其他变量相关程度大，则建立该缺失 变量与其他变量的回归方程，据此推算缺失值； ※ 其他处理办法 数据准备----量化 定量资料是否需要进行转换？ 定性资料数量化 回归方程的建立 参数估计原理 根据最小二乘法原理，通过对微分方程组求偏导数，解出常数项b0 （或待定系数）和偏回归系数b1，b2…..bm。 最小二乘法原理 使得实际观察值Yi与回归方程的估计值 之间的残差平方和最小。 正规方程矩阵形式与解的矩阵形式 B为方程的解 B=(X’Ｘ)-1 X’Y中 1 x11 x12 …x1m y1 b0 X= 1 x21 x22 …x2m Y= y2 B = b1 ……………… … … 1 xn1 xn2 …xnm ym bm X’X：各自变量取值的平方和与交叉乘积和矩阵 X’Y：各自变量与应变量的交叉乘积和向量，略 回归效果的检验 建立回归方程后，需要进行假设性检验 　　　　　　 　　　　　整个模型的假设检验 　　　　　各回归参数的假设检验 整个模型的假设检验 建立检验假设和备择假设H0 : β1=…βm =0 ,H1 : β1 ,…,βm不全为0 整个模型的假设检验 方差分析 整个模型的假设检验 判断结果