多重分析(一).ppt

Multivariate analysis 多变量分析 多重线性回归（Multiple linear regression ） 多元线性回归(Multivariable linear regression ） Logistic回归（Logistic regression） Cox回归（Cox regression） 主成分分析（principle component analysis） 因子分析（factor analysis） 聚类分析（Cluster Analysis ） 判别分析（Discriminant Analysis） 多元线性回归分析 多元线性回归分析是研究多个变量之间关系的回归分析方法, 按因变量和自变量的数量对应关系可划分为一个因变量对多个自变量的回归分析(简称为“一对多”回归分析)及多个因变量对多个自变量的回归分析(简称为“多对多”回归分析), 按回归模型类型可划分为线性回归分析和非线性回归分析。 当因变量个数大于1时称为多重回归 多元线性回归分析（Mulit variable linear regession） 人的体重与身高、胸围 血压值与年龄、性别、劳动强度、饮食习惯、吸烟状况、家族史 糖尿病人的血糖与胰岛素、糖化血红蛋白、血清总胆固醇、甘油三脂 射频治疗仪定向治疗脑肿瘤过程中，脑皮质的毁损半径与辐射的温度、与照射的时间 多元回归分析数据格式 第一节 多元线性回归 （一）多元线性回归模型的一般形式 （二）多元线性回归分析的一般步骤 二、多元线性回归方程的建立 各变量的离差矩阵 各变量的离差矩阵 建立多元回归方程 三、多元线性回归方程的假设检验及其评价 （一）回归方程的方差分析（所有回归系数为0） 有关计算公式 （二）有关评价指标 软件有关结果 1.残差标准差（ Root MSE ） 2.决定系数（ determination coefficient） 3.复相关系数（ multiple correlation coefficient） 4.校正决定系数（ Adjusted determination coefficient） 四、各自变量贡献大小的假设检验及其评价 （一）各回归系数的t检验 （二）标准化回归系数 （三）偏回归平方和（sum of squares for partial regression）及其F检验 实例计算 第二节 自变量的选择 一、全局择优法 校正决定系数（ Adjusted determination coefficient） （一） Cp准则的计算公式 （二） AIC准则的计算公式 应用以上准则如何选择模型？ SAS获得的几个准则值结果 全局择优法的局限性 二、逐步选择法 （一）前进法 （二）后退法 （三）逐步回归法 逐步回归法实例(令α入＝α出＝0.10) 逐步回归法实例（第一步） 逐步回归法实例（第二步） 逐步回归法实例（X1剔除否） 逐步回归法实例（第三步） 逐步回归法实例（X4/X1/X3剔除否） 逐步回归法实例（第四步） 逐步回归法实例（是否剔除） 逐步回归法实例（是否剔除） 例15-3的方差分析结果 例15-3的回归系数及其检验 第三节 多元线性回归的应用 及其注意事项 一、应用 二、应用条件 三、应用的注意事项 （一）变量的数量化 名义分类变量的哑变量化 （二）样本含量 （三）统计“最优”与专业的“最优” （四）多重共线性 多重共线性的识别与解决办法 （五）交互作用 （六）残差分析(检验应用条件) （六）(用标准化残差发现异常点) （七）偏相关系数 几个相关系数的区别 多重共线性之主成分回归 刚才说到了多重共线性，逐步回归等方法也是可以消除多重共线性的，除此之外，还有主成分回归，岭回归等。 要想明白什么是主成分回归，我们先来了解一下什么是主成分分析。 一、主成分分析的基本原理 二、计算步骤 （一）计算相关系数矩阵 rij（i，j=1，2，…，p）为原变量xi与xj的相关系数， rij=rji，其计算公式为： 三、 主成分分析方法应用实例 主成分回归 主成分回归就是把所有的自变量分解成不同的主成分，然后用主成分来代替原来的自变量，跟因变量进行的多元回归方法。这样就消除了多重共线性。 那么，大家思考一下，这样子，主成分回归会存在什么样的弱点？ 当某一自变量对应变量的作用大小与另一个自变量的取值有关时，则表示两个变量有交互作用（interaction）。 检验两变量间有无交互作用，普遍的做法是在方程中加入它们的乘积项再做检验。如考察X1、X2间的交互作用，可在模型中加入X1X2项。 一般标准化残差绝对值大于2考虑为异常点（outlier）（也称离群值） 人体