多因素线性回归概要.ppt

* 协方差分析的意义 未校正基线是比较两条水平直线的高度差异是否为0 ，校正基线后是比较两条非水平直线的平行距离是否为0 * 线性回归模型分析应注意问题 由于自变量之间往往存在一定的相关性，甚至有可能出现多个自变量的共线问题，以致回归系数的估计出现较大误差，甚至可能出现模型检验是有统计学意义的，但每个回归系数的单个系数检验显示差异无统计学意义，一般要通过筛选自变量或主成分方法解决。 多个自变量共线一般用膨胀系数表述。 * 线性回归模型分析应注意问题 设自变量为 ，以Xi为自变量，其他m-1个变量为自变量做线性回归，得到相应的决定系数R2，由此计算Xi的膨胀系数 如果存在某个VIFk10，则可以认为存在较严重的多元共线。 如果 远大于1，也可认定多元共线。 * 自变量的筛选策略 一般而言，自变量的筛选策略要根据研究问题和研究背景，分析研究背景，选择最合理的自变量进入模型。 例如：干预性研究，干预因素必须放入模型中，同时考虑哪些变量是对评价干预效果是有影响，并且要考虑这些因素能否对干预效果能否控制其混杂作用。 例如：要考查不同自变量与因变量之间的直接关系与间接关系。 * 自变量的筛选策略举例 例：为了研究糖尿病患者的C反应蛋白Y与年龄X1和体重指数X2的关系，某研究者调查了60名糖尿病患者，测量和收集了C反应蛋白Y（mg/L）与年龄X1和体重指数X2，试分析C反应蛋白与年龄和体重指数的关系。 * 自变量的筛选策略举例的数据 * 自变量的筛选策略举例 考虑模型1 考虑模型2 考虑模型3 * 自变量的筛选策略举例 模型1的拟合结果为 模型2的拟合结果为 * 自变量的筛选策略举例 模型3的拟合结果 3个模型结果综述如下 * 自变量的筛选策略举例讨论 模型1的结果虽然显示X1的P0.001，推断Y与X1呈线性回归关系，但当模型中增加一个自变量x2时（即：模型3），则X1的P值大大增加，P=0.605，无统计学意义，回归系数大幅度下降，而X2的P值0.001，其回归系数为0.233，比较模型中仅有一个自变量X2(模型2），其回归系数为0.251，两者相差很小，并且P值也0.001，进一步分析X1与X2的相关系数为0.702,P0.001，故可以推断模型1所得到的Y与X1的线性回归关系实际上是X1与X2相关并且Y与X2的线性回归关系而间接形成的。 * 逐步回归 如果作为探索性研究，对研究背景中的许多因素不太了解之间的关系，可以采用逐步回归作为各种关系的初探，其意义为寻找影响Y的主要因素。 一般而言，模型的参数越多，模型的拟合程度越好，残差平方和就越小，但回归系数的检验效能就越低，另外过多的参数会导致内部符合程度很好但外部的预测误差会很大，所以从外部预测误差和统计检验的效能角度，希望在基本相同的拟合程度情况下，参数越少越好。 * 逐步回归 逐步回归的基本准则是在满足模型中的所有自变量的回归系数的P值均小于?前提下，尽可能地使模型中引入的自变量个数达到最多。 严格地讲：逐步回归可以分为前进法(forward)，后退法(Backward)，逐步前进法(stepwise forward)和逐步后退法(stepwise backward)。 * 逐步回归 前进法：从未进入模型的自变量中挑选一个自变量进入模型，要求进入模型时，该自变量回归系数P值?并且比其他为进入模型的自变量的P值都小，每次只挑选一个自变量进入模型，直到在没有进入模型的自变量的P值（如果该变量进入模型） ?为止。 * 逐步回归 后退法：将所有待选的自变量全部进入模型，如果存在P值?的自变量，则挑选P值最大的自变量剔除模型中，然后再拟合模型，如果还存在P值?的自变量，则继续剔除P值最大的自变量，直到模型中所有自变量的P值均 ?为止。 * 逐步回归 逐步前进法：在前进法的基础上，每引入一个自变量，还需考察引入后模型中是否存在自变量?，如果存在某些自变量的P值?，则挑选P值最大的自变量剔除，然后再考察是否还存在自变量的P值?，如果还存在继续按照这个准则剔除，直到模型中的自变量的P均小于?，然后在从待选自变量中挑选P值最小并且P ?的自变量引入模型，依次循环，直至既没有变量可以引入模型，也没有变量可以剔除模型为止。 * 逐步回归 逐步后退法：在后退法的基础上，每剔除一个自变量，考察一下未进入模型的自变量中有没有自变量满足P?， 在P?的自变量中挑选P值最小的自变量进入模型，直至没有自变量可以进入模型后，继续在模型中挑选P值最大并且P?的自变量剔除，依次循环，直至既没有自变量可以剔除，也没有自变量可以引入为止。 * 逐步回归举例 例：为了研究影响糖尿病患者糖化血红蛋白（HbA1