多因素回归知识点点小结.docx

多因素回归知识点总结一.哑变量因变量：即结果变量、应变量、被预测变量自变量：即协变量、解释变量、预测变量哑变量：回归分析中有两组以上的分组情况。若自变量是无序多分类变量，需要“哑变量化”处理。方法是设置“分组数减1”个指示变量。职业g1g2g3g4工人1000农民0100商人0010学生0001其他0000uy＝u0＋b1×g1＋b2×g2＋b3×g3＋b4×g4则学生组总体均数为u0＋b4×g4二.混杂因素控制举例：是否服药（分现服药组、曾服药组、从未服药组）、年龄两个因素对血糖的影响若只考察“是否服药”一个因素，哑变量化是否服药g1g2现服药10曾服药01从未服药00uy＝u0＋b1×g1＋b2×g2则g1、g2的P值皆＜0.05，说明血糖受“是否服药”影响但发现3组人的年龄是不同的，因此必须排除年龄是否是混杂因素考察“是否服药”和年龄两个因素uy＝u0＋b1×g1＋b2×g2＋b3×X发现g1、g2的P值皆＞0.05，而X的P值＜0.05,说明3组血糖不同其实是由于年龄不同导致，“是否服药”反而是混杂因素理论上，更严格的实验要求分析“是否用药”与年龄是否对血糖构成交互作用三.影响因素的筛选1.最优预测模型：需满足以下三个条件：①自变量个数一定时，残差的平方和最小②进入回归模型的自变量都有统计学意义③再增加任一自变量，会导致更多自变量失去统计意义2.寻求最优预测模型方法：①前进法：计算所有自变量的P值，从P值最大的开始，逐个纳入自变量，出现有P值＞0.05则剔除新加自变量，直到有统计学意义的自变量全部进入回归模型。缺点：后续变量的引入可能会使先进入方程的变量变得不重要②前进逐步回归法：计算所有自变量的P值，从P值最大的开始，逐个纳入自变量，出现有P值＞0.05则剔除无统计意义且P值最大的自变量，依次循环引入、剔除，直到回归模型中所有自变量都有统计学意义，且再增加任一自变量，会导致更多自变量失去统计意义③后退法：纳入所有自变量，先剔除无统计学意义且P值最大的自变量，再次计算并依前标准剔除，直到模型中所有自变量都有统计学意义。优点：考虑到了自变量的组合作用，选中的自变量数目一般会比前进法选中的多。缺点：当自变量数目较多或有某些自变量高度相关时，可能得不出正确的结果④后退逐步回归法：纳入所有自变量，先剔除无统计学意义且P值最大的自变量，再次计算并依前标准剔除，剔除后还要考察已剔除的自变量是否能回纳入回归模型，直到既没有自变量可以引入，也没有自变量要剔除为止3.举例：有5个自变量X1～X5X1X2X3X4X5说明步骤1回归系统b0.1750.513-0.1160.9450.348全部纳入，X3的P值最大，先剔除P值0.0970.0110.7120.0560.454步骤2回归系统b0.1380.5240.8830.407重新计算，X5的P值最大，故剔除P值0.0000.0080.0520.342步骤3回归系统b0.1350.5451.045所有自变量均有统计学意义，但仍要回纳X3是否可以重新进入P值0.0000.0050.014步骤4回归系统b0.1990.521-0.1981.111回纳后X3仍无统计学意义，不应纳入P值0.0480.0090.4990.0134.决定系数R2R2越接近1，说明拟合情况越好，R2＝0.8说明因变量80%的变异是由自变量的变化引起的R2＝1－SS残差－SS总R2随自变量个数的增加而增加，因此，在相近的情况下，以包含的自变量个数少者为优校正R2a＝1－MS残差－MS总R2a不会随无意义的自变量增加而增大；R2一定时，P值越大，R2a越小四.变量的交互作用1.多个自变量之间可能有交互作用，如果自变量的一次项不足以解释Y的变异，有时还需考虑两个自变量的“额外效应”，又称“交互作用”2.交互作用的回归方程：uy＝u0＋b1×X1＋b2×X2＋b3×X1×X23.是否引入交互作用主要根据研究背景知识，引入后需要进行统计检验五.共线性问题1.共线性：当自变量之间存在较强的相关关系时，称之为共线性。会导致回归系数的估计值失真。2.何时考虑存在自变量共线性：①整个回归方程有统计学意义，但是每个自变量的均无统计学意义②回归系数的符号与医学专业知识不一致③参数估计的标准误变得很大，使t值变得很小，P值很大3.判断方法：利用自变量间的相关系数阵。若r ＞0.9，共线性可能性大4.处理方法：根据专业知识去除比较次要的、缺失值较多、测量误差较大的共线性因子六.多重线性回归、Logistic回归、Cox回归的比较1.相同点：①对自变量没有要求，可以是定性变量（计数变量，可包括有序、无序），也可以是定量变量②自变量为定性变量时，分组多于两个时注意哑变量化③若自变量之间有较强相关关系，则会出现“共线性”问题，使回归分析结果无法合理解