数据挖掘——第八章因子分析.ppt

建模;小组案例分析;小组大作业;重点;引入;降维思路： ;一、因子分析的基本理论;3、应用方面;应用第一方面：寻求基本结构;应用第二方面：数据简化 ; 把每个研究变量分解为几个影响因素变量，将每个原始变量分解成两部分因素，一部分是由所有变量共同具有的少数几个公共因子组成的，另一部分是每个变量独自具有的因素，即特殊因子。;因子分析原理; 4、因子分析模型 ; （1） （2）;（3）;5、因子分析的目的 因子分析的目的之一，简化变量维数。即要使因素结构简单化，希望以最少的共同因素（公共因子），能对总变异量作最大的解释，因而抽取得因子愈少愈好，但抽取因子的累积解释的变异量愈大愈好。 在因子分析的公共因子抽取中，应最先抽取特征值最大的公共因子，其次是次大者，最后抽取公共因子的特征值最小的，通常会接近0。 ;案例1：在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。 但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店进行综合评价。而这三个公共因子可以表示为：;;;6、因子分析模型中的几个重要统计量的意义 （1）因子负荷量（或称因子载荷）----是指因子结构中原始变量与因子分析时抽取出的公共因子的相关程度。 ; 注意： 在各公共因子不相关的前提下， （载荷矩阵中第i行，第j列的元素）是随机变量xi*与公共因子Fj的相关系数，表示xi*依赖于Fj的程度。反映了第i个原始变量在第j个公共因子上的相对重要性。因此 绝对值越大，则公共因子Fj与原有变量xi的关系越强。;（2）共同度----又称共性方差或公因子方差（community或common variance）就是观测变量的方差中由公因子决定的比例。当因子正交时，等于每个公共因子之负荷量的平方总和（一行中所有因素负荷量的平方和）。变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记为 ;统计意义： ;;（3）特征值----是第j个公共因子Fj对于X*的每一分量Xi*所提供的方差的总和。又称第j个公共因子的方差贡献。即每个变量与某一共同因子之因子负荷量的平方总和（因子载荷矩阵中某一公共因子列所有因子负荷量的平方和）。 ;（4）方差贡献率 实际中更常用的指标 --指每个因子所解释的方差占所有变量总方差的比例。即公共因子对实测变量的贡献， 变量方差贡献率=特征值G/p， 是衡量公共因子相对重要性的指标， Gi越大，表明公共因子Fj对X*的贡献越大，该因子的重要程度越高; 7、主成分分析分析principal components与因子分析的联系和差异 联系：（1）因子分析是主成分分析的推广，是主成分分析的逆问题。（2）二者都是以‘降维’为目的，都是从协方差矩阵或相关系数矩阵出发。 区别：（1）主成分分析模型是原始变量的线性组合，是将原始变量加以综合、归纳，仅仅是变量变换；而因子分析是将原始变量加以分解，描述原始变量协方差矩阵结构的模型；只有当提取的公因子个数等于原始变量个数时，因子分析才对应变量变换。（2）主成分分析，中每个主成分对应的系数是唯一确定的；因子分析中每个因子的相应系数即因子载荷不是唯一的。（3）因子分析中因子载荷的不唯一性有利于对公共因子进行有效解释；而主成分分析对提取的主成分的解释能力有限。 目的不同！一个侧重降维，一个侧重解释！ ;二、因子分析的基本内容;（3）因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可解释性。 （4）计算因子得分 通过各种方法求解各样本在各因子上的得分，为进一步分析奠定基础。 ;2、因子分析前提条件——相关性分析 分析方法主要有： （1）计算相关系数矩阵(correlation coefficients matrix) 如果相关系数矩阵中的大部分相关系数值均小于0.3，即各变量间大多为弱相关，原则上这些变量不适合进行因子分析。 （2）计算反映象相关矩阵（Anti-image correlation matrix) ; 反映象相关矩阵，如果其主对角线外的元素大多绝对值较小，对角线上的元素值较接近1，则说明这些变量的相关性较强，适合进行因子分析。 其中主对角线上的元素为某变量的MSA(Measure of Sample Adequacy)： 是变量 和变量 （ ）间的简单相关系数，是变量 和变量 （ ）在控制了其他变量影响下的偏相关系数，即净相关系数。 取值在0