第六讲因子分析.doc

第五讲 因子分析 在许多实际问题中，涉及的变量众多，各变量间还存在错综复杂的相关关系，这时最好能从中提取少数综合变量，这些综合变量彼此不相关，而且包含原变量提供的大部分信息。因子分析就是为解决这一问题提供的统计分析方法。 以后，如无特别说明，都假定总体是一个p维变量： 它的均值向量，协方差矩阵V=((ij)p(p都存在。 第一节 正交因子模型 1．1 公共因子与特殊因子 从总体中提取的综合变量：F1, F2, … , Fm(mp)称为（总体的）公共因子。一般来说，公共因子不可能包含总体的所有信息，每个变量Xi除了可以由公共因子解释的那部分外，总还有一些公共因子解释不了的部分，称这部分为变量Xi的特殊因子，记为：(i。 于是，我们有： 变量Xi的信息＝公共因子可以表达部分 (公共因子不可表达部分 这就是所谓因子模型。目前，公共因子可以表达的部分由公共因子的线性组合表示。即上面的因子模型可以写成以下的形式： 1．2 正交因子模型 设总体，均值向量，协方差矩阵。因子模型有形式： 其中mp，F1,F2,…,Fm称为所有变量的公共因子；(i称为变量Xi的特殊因子。 如果引入以下向量与矩阵： 则因子模型的矩阵形式为： 对于正交的因子模型，还要进一步要求： z1. 。即有： 公共因子是互相不相关的。 z2. 。即： 特殊因子和公共因子不相关。 1．3 因子载荷矩阵 1．矩阵A称为因子载荷矩阵(component matrix)，系数aij称为变量Xi在因子Fj上的载荷(loading)。由于 特别，如果总体是标准化的，则有Var(Xi)=1，从而有： 于是： 即变量Xi在公共因子Fj上的载荷aij就是Xi与Fj的相关系数。 2．载荷矩阵的估计：主成分法。 主成分法是估计载荷矩阵的一种方法，由于其估计结果和变量的主成分仅相差一个常数倍，因此就冠以主成分法的名称。在学到这里的时候，不要和主成分分析混为一谈。主成分法是SPSS系统默认的方法，在一般情况下，这是比较好的方法。以数据“应征人员”为例，按特征值大于1提取公共因子。在用不同方法获得因子载荷时，公共因子对总体方差的贡献率以主成分法为最高： 方 法 贡 献 率 % Principle components 81.476 Maximum likelihood 74.304 Unweighted least squares 74.485 Principal axis factoring 74.462 Alpha factoring 74.540 Image factoring 69.365 关于主成分法的内容可参看任何一本多元统计分析书，例如：《应用多元统计分析》，高惠璇著，北京大学出版社，p301。 1．4 因子模型的不唯一性 设T是一个正交矩阵，由，因子模型 与模型 等价。后者载荷矩阵为AT，新的公共因子为。 第二节 变量的共同度与因子的方差贡献率 3．1 变量的共同度 定义 载荷矩阵A的第i行元素的平方和： 称为变量Xi的共同度(communality)。 共同度表示公共因子能在多大的程度上解释变量Xi。关于这一点，可从分析变量Xi的方差入手： 注意到正交因子模型的假设：Var(Fk)=1，k=1,…,m；另外，记Var((i)=(i2。于是得： 这就是把变量Xi的方差分解为两部分：一部分是，它是由公共因子产生的；另一部分是，是由特殊因子产生的。所以共同度被理解为公共因子能够解释原有变量的程度。对于标准化的变量，Var(Xi)=1，因此有： 2．2 公共因子的方差贡献率 定义 载荷矩阵A第j列的平方和： 称为因子Fj对总体的贡献(initial eigenvalues)。 第三节 方差最大正交旋转 3．1 因子旋转的意义 1．正交因子模型只是一个数学模型，所得的因子在专业上不一定能反映问题的实质，或者说：因子作为一个综合变量，其专业意义在许多情况下不容易解释。因子旋转就是针对这一问题，提出的一种改进的方法。 2．因子旋转的依据：因子模型的不唯一性。 正是由于因子模型的不唯一性，如果模型 不适合专业解释，那么作一个正交变换T，模型改变为： 在新模型中再去寻找因子的专业解释。 3．2 方差最大正交旋转 *1．因子载荷的离散程度 因子Fj在总体上载荷的分散程度可以通过以下一组“标准化”的载荷平方值表示： 令 于是因子Fj的载荷离散平方和： 全部公共因子载荷的离散总平方和： 2．方差最大化正交旋转(Varimax) 选择正交变换（矩阵）T，使得经变换后的因子模型： 的公共因子具有最大的载荷离