N08第八章因子分析.ppt

第八章 因 子 分 析 第一节什么是因子分析 因子分析是研究变量的相关矩阵的内部依赖关系，将多个变量综合为少数几个“因子”，以再现原变量与因子之间的相关关系。 因子分析起源与1904年Charles spearman等人发表的《对智力测验得分进行统计分析》的论文。他们发现，得分的不同主要归结为几个因素，是这几个因素决定了被测试者的得分。这些因素是“不可观测的”，称之为公因子。早期因子分析仅局限于心理学研究，后来随着计算机的发展，因子分析已广泛应用于许多领域，特别是经济领域。 因子分析主要应用于两个方面：一是寻求基本结构，简化观测系统。给定一组变量的观测数据，我们要问，变量是否需要这么多？是否存在一个变量子集，也可以解释整个问题？通常采用因子分析方法将变量综合成少数几个因子，再现因子与变量之间的相关关系，从而筛选变量。二是用于分类。进行因子分析后，根据因子得分，在因子空间对样本或变量进行分类。 因子分析与主成分分析既有联系，又有区别。 主成分分析是把主成分表示成原变量的线性组合。（当有p个非零特征根时） （主成 分与原 变量一 样多） 它是一种变量替换，由变量X可得F的观测值。 而因子分析是将原变量表示成因子的线性组合 而且要求m小于等于p，并且越少越好，且F是不可观测的，对每个变量都有影响，称为公因子。Si只对Xi有影响，称为特殊因子。 我们可以看出，当∑有p个非零特征根时，主成分分析和因子分析互为逆变换，每个主成分就是公因子，而没有特殊因子。 第二节正交因子模型 一、数学模型 对于一组变量 ， 假设有 用矩阵表示且满足1、2、3、 ，即F与S不相关4、 ，即 不相关且方差为1 5、  即各 不相关，方差为 ，称X具有因子结构，F称为公共因子，S称为特殊因子，也就是说F对每个 都起作用， 只对 起作用。 由上面假设可知， ，不妨设 的方差都为1，即 是标准化了的变量 二、因子载荷、公因子方差、特殊因子方差 由因子模型 由于 ，故 即 是原变量 与公共因子 的相关系数，称为变量 在公因子 上的载荷，A为载荷矩阵。另外其中 由上式可以看出 的方差由两部分解释。一部分是由各公因子决定的，称为公因子方差，也叫共同度。另一部分是由特殊因子决定的 ，叫特殊因子方差。 若 则说明几乎全部由公因子解释。  若 则说明几乎全部由特殊因子解释。 由于作了各 方差为1的假设，故  的总方差为  将载荷矩阵的各列平方和相加，得：  则  称为公因子 对 的方差贡献，是衡量公因子重要程度的量。 称为所有公因子对 的方差贡献。 三、公共因子不唯一 由因子模型 可以看出，若Γ为m×m正交矩阵 ，则上述因子模型可变为 其中 即若F是公共因子， 也是公共因子，可见公因子不唯一，这与主成分不一样。正是由于公因子的不唯一性，我们才可以经过适当得变换（旋转）求出意义最明显的公因子。 第三节因子荷载矩阵的估计方法 建立因子模型，关键是要根据样本数据矩阵估计公因子载荷矩阵A，对A的估计方法有很多。有主成分法，也叫主因子法，求约相关矩阵法等，我们这节主要介绍主成分法。 按着上