SPSS社会科学统计软件-第12章主成分分析和因子分析.ppt

数据统计分析

—主成分分析与因子分析学习目标12.1基本原理12.1.1因子分析12.1.2主成分分析12.2基本分析过程12.2.1分析过程的选择12.2.2个例分析过程在进行调查研究时，经常需要同时调查或分析许多变量，这些变量可能归为几类，而每一类均具有相同的本质，常被称为因子（Factor）。因此，因子分析是一种用来决定某些变量的本质及其分类的一种统计方法，主成分分析是因子分析的重要特例。本章将描述因子和主成分分析的数学模型、计算方法及其基本选择。因子分析与主成分分析有很多共性，都是对内部具有高度相关性的变量做资料精简工作，分析时将所有变量都等权对待，无自变量和因变量之分。但这两种方法在使用上还有些差异的(王保进，2007)，主成分分析是选择一组彼此独立的成分（component），以简化原来的数据关系，尽可能解释变量原来的差异；而因子分析则由变量间内部相关关系，找出并解释共同的差异，反映变量间潜在的基本结构，以解释变量间的相关。主成分分析主要分析各个变量的方差，因子分析则主要分析变量之间的协方差。也有人认为，因子分析与主成分分析都在寻找几个不可观察的因子，但是主成分分析的不可观察主成分是所有变量的线性函数，没有误差；因子分析是将变量分成共同因子与独特因子（含测量误差）两部分，变量是所得到不可观察因子的线性函数。这两种方法的差异见图12.1。12.1基本原理12.1.1因子分析因子分析起源于心理学的一种多变量分析方法，在心理学研究领域中，研究者对一些个体的心理能力（智力、能力、伦理、传统和观念等）经常无法进行直接测量，因此用一些外显行为进行测量，并尝试从这些可测外显行为（变量）中，寻找共同因子来代表。1904年心理学家ChalesSpearman提出因子分析的设想，其基本思路是用少数几个潜在指标（因子）的线性组合，来表示实际存在的多个指标。即利用变量间的相关关系，找出这些变量间潜在的某个公共因子。假定界定某一行为的特征需要3个层面的因子，每个层面需要若干指标予以说明，以形成初步的测验，然后，选择合适的样本进行调查。指标总数和样本调查量的比例大致为1:（5~10），即如果调查某行为的4个层面20个指标，则至少需要调查200个样本。因子分析有两个方面应用：一方面是寻求基本结构，简化变量个数，即构造一个因子模型，确定模型中的参数（变量），然后根据分类结果进行因子解释；另一方面是对变量或样本进行分类，对公共因子进行估计，并作因子分析。因子分析的基本目的是用少数几个变量来描述多个变量间协方差关系，基本思想是根据相关性大小对变量分组，使组内变量间高相关、组间变量低相关，每组变量代表一个基本结构即因子。正交因子模型设x1、x2、…xp是p个随机变量，它们不是相互独立，而是有某些程度的相关。通常因子分析采用正交因子模型。就是说存在m个因子f1，f2，……fm（m≤p），使得x1、x2、…xp可以用它们的线性组合表示为：x1=a11f1+a12f2+……+a1mfm+ε1x2=a21f1+a22f2+……+a2mfm+ε2……xp=ap1f1+ap2f2+……+apmfm+εp其中f1，f2，……fm称为公共因子，是共同出现的各变量中的因子。ε1，ε2，……，εp是特殊因子，单个变量特有的因子，当主成分分析时特殊因子为0。ajk(即矩阵A中αjk)称第j个变量在第K因子载荷（或荷载）量，或者说，第j个变量与第K个因子的相关系数。荷载越大，则说明第j个变量与第K个因子的关系越密切；荷载越小，则说明第j个变量与第K个因子的关系越疏远。矩阵A称为因子载荷矩阵。因子载荷矩阵A中各行元素的平方和称为各变量X的公因子方差（共同度），可以证明var（xj）=hj2+σj2其中σj2是εj的方差。因此，变量xj的方差由两部分所组成，第一部分为公共因子方差hj2，是全部公共因子对变量xj的方差所作的贡献，亦即全部公共因子对变量xj所提供的方差之总和。第二部分是待定变量所产生的方差，称为特殊因子方差，它仅与变量xj本身的变化有关。因子载荷矩阵A中各元素的平方和称为公共因子fk的方差贡献，gk是同一公共因子fk对诸变量所提供的方差之总和，它是衡量公共因子相对重要性的指标。初始公共因子和初始因子载荷矩阵的确定因子分析的一个基本问题是如何用变量x1、x2、…xp的一组样本观察值(其中xjk是第K个随机变量xk的第j次观察值)来决定公共因子的个数，并确定因子载荷矩阵。通常，先用主成分分析求出初始公共因子和初始因子载荷矩阵，其步骤如下。x11、x12、…x1mx21、x22、…x2m…、、…、xp1、