spss第十九讲因子分析.docx

第十四讲因子分析

第一部分主成分分析

第二部分因子分析

第一部分主成分分析

1、主成分分析的基本原理

2、主成分分析的数学模型

主成分分析的步骤

)

主成分分析的基本原理

什么是主成分分析?

(principalcomponentanalysis)

主成分的概念由KarlPearson在1901年提出的。他是考察多个变量间相关性一种多元统计方法

研究如何通过少数几个主成分(principalcomponent)来解释多个变量间的内部结构。即从原始变量中导出少数几个主分量，使它们尽可能多地保留原始变量的信息，且彼此间互不相关。

主成分分析的目的：数据的压缩；数据的解释

常被用来寻找判断事物或现象的综合指标，并对综合指

标所包含的信息进行适当的解释

主成分分析的基本思想

以两个变量为例)

对这两个相关变量所携带的信息(在统计上信息往往是指数据的变异)进行浓缩处理

假定只有两个变量x?和x?,从散点图可见两个变量存在相关关系，这意味着两个变量提供的信息有重叠

如果把两个变量用

一个变量来表示，

同时这一个新的变

量又尽可能包含原

来的两个变量的信

息，这就是降维的

过程

主成分分析的基本思想

(以两个变量为例)

椭圆中有一个长轴和一个短轴，称为主轴。在长轴方向，数据的变化明显较大，而短轴方向变化则较小

如果沿着长轴方向设定一个新的坐标系，则新产生的两个变量和原始变量间存在一定的数学换算关系，同时这两个新变量之间彼此不相关，而且长轴变量携带了大部分的数据变化信息，

短轴变量只携带了一小

部分变化的信息(变异)

此时，只需要用长轴方

向的变量就可以代表原

来两个变量的信息。这

样也就把原来的两个变

量降维成了一个变量。

长短轴相差越大，降维

也就越合理

主成分分析的基本思想

以两个变量为例)

多维变量的情形类似，只不过是一个高维椭球，无法直观地观察

每个变量都有一个坐标轴，所以有几个变量就有几主轴。首先把椭球的各个主轴都找出来，再用代表大多数数据信息的最长的几个轴作为新变量，这样，降维

过程也就完成了

找出的这些新变量

是原来变量的线性

组合，叫做主成分

主成分分析的数学模型

主成分分析的数学模型

数学上的处理是将原始的p个变量作线性组合，作为新的

变量

设p个原始变量为x?,x?,…,x,新的变量(即主成分)为

yj,y?,…,y,,主成分和原始变量之间的关系表示为

主成分分析的数学模型

a为第个主成分%和原

来的第个变量考之间的

线性相关系数，称为载

荷(loading)。比如，

a?1表示第1主成分和原

来的第1个变量之间的

相关系数，a?1表示第2

主成分和原来的第1个

变量之间的相关系数

主成分的选择

选择几个主成分?选择标准是什么?

被选的主成分所代表的主轴的长度之和占了主轴总程度之和的大部分

在统计上，主成分所代表的原始变量的信息用其方差来表示。因此，所选择的第一个主成分是所

有主成分中的方差最大者，即Var(y;)最大

如果第一个主成分不足以代表原来的个变量，在

考虑选择第二个主成分，依次类推

这些主成分互不相关，且方差递减

主成分的选择

究竟选择几个主成分才合适呢?

一般要求所选主成分的方差总和占全部方差的80%以上就可以了。当然，这只是一个大体标准,具体选择几个要看实际情况

如果原来的变量之间的相关程度高，降维的效果就会好一些，所选的主成分就会少一些，如果原来的变量之间本身就不怎么相关，降维的效果自

然就不好

不相关的变量就只能自己代表自己了

主成分分析的步骤

主成分分析的步骤

对原来的p个指标进行标准化，以消除变量

在水平和量纲上的影响

根据标准化后的数据矩阵求出相关系数矩阵

求出协方差矩阵的特征根和特征向量

确定主成分，并对各主成分所包含的信息给予适当的解释

主成分分析

实例分析

例】根据我国31个省市自治区2006年的6项主要经济指标数据，进行主成分分析，找出主成

分并进行适当的解释

A

B

C

E

F

G

地区

人均GDP(元)

财政收入(万元)

固定资产投资(亿元)

年末总人口

万人)

居民消费水平(元/人)

社会消费品零售总额(亿元)

2

北京

504673296.4

1581

16770

3275.2

3

天津

41163

4170479

1820.5

1075

10564

1356.8

4

河北

16962

62