[法学]11_第11章_主成分分析法20120527.ppt

主成分分析 实际问题中，同一个总体的p个指标之间往往存在着相关关系。主成份分析的主要目的是在这p个指标中寻找几个相互无关的综合性指标，使这几个综合性的指标性能反应出原来p个指标的信息。这些综合指标就是主成份。 将xl 轴和x2轴先平移，再同时按逆时针方向旋转?角度，得到新坐标轴Fl和F2，则 旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即yl的方差最大。变量yl代表了原始数据的大部分信息，在研究某些实际问题时，即使不考虑变量y2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。 yl，y2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的各点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。yl和y2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。 §3 主成分的推导及性质 一、两个线性代数的结论 2、若上述矩阵的特征根所对应的单位特征向量为 §4 主成分的性质 §5 样本的主成分 1、均值 2、原总体的总方差（或称为总惯量）等于不相关的主成分的方差之和 第十一章 多元统计分析 第十一章 多元统计分析 4、贡献率与累积贡献率 1）贡献率：第i个主成分的方差在全部方差中所占比重 ，称为第i个主成分的贡献率 ，反映了第i个指标提供多大的信息，有多大的综合能力 。 2）累积贡献率：前k个主成分共有多大的综合能力，用这m个主成分的方差和在全部方差中所占比重 来描述，称为累积贡献率。 第十一章 多元统计分析 累积贡献率大小反映m个主成分提取了 的多少信息，但没有表达某个变量被提取了多少信息，为此引人下述概念。 第十一章 多元统计分析 第十一章 多元统计分析 例: 设x1, x2, x3的协方差矩阵为 解得特征根为 第十一章 多元统计分析 第一个主成分的贡献率为5.83/（5.83+2.00+0.17）=72.875%，尽管第一个主成分的贡献率并不小，但在本题中第一主成分不含第三个原始变量的信息，所以应该取两个主成分。 相应的正交特征向量为 第十一章 多元统计分析 5 标准化变量的主成分及其性质 第十一章 多元统计分析 在实际问题中，总体的协方差阵通常是未知的，需要由样本方差阵估计。 记样本观测阵为 第十一章 多元统计分析 则样本协方差阵S和样本相关阵R分别为 第十一章 多元统计分析 一、样本主成分及其性质 第十一章 多元统计分析 1. 主成分得分阵 第十一章 多元统计分析 注意到 所以，主成分得分阵和标准化后的原始观测阵之间满足： 第十一章 多元统计分析 由样本数据矩阵进行主成份分析的步骤 （1）对原始数据进行标准化处理:x1=zscore(x)； （2）计算样本相关系数矩阵:cov(x),corrcoef(x) ； （3）求样本相关系数矩阵的特征值和特征向量 [v,d]=eig(x)；princomp(x); （4）选择重要的主成分，写出主成分表达式； （5）计算主成分得分； （6）依据主成分得分的数据，进行进一步的统计分析。 第十一章 多元统计分析 2. 样本主成分的性质 第十一章 多元统计分析 第十一章 多元统计分析 第十一章 多元统计分析 * * * * * * * §1 基本思想 第十一章 多元统计分析 §2 数学模型与几何解释 假设实际问题中有p个指标，我们把这p个指标看作p个随机变量，记为x1，x2，…，xp，主成分分析就是要把这p个指标的问题，转变为讨论p个指标的线性组合的问题，而这些新的指标y1，y2，…，yk(k≤p），按照保留主要信息量的原则充分反映原指标的信息，并且相互无关。这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。 第十一章 多元统计分析 主成分分析通常的做法，是寻求原指标的线性组合yi： 满足如下的条件： 第十一章 多元统计分析 (2) 主成分之间相互无关，即无重叠的信息。即 (3) 主成分的方差依次递减，重要性依次递减，即 (1) 每个主成分的系数平方和为1（否则其方差可能为无穷大），即 第十一章 多元统计分析 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、旋转坐标轴 o o 第十一章 多元统计分析 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 平移、