应用统计学主成分分析.pptVIP

从协方差矩阵出发求解主成分的步骤：求解各观测变量的协方差矩阵。由协方差阵求出其特征根。各特征根对应的特征向量。计算累积贡献率，给出恰当的主成分个数。计算所选出的k个主成分的得分。由相关矩阵求解主成分当分析中所选择的经济变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。1量纲对于主成分分析的影响及消除方法——对数据进行标准化处理，以使每一个变量的均值为0，方差为1。2主成分与原始变量的关系式为：数据标准化后,总体的协方差矩阵与总体的相关系数相等.例：企业经济效益综合分析。用5个经济指标进行考核。用相关系数矩阵法求解主成分。其中计算出的相关系数矩阵为：计算其特征值：各特征值的累计方差贡献率为：从以上方差贡献率看，k=2时主成分个数较为合适。对应的特征向量为：建立第一和第二主成分：从相关系数矩阵出发求解主成分的步骤：标准化各观测变量数据。求解标准化各观测变量的相关系数矩阵。求解相关系数矩阵的特征根。求解各特征根对应的特征向量。主成分性质1，主成分的协方差阵为对角阵P个随机变量的总方差为协方差矩阵?的所有特征根之和说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。当进行相关系数矩阵求解主成分，各变量标准化后，则p个主成分总的方差之和等于p。0102贡献率：第i个主成分的方差在全部方差中所占比重，称为贡献率，反映了原来P个指标多大的信息，有多大的综合能力。累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重来描述，称为累积贡献率。原始变量与主成分之间的相关系数（因子负荷量）和的相关密切程度与对应线性组合系数向量成正比，与主成分标准差成正比，与原始变量的标准差成反比。当原始变量标准化后，标准化变量与主成分的相关关系：变量X样本协方差为总体协方差的无偏估计相关矩阵R为总体相关矩阵的估计样本主成分求解若X已标准化，则可用相关矩阵代替协方差矩阵重庆交通大学管理学院**重庆交通大学管理学院**重庆交通大学管理学院**主成分分析主成分：由原始指标综合形成的几个新指标。依据主成分所含信息量的大小成为第一主成分，第二主成分等等。主成分分析：将原来较多的指标简化为少数几个新的综合指标的多元统计方法。主成分与原始变量间的关系：主成分保留了原始变量绝大多数信息。主成分的个数大大少于原始变量的数目。各个主成分之间互不相关。每个主成分都是原始变量的线性组合。主成分分析的运用：对一组内部相关的变量作简化的描述用来削减回归分析或群集分析(Cluster)中变量的数目用来检查异常点用来作多重共线性鉴定用来做原来数据的常态检定二、数学模型与几何解释－数学模型假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，…，Xp，主成分分析就是要把这p个指标的问题，转变为讨论p个指标的线性组合的问题，而这些新的指标F1，F2，…，Fk(k≤p），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。满足如下的条件：每个主成分的系数平方和为1。即主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即F1、F2….Fp分别称为原变量的第一、第二….第p个主成分。数学模型与几何解释－几何解释为了方便，我们在二维空间中讨论主成分的几何意义：设有n个样品，每个样品有两个观测变量xl和x2，在由变量xl和x2所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl的方差和x2的方差定量地表示。显然，如果只考虑xl和x2中的任何一个，那么包含在原始数据中的经济信息将会有较大的损失。如果我们将xl轴和x2轴先平移，再同时按逆时针方向旋转?角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。平移、旋转坐标轴???????????????????????????????????????????????????????????????????????????平移、旋转坐标轴??