概率第二十二讲〔主成分分析〕.ppt

概率论与数理统计 经管02级 2003.12.18. 典型相关分析 随机变量X,Y的协方差、相关系数： 主成分分析与典型相关分析 主成分分析思路； 总体的主成分分析； 样本的主成分分析； 典型相关分析； 总体典型相关分析； 样本典型相关分析. 主成分分析 什么叫主成分分析? 股市找成分股。 选衬衫(领围)鞋(长)； 牵牛要牵牛鼻子； 如何发现主要矛盾? 主成分分析 某大学某班学生一年级13门课的成绩,排序会按总分(或平均分),高考按若干门课的总分划分数线。合理吗? 1901年Karl.Pearson提出了主成分分析。 分总体的和样本的. 总体主成分分析 p个随机变量组成一个p维随机向量X=(X1,X2,..,Xp),记其第i,j个分量Xi,Xj间的协方差为σij=Cov(Xi,Xj),它们组成协方差矩阵Σ=(σij)p×p,它的特征值为λ1≥λ2 ≥..≥λp≥0,相应的标准正交的特征向量是e1,e2,..,ep,则X的第i个主成分是： Yi=e’iX (i=1,2,..,p) 总体主成分分析 Excel可以求方矩阵的行列式值，求它的特征值和特征向量并不方便。 用Mathematica较方便； 可以用SPSS一类专门的统计软件来做[Principle Component Analysis). 即Analyze?Data Reduction ?Factor……[还有SAS等] 计算器的使用 分带与不带统计功能，带统计功能的计算器中又分一元与可做二元统计分析的两类。普通带统计功能的计算器可以算一批数据的均值、方差、标准差…… 有二元统计功能的计算器可以做一元线性或非线性回归。其特征：有 ΣXY 键. 计算器 有的计算器带强弱不同的统计功能。 一般有“STAT”字样的就有统计功能，可求一批数据的样本均值、样本标准差（无偏和有偏的都有，从而可求出方差）、数据和及平方和等。 有“∑xy”字样的计算器有二元统计功能。 计算器 右图是一台有“∑xy”字样的计算器，它有二元统计功能。 可以作二元线性和非线性回归。 具体用法应该可以从说明书中查到： 统计前的准备工作； 数据输入及修改； 统计结果的显示； 预测的使用法。 提纲 复习与回顾 知识点分布 概率论的基础 随机变量的基础 数字特征 计算技巧 回顾与建议 学了概率论与数理统计两大块; 查一查微积分、集合、计算方面的基础是否扎实； 分析和解决随机现象中问题的能力； 考试是能力的综合测试； 注重理论联系实际的能力。 概率论要掌握的预备知识 集合论 排列组合 基本微积分 计算技术 概率论部分 ㈠基础知识：事件，运算，概率的定义及计算，事件的关系，古典概型，贝努里概型; ㈡随机变量：定义，分布，类型，分布列、概率密度函数、分布函数，联合分布与边际分布; ㈢数字特征：定义，计算，性质。 概率的基本概念 事件 随机事件 不可能事件 必然事件 包含 相等 交与并 不相容(互斥) 对立(互补) 独立 0概率事件 1概率事件 概率的基本公式 随机变量 随机现象量化为一个变量，叫随机变量; 类型：离散型与连续型； 分布函数及其性质： 离散型的分布列及性质； 连续型的概率密度函数及性质； 重要的几类随机变量。 离散型随机变量 离散型的分布列为 则要求:1. pk≥0 2.∑pk=1 而EX=∑xk pk(要求绝对收敛.) EX2=∑xk2 pk DX= EX2－(EX) 2 连续型随机变量 连续型的概率密度函数为p(x), 则要求:1. p(x)≥0 2.∫p(x)dx=1 而EX=∫xp(x)dx(要求绝对收敛) EX2=∫x2p(x)dx DX= EX2－(EX) 2 随机向量 随机现象作为整体量化为几个变量，叫随机向量; 类型：离散型与连续型; 联合分布函数与边际分布函数; 离散型的联合分布列与边际分布列; 连续型的联合概率密度函数与边际概率密度函数。 数字特征的性质 数字特征的性质： 1.E(aX+b)=_________ 2.E(X±Y)=___________ 3.E(X*Y)=___________ 4.D(aX+b)=_______ 5.D(X±Y)=__________ 6.D(X*Y)=______________ aE(X)+b E(X)±E(Y) E(X)*E(Y)? a2D(X) D(X)+D(Y)? D(X)*D(Y)???? 练习题选讲 ㈠如事件A?B,则：A∩B=A,A∪B=B, A-B=Φ,P(B-A)=P(B)-P(A),B-A=B-AB, A与B独立吗？不会不相容吗？ ㈡事件A与B既相互独立又不相容,可能吗？ ㈢掷两枚骰子，所得的