概率论与数理统计李云龙 5.3 协方差与相关系数新.ppt

5.3 协方差与相关系数 引言 若X，Y独立，则： D(X+Y)=D(X)+D(Y)E(XY)=E(X)E(Y), 从而有 E{[X-E(X)][Y-E(Y)]}=0. 说明E{[X-E(X)][Y-E(Y)]}的大小反映了X，Y间关联的程度。 一、协方差与相关系数的定义 1．协方差的定义 量E{[X-E(X)][Y-E(Y)]}称为随机变量X与Y的协方差，记为Cov(X，Y)，即 Cov(X，Y)= E{[X-E(X)][Y-E(Y)]}. 而当D(X)0, D(Y)0时， 称为X与Y的相关系数。 (2)ρXY是一比例常数，并有定义：ρXY=0 ? X，Y不相关。 (3) ρXY又称为标准协方差。因为设 2．关系公式: (1) 协方差与方差的关系：D(X+Y)=D(X)+D(Y)+2Cov(X，Y) (2) 协方差与数学期望的关系：Cov(X，Y)=E(XY)-E(X)E(Y) 我们常用这个公式计算协方差。 (3) 若X，Y独立，则Cov(X，Y)=0,但反之不成立。 3．协方差与相关系数的性质 协方差具有下述性质： (1) Cov(X，Y)= Cov(Y，X)； (2) Cov(aX，bY)= abCov(X，Y)； (3) Cov(X1+X2，Y)= Cov(X1，Y)+ Cov(X2，Y) 相关系数具有下述性质： (1)|ρXY|≦1 ; 证： 由柯西一许瓦兹不等式知 (2) |ρXY|=1 ? 存在常数a,b使P{Y=aX+b}=1. 意义 |ρXY|=1当且仅当Y跟X几乎有线性关系。这在一定程度上说明了相关系数的概率意义。ρXY并不是刻画X，Y之间的“一般”关系，而只是刻画X，Y之间线性相关的程度。 4．计算： (1)用定义求：若X，Y为离散型随机变量 (2)用公式： (2) E(Z)= 3[D(X)+[E(X)]2]-2E(XY)+[D(Y)+[E(Y)]2]-3  =24-2[Cov(X,Y)+ E(X)E(Y)]+25-3 =24-2[ρXY + E(X)E(Y)]+25-3=68. 5．定义 若X与Y的相关系数ρXY=0，则称X与Y不相关。 假设随机变量X，Y的相关系数ρXY存在，当X与Y相互独立时,ρXY=0,即X与Y不相关，反之若X与Y不相关，X与Y却不一定相互独立。 例1: 设(X，Y)在单位圆x2+y2≦1上服从均匀分布，证明：ρXY=0，但X与Y不相互独立。 解: (1)(X，Y)的概率密度为 关于X的边缘密度为 容易看到，(1/2,1/2)是fX(x), fY(y), f(x,y)的 连续点，但 所以 D(X)=1/4. 同样方法可得 E(Y)=0,D(Y)=1/4. 于是 由相关系数性质(2),ρXY并不是刻画X，Y之间的“一般”关系，而只是刻画X，Y之间线性相关的程度。虽然X，Y不相关，但X，Y可以有关系。例如X～U(-1/2,1/2),Y=cosX,则E(X)=0, 例2: 设(X，Y)～N(μ1, μ2 ,σ12, σ22,ρ)，求X与Y的相关系数ρXY 解: X～N(μ1,σ12), E(X)=μ1, D(X)=σ12；  Y～N(μ2,σ22)，E(Y)=μ2, D(X)=σ22； 而 二维正态随机变量的分布完全可由X，Y个别的数学期望、方差以及它们的相关系数所确定。 若(X，Y)服从二维正态分布，那么X和Y相互独立的充要条件为ρ=0，而ρ=ρXY，故知对于二维正态随机变量(X，Y)来说， X与Y不相关与X和Y相互独立是等价的。 小结： 结论1：X与Y相互独立 ? ρXY=0 ? X与Y不相关； 反之，ρXY=0 不能推出X与Y相互独立。 结论2：对任意X与Y，以下结论等价ρXY=0 ? Cov(X，Y)=0 ? E(XY)=E(X)E(Y) ? D(X+Y)=D(X)+D(Y)。 结论3：若(X，Y)～N(μ1, μ2 ,σ12, σ22,ρ)，则X与Y相互独立 ? ρXY=0 ? X与Y不相关。 二、矩、协方差矩阵的定义 1. 矩的定义1.设X为随机变量，c为任意常数，k为正整数,称量E[(X-c)k]为X关于c点的k阶矩。 比较重要的有两种情况： (1) c=0, 这时，