13讲协方差相关系数矩正态分布.ppt

概率论与数理统计 第十三讲 主讲教师：张冬梅副教授 浙江工业大学理学院 §4.3 协方差与相关系数 对于二维随机向量(X,Y)， 除了其分量X和Y 的期望与方差之外, 还有一些数字特征, 用以刻画X与Y之间的相关程度，其中最主要的就是协方差和相关系数。 定义1：若 E{[ X-E(X)][Y-E(Y)]} 存在，则称其为X 与Y 的协方差，记为Cov(X,Y), 即 4.3.1 协方差 Cov(X, Y) = E{[ X-E(X)][Y-E(Y) ]}. (1) (3). Cov(X1+X2, Y)= Cov(X1, Y) + Cov(X2, Y) ； (1). Cov(X, Y) = Cov(Y, X)； 协方差性质 (2). 设 a, b, c, d 是常数，则 Cov( aX+b, cY+d ) = ac Cov(X, Y) ； (4). Cov(X, Y) =E(XY)-[E(X)][E(Y)] ， (5). Var(X+Y)=Var(X)+Var(Y)+2Cov(X, Y) . 当 X 和 Y 相互独立时，Cov(X, Y)=0； 若 X1, X2, …, Xn 两两独立，则 性质(5)可推广到 n 个随机变量的情形： 协方差的大小在一定程度上反映了X 和Y相互间的关系，但它还受X 和Y 本身度量单位的影响。 例如： Cov(aX, bY) = ab Cov(X, Y). 为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 。 4.3.2 相关系数 为随机变量X 和Y 的相关系数 。 定义2: 设Var(X) 0, Var(Y) 0, 则称 在不致引起混淆时，记 为 。 相关系数性质 证：由方差与协方差关系， 对任意实数b, 有 0≤Var(Y-bX)=b2Var(X)-2b Cov(X,Y ) +Var(Y ), 利用韦达定理得到 1-ρ 2≥ 0, 所以 | ρ |≤1。 由于当 X 和 Y 独立时，Cov(X, Y)= 0 . 反例： (2). X 和Y 独立时, ρ=0，但其逆不真； 但ρ=0 并不一定能推出 X 和 Y 独立。 所以， 证明: 例 1：设 (X,Y) 服从单位 D={ (x, y): x2+y2≤1} 上的均匀分布，证明： ?XY = 0。 所以，Cov(X, Y)= E(XY)-E(X) E(Y) = 0 . 同样，得 E(Y)=0, 此外，Var(X) 0, Var(Y) 0 . 所以，?XY = 0，即 X 与 Y 不相关。 但是，X与Y不独立。 存在常数a, b(b≠0)， 使 P{ Y = a+bX } = 1 ，即 X 和 Y 以概率 1 线性相关。 (3). |ρ|=1 但对下述情形，独立与不相关是一回事： 前面, 我们已经看到： 若X 与Y 独立，则X 与Y 不相关；但由X与Y 不相关，不一定能推出X与Y独立。 若(X, Y )服从二维正态分布，则X 与Y 独立的充分必要条件是X与Y不相关。 定义1：设X是随机变量, 若E(Xk) 存在(k =1, 2, …), 则称其为X 的 k 阶原点矩；若 E{[X-E(X)]k} 存在(k = 1,2, …), 则称其为X的 k 阶中心矩。 §4.3 矩与协方差矩阵 4.3.1 矩 易知：X 的期望 E(X) 是 X 的一阶原点 矩，方差Var(X) 是 X 的二阶中心矩。 §4.4 n元正态分布的几条重要性质： (1). X =(X1, X2, …, Xn) 服从 n 元正态分布 对一切不全为 0 的实数 a1, a2, …, an， a1X1+ a2 X2+ …+ an Xn 服从正态分布。 (2). 若 X=(X1,X2, …,Xn)服从n 元正态分布， Y1,Y2,…,Yk 是 Xj (j=1, 2,…, n)的线性组合, 则(Y1,Y2, …, Yk)服从k 元正态分布。 这一性质称为正态变量的线性变换不变性。 (3). 设(X1,X2, …,Xn)服从n元正态分布，则 “X1,X2, …,Xn两两不相关”。 “X1, X2, …, Xn 相互独立” 等价于 例2: 设随机变量X和Y相互独立，且X~N(1, 2), Y~N(0, 1)。求 Z = 2X-Y+3 的概率密度。 知 Z=2X-Y+3 服从正态分布，且 解: 由X~N(1,2), Y~N(0,1)，且X与Y相互独立, Var(Z) =