模式识别随机向量的概率.pptxVIP

复习1随机向量的概率这一章复习一些概率和随机变量/向量的概念，这些对于后面的学习是很重要的

一.事件的概率令A、B、C…表示事件，这些事件的概率是[0，1]间的实数，记为Pr[A]、Pr[B]、Pr[C]必然事件的概率是1不可能事件的概率是0对任意事件A，（对立事件）

A和B同时发生的概率如果A1，A2，…，AM是两两互斥的完备事件组，则

率分布和密度函数

单个随机向量的分布和密度函数令X是一个随机向量，它的每一分量都是一个随机变量。令是X的一个取值，其中都是固定的实数值

则事件：的概率是的函数。这个函数称为随机向量x的分布函数。定义为：01

由上面分布函数的定义，显然有：概率密度函数定义为分布函数对所有分量的导数：

概率分布函数和密度函数之间还满足如下的积分关系：由上式和前面的式子，还有：

12对于事件：3有：4下面看看在某一点的小邻域的概率：5

上式近似成立的条件是：

要充分小，以使的变化较小这意味着，在点的概率密度正比于随机向量落在附近的小邻域内的概率。密度函数越大，这个概率越大。但等于的概率为0。（连续时）容许奇异时，也有可能

2.随机向量的联合分布和密度函数令X和Y是随机向量，可以把前面定义的对单个随机向量的分布和密度函数的概念推广到X和Y的联合概率分布和密度函数上去。实际上，单个随机向量是它的各个分量的联合，只要再扩展到Y就行了

令是一个随机向量，，是的一个实现。则随机向量和的联合分布函数定义为联合事件[]的概率：

的联合密度函数定义为：01和02上式的一个等价关系是：03

由定义，下面的等式成立：

由（b），有下式：

和（d）意味着:x和y的概率密度可以通过对x和y的联合概率密度的积分得到：以上两式得到的称为X和Y的边缘密度函数。

01联合分布的随机向量x、y的另一个重要关系是：03的积02在附近，同时在附近小区域内的概率近似等于和小区域体积

例1：一个两维随机向量和一个一维随机变量的联合密度函数：求事件的概率和边缘密度：，

解：1.

边缘密度为：注意：不要忘记积分区间

添加标题在上面的计算中，要注意积分的上下限。添加标题密度函数也可以用对分布函数求导而得到

01向量和事件的联合分布和密度函数一个随机向量和一个事件A的联合分布函数定义为：它是的函数0203

根据定义，下面的关系成立：事件的联合概率为：联合密度函数定义为：

如果A1，A2，…，AM是两两互斥的完备事件集，则边缘分布函数：边缘密度函数为：章节一

三.条件概率和贝叶斯规则（1）如果，则称A和B是统计独立的。这时由（1）式有：1.事件的条件概率令A、B是两个随机事件，B发生后A发生的条件概率为：

2.条件分布和密度函数由（1）式的基本形式，可以推导出下面的几种条件分布和密度函数。下面的公式推导和无条件概率分布与密度函数相似，不再多讲。以一个事件为条件的分布和密度函数若A是事件，B是另一个事件，则

上式两边微分，可得到密度函数则在小区域内，A发生的概率为：以随机向量为条件的一个事件的概率令A是任一事件，B是事件

(3)随机向量的条件密度函数令A是事件,B是事件则由前面的定义和公式有：

在发生后的条件密度定义为：当A和B对所有的和的值是独立的时，,因此有：

3.贝叶斯公式上式称为Bayes公式。是概率和统计中非常重要的一个公式。通过适当定义事件A和B，贝叶斯公式可以有不同的形式。例如：由于事件A和B的联合概率等于事件B和A的联合概率，所以由条件概率公式有：

则贝叶斯公式的形式为：单击此处添加正文，文字是您思想的提炼，为了演示发布的良好效果，请言简意赅地阐述您的观点。互斥且完备的事件组A1，A2，…，AM中的一个事件，则（最优模式分类）

如果B是事件，A是事件，则贝叶斯公式的形式为：由边缘密度的定义，还可写为下式：

上面的几种贝叶斯公式对统计模式识别都是非常重要的1如(5)式，称为先验概率，随机向量X和Y间有某种关系，在X发生后Y的密度函数是对先验概率的一种改善，称为后验概率。2又如（3）式是一个最佳模式分类规则。是