信息论与随机过程.pptVIP

补充：独立随机过程简称独立随机过程。是相互独立的01定义随机变量的增量02二、独立增量过程2.平稳独立增量过程例1证则的随机变量序列，令三、马尔可夫过程简称马氏过程。马氏性实质上是无后效性，所以也称马氏过程为无后效过程。称这个特性为马尔可夫性，简称马氏性。马氏过程的特点0103050204定义为n维正态分布，其密度函数为也称高斯过程则称四、正态过程其中且B为协方差矩阵例501证02可得03注04逆命题也成立05五、维纳过程1．定义则称或布朗运动过程称为标准维纳过程特别维纳过程是一类非常重要的随机过程，它是基于对例子布朗运动的数学刻画。维纳过程经常被广泛地应用到经济学、管理学等其他应用学科之中。维纳过程是布朗运动的数学模型.英国植物学家布朗在显微镜下，观察漂浮在平静的液面上的微小粒子，发现它们不断地进行着杂乱无章的运动，这种现象后来称为布朗运动.以W(t）表示运动中一微粒从时刻t=0到时刻t0的位移的横坐标（同样也可以讨论纵坐标），且设W(0)=0，根据爱因斯坦1905年提出的理论，微粒的这种运动是由于受到大量随机的相互独立的分子的碰撞的结果.于是，粒子在时段（s,t]上的位移可以看作是许多微小位移的代数和.则W(t)-W(s）服从正态分布.均值、方差、协方差及相关函数均值协方差及相关函数证方差由定义可得均值、方差公式下证同理故显然Q1Q2Q3Q4A由维纳过程定义知服从n维正态分布B3．维纳过程是正态过程故知所以又因01具有马氏性02证03因此04所以05所以维纳过程是马氏过程。随机过程的概念与基本类型1马尔可夫链2隐马尔可夫模型3随机过程在生物信息科学中的应用4课程主要安排第二章随机过程的概念和基本类型第二节随机过程的分布及其数字特征第一节随机过程的定义及其分类第三节几种重要的随机过程简介例1研究某一商品的销售量直观背景及例子第一节随机过程的定义及其分类例2一般情况下它是一个随机变数X，并且依赖时间t，即随机变数X（t），t=1，2，…一般情况下它是一个随机变数X，并且依赖时间t，即随机变数X（t），t?[0，24]。电话站在时刻t时以前接到的呼叫次数123456STEP5STEP4STEP3STEP2STEP1例3国民收入问题表示依赖于一个变动参量的一族随机变量。它虽然不能用一个确定的函数来描述，但也是有规律的。随着各种随机因素的影响而随机变化，一般地有其中C（t）、I（t）分别表示t年的消费和积累随机过程二、随机过程的定义1．随机过程设E是随机试验，??{?}是它的样本空间，T是一个参数集，若对于每一个都有随机变量，与之对应，则称依赖于t的随机变量为随机过程，或称为随机函数。通常记作说明1参数集T在实际问题中，常常指的是时间参数，但有时也用其它物理量作为参数集。是一个随机变量，说明2因为设每隔单位时间掷一次硬币，观察它出现的结果。如果出现正面，记其结果为1；如果出现反面，记其结果为0。一直抛掷下去，便可得到一无穷序列因为每次抛掷的结果是一个随机变量（1或0），所以无穷次抛掷的结果是一随机变量的无穷序列，称为随机序列，也可称为随机过程。每次抛掷的结果与先后各次抛掷的结果是相互独立的，并且出现1或0的概率与抛掷的时间n无关。3212．贝努利过程设称具有这种特性的随机过程为贝努利型随机过程。注如果固定观测时刻t，则它的试验结果是属于两个样本点（0，1）所组成的样本空间则样本空间出现的值为（0,0）,（0,1）,（1,0）,（1,1）32145三、随机过程的分类1、按参数集和状态分类离散参数连续参数参数分类参数集T的是一个不可列集状态分类离散状态连续状态取值是离散的取值是连续的T离散、I离散 T离散、I非离散（连续）参数T状态I分类概率结构分类按过程的概率结构分类T非离散（连续）、I离散T非离散（连续）、I非离散（连续）独立随机过程独立增量随机过程马尔可夫过程平稳随机过程输入标题随机过程的分布函数输入标题输入标题输入标题一维概率密度2一维分布函数其分布函数为143第二节随机过程的分布及其数字特征二维分布函数联合分布函数二维概率密度例101袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回