系统辨识数学基础.ppt

Ⅱ 预备知识 (随机数学的有关知识) §1 随机过程的数学描述 为什么研究随机现象 研究随机现象，不仅关心试验中会出现哪些事件，更重要的是想知道事件出现的可能性大小，也就是事件的概率。 为什么研究随机现象 了解事件发生的可能性即概率的大小，对人们的生活有什么意义呢？ 下面举几个例子。 为什么研究随机现象 了解每年最大洪水超警戒线可能性大小，合理确定堤坝高度。 一场精彩的足球赛将要举行, 5个球迷好不容 易才搞到一张入场券.大家都想去,只好用抽 签的方法来解决。 一、基本概念 1、时间过程分类 在现实世界中，人们可见到各种事物的随时间变化的过程，其中主要有两类： ① 确定性过程：变化过程具有明确的规律性（如自由落体运 动、行星运行轨迹） ② 随机过程：变化过程具有偶然性，人们无法肯定地预料下一时刻的变化情况（如风浪中的海面起伏高度、电子放大器零点漂移），但该过程具有统计意义上的规律性（统计规律，如同随机变量那样） 2、数学表达 ，t 为时间， ω为样本点（事件）， 说明： ①在每一固定时刻 t ，X（t）是随机变量 ②当样本点ω固定时，X（ω，t）是一个确定的时间函数，称为此过程的一次实现（样本曲线），即 { X ( t ) } 可认为是一个随机函数，每时刻取值为随机变量的函数 。 例: ③随机过程与随机变量的区别：后者与时间无关；但 X ( t ) = ξ 可以看成特别的随机过程，即不随时间变化的随机过程。 3、随机过程的概率分布 在研究随机现象时，曾引入了随机变量的概念，其统计规律由分布函数（或分布密度）表示： 同理，在研究随机过程时，亦引进分布函数簇（密度函数簇）的概念 。 ① 一维分布函数簇： ② 二维分布函数簇（建立不同时刻 X ( t ) 之间的两两联系）： 一般还有三维、四维、……n 维、……分布函数簇。 高斯分布 二、随机过程的数字特征 从实用角度，只介绍最基本的数字特征，只与 有关的数字特征。 设随机过程 为 X ( t ) ，及分布密度函数簇为 1、与 有关的数字特征 均值函数 ： （ 中心曲线） 均方函数 ： 方差函数 ： （表示偏离中心曲线的程度） 又记作 ---- 随机过程的方差 2、与 有关的数字特征 自相关函数 协方差函数 又记作 ---- Covariance 3、数字特征函数的相互关系 所以，只有 和 是最基本的数字特征，其它可由他们推出。 三、平稳随机过程（随机过程中重要的一类） 1、定义：若 的数字特征满足 则称为宽平稳过程。 显然： 平稳过程图示 2、各态遍历性（平稳过程的一个重要概念） ① 定义：平稳过程 是各态遍历的，若 ② 解释：对平稳过程， 均与时间无关， 且 是 在 t 时刻关于各样本点的 “集合平均值”（概率平均）， 如果 还具备各态遍历性，则 集合（概率）平均 = 时间平均（一次实现的过程平均） 即 3、利用各态遍历性求数字特征 对于各态遍历的平稳过程 X ( t ) ， (采样间隔为 ， ) ， 则