[所有分类]时间序列分析5-随机序列.ppt

随机序列/随机过程 对时间序列的认识： 时间序列是随机（变量）序列的一个样本 通过样本认识总体，依据总体规律预测未来 随机（变量）序列的知识 如何认识随机变量？ 概率密度函数/分布函数 几种分布 数字特征：期望、方差、高阶矩 还不足以描述随机变量 特征函数 在概率论中，任何随机变量的特征函数完全定义了它的概率分布。在实直线上，它由以下公式给出，其中X是任何具有该分布的随机变量： 其中t是一个实数，i是虚数单位，E表示期望。 如果FX是累积分布函数，那么特征函数由黎曼-斯蒂尔切斯积分给出： 在密度函数fX存在的情况下，该公式就变为： 特征函数是处理概率论问题的有力工具， 其作用在于： 4.1.1 特征函数的定义 定义4.1.1 设 X 是一随机变量，称 ?(t) = E( eitX ) 为 X 的特征函数. (必定存在) 注 意 点(1) 注 意 点(2) 特征函数的计算中用到复变函数，为此注意： 4.1.2 特征函数的性质 性质4.1.1 特征函数的定理 定理4.1.1 矩母函数及生成函数 定义 随机变量X的矩母函数定义为随机变量 的期望记作 ，即： 例 随机和的矩母函数。记 为一串独立同分布的随机变量， N为非负整数值随机变量且与序列X相独立。 Y为随机和 。求Y的矩母函数。 若X为离散随机变量，则期望 为其概率生成函数，记作 。特别若 则： 凸函数 如果对所有的 ，满足 则函数 为凸函数（convex）， 为凹函数（concave） 凸：装水，如 凹：溢出水，如 凸函数 几何意义 连接 (a,g(a)),(b,g(b))两点的弦，永远在 y=g(x) 之上 凸光滑函数上任一点的切线在曲线的下方 Jensen不等式 4.9 定理（ Jensen不等式）：如果g是凸的，则 如果g是凹的，则 如何认识随机向量？ 联合密度函数、联合分布函数 边缘密度函数、边缘分布函数 条件密度函数、条件分布函数 数字特征： 期望向量 方差-协方差矩阵 相关系数矩阵 多元分布 一、多元概率分布 ② 分布函数的取值范围为[0，1]，即 二、两个常用的离散多元分布 1、多项分布 2、多元超几何分布 三、多元概率密度 1、定义 四、边际分布 设有连续随机向量 五、条件分布 2、条件分布 连续随机向量 六、 独立性 §3 矩 二、协方差矩阵 条件期望 （1）事件 ， ， ， （2） ， 条件分布： 条件密度： （3）条件期望： 例 扔一硬币出现正面的概率为 ，独立地作投币试验。记 为 次试验中出现正面的总次数，并设首次出现正面是在第 次试验。问题是求给定 次试验中仅出现了一次正面时随机变量 的条件概率分布，也即 。 解： 条件期望有些重要的性质： 命题1.1 a)若X与Y独立，则 b)条件期望有所谓平滑性： c)对随机变量X，Y的函数 恒有： 随机过程的基本概念 随机过程的定义 随机过程的一般描述 分布函数与概率密度； 数字特征:均值、方差、相关函数 随机过程的定义 无穷多个样本函数的集合称为随即过程，记为ξ(t).它有两个基本属性： ξ(t)是一个时间函数; 在某一观察时刻t1上，全体样本在t1的取值ξ(t1)是一个不含t变化的随机变量。 随机过程的一般描述1.分布函数与概率密度 设ξ(t)表示一个随机过程，在任意给定的时刻t1∈T， 其取值ξ(t1)是一个一维随机变量。我们把随机变量ξ(t1)小于或等于某一数值x1的概率 简记为F1(x1, t1)，即 叫做随机过程ξ(t)的一维分布函数。 随机过程? (t) 的二维分布函数： 随机过程? (t)的二维概率密度函数： 若上式中的偏导存在的话。 随机过程? (t) 的n维分布函数： 随机过程? (t) 的n维概率密度函数： 2 随机过程的数字特征 均值（数学期望）： 在任意给定时刻t1的取值? (t1)是一个随机变量，其均值 式中 f (x1, t1) － ? (t1)的