时间序列分析方法 第3章 平稳ARMA模型.doc

第三章 平稳ARMA过程 一元ARMA模型是描述时间序列动态性质的基本模型。通过介绍ARMA模型，可以了解一些重要的时间序列的基本概念。 §3.1 预期、平稳性和遍历性 3.1.1 预期和随机过程 假设可以观察到一个样本容量为的随机变量的样本： 这意味着这些随机变量之间的是相互独立且同分布的。 例3.1 假设个随机变量的集合为：，且相互独立，我们称其为高斯白噪声过程产生的样本。 对于一个随机变量而言，它是t时刻的随机变量，因此即使在t时刻实验，它也可以具有不同的取值，假设进行多次试验，其方式可能是进行多次整个时间序列的试验，获得I个时间序列： ，，…， 将其中仅仅是t时刻的观测值抽取出来，得到序列：，这个序列便是对随机变量在t时刻的I次观测值，也是一种简单随机子样。 定义3.1 假设随机变量是定义在相同概率空间上的随机变量，则称随机变量集合为随机过程。 例3.2 假设随机变量的概率密度函数为： 此时称此时密度为该过程的无条件密度，此过程也称为高斯过程或者正态过程。 定义3.2 可以利用各阶矩描述随机过程的数值特征： (1) 随机变量的数学期望定义为(假设积分收敛)： 此时它是随机样本的概率极限： (2) 随机变量的方差定义为(假设积分收敛): 例3.3 (1) 假设是一个高斯白噪声过程，随机过程为常数加上高斯白噪声过程：，则它的均值和方差分别为： (2) 随机过程为时间的线性趋势加上高斯白噪声过程：，则它的均值和方差分别为： 3.1.2 随机过程的自协方差 将j个时间间隔的随机变量构成一个随机向量，通过随机试验可以获得该随机向量的简单随机样本。假设函数为随机向量的联合概率分布密度，则可以类似地定义： 定义3.3 随机过程的自协方差定义为： 上述协方差可以利用联合概率分布密度求解。 3.1.3 平稳性 定义：假设随机过程的均值函数和协方差函数与时间无关，则称此过程是协方差平稳过程，也称为弱平稳过程。此时对任意时间有： 例3.4 (1) 假设随机过程为常数加上高斯白噪声过程：，则它的均值和方差与时间无关，因此该过程是协方差平稳过程。 (2) 假设随机过程为时间的线性趋势加上高斯白噪声过程：，则它的均值为：，它依赖时间，因此它不是协方差平稳过程。 由于协方差平稳过程仅仅依赖时间间隔，因此有： 定义：假设随机过程满足条件：对于任意正整数值，随机向量的联合概率分布只取决于时间间隔，而不依赖时间，则称该过程是严格平稳过程，简称为严平稳过程。 如果一个随机过程是严平稳过程，而且具有有限的二阶矩，则该过程一定是协方差平稳过程，即宽平稳过程。但是，一个宽平稳过程却不一定是严平稳过程。 例3.4 假设随机过程是具有高斯分布的高斯过程，如果该过程是宽平稳过程，则此过程一定是严平稳过程。 3.1.4 遍历性 遍历性是时间序列中非常重要的。对于时间序列而言，我们可以得到一个随着时间顺序的样本观测值：，对此可以得到一个时间平均值： 定义：假设时间序列是一个平稳过程，如果时间平均值按照概率收敛到总体平均值，则称该随机过程是关于均值遍历的。 遍历性是平稳时间序列非常重要的一个性质，如果一个平稳时间序列是遍历的，那么它在每个时点上的样本矩性质(均值和协方差等)就可以在不同时点上的样本中体现出来。这就是遍历性的含义。 定理：如果一个协方差平稳过程，如果自协方差函数满足： 则随机过程是关于均值遍历的。 定义：假设时间序列是一个协方差平稳过程，如果样本协方差按照概率收敛到总体协方差，即 则称该过程是关于二阶矩遍历的。高阶矩遍历意味着过程不同时间上的统计性质更接近同一时点上的随机抽样性质。 例3.4 如果随机过程是高斯协方差平稳过程，则它是均值遍历过程，也是二阶矩遍历过程。 一般情况下，平稳性和遍历性之间没有必然联系，下面的例子可以说明这一点。 例3.5 假设随机过程的均值过程满足： 其中均值满足：，是独立的白噪声过程。 因为 ， 上式表明，该过程是协方差平稳过程，但是由于 因此，该过程不是均值遍历过程。 §3.2 移动平均过程 3.2.1 一阶移动平均过程 假设是白噪声过程，考虑下述随机过程： 其中和是任意常数。由于这个随机过程依赖最近两个时间阶段的的加权平均，因此称此过程为一阶移动平均过程，表示为。下面我们通过求解过程的均值函数和协方差函数来说明它是一个宽平稳过程。 求解均值函数为： 一阶自协方差为： 对于更高阶的自协方差，则有： 上述结果表明，过程是一个平稳随机过程。 注意到： 因此，也是均值遍历过程。 定义：将协方差平稳过程的第j个自相关系数表示为，则有： 根据相关系数的定义： 根据Cauchy-Schwarz不等式，可知所有自相关系数绝对值不会超过1。 对于MA(1)过程而言，它的自相关系数为： 自相关系数也被称为自相关函数，它度量随着时间