时间序列分析部分讲义（中国科学研究院安鸿志）..doc

时间序列分析 (J.D.Hamilton) 前言: 3.平稳ARMA过程(p49-78), 6.谱分析(p180-202), 11.向量自回归(p345-409), 21.异方差时间序列模型(p799-823). 3. 平稳ARMA过程 3.0 概述 (认识论,方法论,历史观,发展观) 什么是”回归模型”? 什么是”自回归模型”? 它们有什么联系 ? 为什么用”回归”一词 ? 它们的推广模型是什么 ? 它们的应用背景是什么 ? * 考虑 ”父-子身高的关系” X---父亲的身高, Y---儿子的身高, 它们有关系吗? 有什么样的关系呢? 不是确定的关系! 又不是没有关系! 在同族中抽取n对父-子的身高, 即有n对数据: (X1,Y1), (X2,Y2), … , (Xn,Yn). Yk ? a + bXk , 1?k?n. Yk = a + bXk + ek , 1?k?n. (0.1) * 此为一元线性回归模型. ek---个体差异, 其他因素, 等等. * 如果, 如果能记录到一个父系的长子身高序列, 即 X1,X2,…,Xn , 显然, (X1,X2),(X2,X3),…,(Xn-1,Xn) 是(n-1)对父--子身高数据, 与(Xk,Yk)相比, 这里的 Yk = Xk+1 , k=1,2,…,n-1. 依同样论述有 Xk +1 = a + bXk + ek , 1?k?n. (0.2) * 此为一元线性自回归模型(自变元Yk是因变元Xk的延迟) * 回归?英文翻译?Regression?(0.2), 具体说来如下: ?--男人平均身高. 由(0.2)得 Xk +1-? = a + bXk + ek -? (注意?=(b-1)?+b?) = a +(b-1)? + b(Xk -?)+ ek. Wk = (Xk -?)---第k代长子身高与平均身高之差, c= a +(b-1)?, 于是有 Wk+1 = c + bWk + ek. (0.3) 特别人们发现: 0b1.它表明: 平均说来, 当父亲身高超过平均身高时, 其子身高也会超过平均身高, 但是比父亲身高更靠近平均身高. 有回归平均身高的趋向! 稳定系统! * 回归模型的推广: (线性模型) * 增加自变元个数: 比如, 儿子身高不仅与父亲还与母亲, 甚至于祖父母 有关, 于是(0.1)式应推广为: Yk = a + b1X1k +…+ bpXpk +ek , 1?k?n. (0.4) * 此为p元线性回归模型. * 向非线性推广: 仍以父-子身高的关系为例, 它们的真实关系应是比 (0.1)式更一般的形式: Yk = ?(Xk )+ ek , 1?k?n. (0.5) (0.4)式 更一般的形式: Yk = ?(X1k,…,Xpk )+ ek , 1?k?n. (0.6) 近年来, 又引出了比(0.6)式更广的模型: Yk =?(X1k,…,Xpk )+s(X1k,…,Xpk )ek ,1?k?n. (0.7) * 此为异方差回归模型. (0.7)式的更一般的形式: Yk =?(X1k,…,Xpk ;ek ),1?k?n. (0.8) 模型越复杂, 越近似真实情况, 也越难统计分析. * 应用背景:非常广泛!主要用于预报,控制,检测,管理. 模型的获得方法有两类. 3.1 期望,平稳性,遍历性: 确切说, 是对(0.1)至(0.8)式中{ek}的最起码的假定, 根据这些假定就可以引出随机过程和各种模型概念, 用它们近似描述{ek}(本来是说不清的).而且, 对这些起码的假定, 也只是以最直观的方式, 而非严格的概率论观点, 加以介绍. * 期望和随机过程 * 随机过程: {X(t);-?t?},其中X(t)是随机变量. * 随机序列: {Xk;k=…,-1,0,1,…},其中Xk是随机变量. 特别当Xk=X(kh)时,序列{Xk}是过程{X(t)}的等间隔采样序列. 回忆随机变量X和它的样本的定义, 我们有: * 样本序列:{…,x-1,x0,x1,…}是序列{Xk}的一个样本序列, 又称为一个实现, 又称为一个观测序列,等等. 请注意: 随机变量X的一个样本,就是一个数; 随机向量X的一个样本,就是一个向量数; 随机序列{Xk}的一个样本, 是一个无穷数列; 在实际应用中, 我们无法记录无穷数列,从而在讨论随机序列{Xk}的样本时, 只能考虑一个样本的有限部分, 比如 {x1,x2,…,xn}是序列{Xk}的一段