第08章 对数极大似然估计精品.ppt

§8.1.9 限 制 必须注意对数似然中估计参数使用的算法并不是对任意的问题都适用的。在似然贡献的导数的外积的和的基础上，该算法给出了对数似然函数的Hessian矩阵的近似值。该近似值是建立在极大似然目标函数的函数形式和统计特性的基础之上的。此外，只有当描述似然贡献的序列，其单个贡献都被正确的设定并具有好的理论时，对数似然定义的参数值的标准差才有意义。 用来描述似然贡献的表达式必须遵守EViews关于序列表达式的规则。这些限制暗示我们不能在似然说明中使用矩阵运算。为了写出联立方程模型的似然函数，必须写出行列式和二次型的表达式。对于那些多于三个方程的模型而言，这样做尽管是可能的，但会很繁琐。这种情况的例子参见多元GARCH程序。 另外，对数似然方法不能直接处理一般的不等式约束的最优化问题。 §8.2 实 例 一、AR(1)模型的极大似然函数 一阶自回归过程有如下形式，记作AR(1)： (8.2.8) ～ 在此情形下，总体参数向量为? =(c, ? , ? 2)?。 当| ? | 1 时，存在一个满足(8.2.8)的协方差平稳过程， (8.2.8)可写成MA(?)过程： 上式取期望： 所以平稳AR(1)过程的均值为 其方差为 首先考察样本中第一个观察值 y1 的概率分布。由于在 | ? | 1 时，存在一个满足(8.2.8)的协方差平稳过程，此时， ， 所以，第一个观察值的密度函数形如 (8.2.9) 接下来考虑第二个观察值 Y2 在观察到的 Y1 = y1 条件下的分布。由(8.2.8) (8.2.10) 可以将随机变量 Y1 视做确定性常数 y1 。在此情形下，(8.2.10) 给出Y2作为常数(c + ? y1) 和随机变量 u2 的和。因此 ～ ， (8.2.11) 一般地，Y1 , Y2 , 。。。, Yt-1 只通过 Yt-1 对 Yt 起作用，第 t 个观察值以前 t - 1个观察值为条件的分布为： (8.2.12) 完全样本的似然函数为 (8.2.13) 其对数似然函数可由(8.2.13)取对数求得： (8.2.14) 将(8.2.11)和(8.2.12)代入(8.2.14) ，由AR(1)过程得到一个样本量为T 的样本的对数似然为 (8.2.15) 例8.2 AR (1 )模型的极大似然估计 我们用数据生成过程 生成Y ，其中ut 是一个白噪声过程，即ut ～i.i.d.N(0,?2) 。根据AR(1)过程 的样本量为T 的对数似然函数为(8.1.15)式。 可以写出式(8.2.16)的对数似然函数，总体参数向量为 。利用最小二乘估计给出初值：c=-0.5, ? =0.85, ? 2 = eq1.@se^2 = 0.89。 利用极大似然估计方法估计的AR(1)模型: @LOGL LOGL1 @PARAM C(1) -0.5 PHI(1) 0.85 S2(1) 0.87 RES = @RECODE( D1=1,Y- C(1)/(1- PHI(1)),Y- C(1)- PHI(1)*Y(-1) ) VAR = @RECODE( D1=1,