第二章_隐马尔科夫模型.pdf

第二章 隐马尔科夫模型 2.1 引言 隐马尔科夫模型（Hidden Markov Model ，HMM ）又称隐马氏模型，它的基本理论是20 世纪60 年代末、70 年代初由Baum 等人创建的。HMM 是在Markov 链的基础上发展起来 的，由于实际问题比Markov 链模型所描述的更为复杂，观察到的事件并不是与状态一一对 应的，而是通过一组概率分布相联系，这样的模型被称为HMM 。它是一个双重随机过程， 其中一个描述的是状态之间的转移；另一个描述的是状态和观察符号之间的统计对应关系。 观察符号与状态之间并没有一一对应的关系，因此，只能通过观察符号感知到状态的性质及 其特性。 HMM 模型作为一种统计模型，已经成功地实现了对语音识别(Lawrence R. Rabiner, 1989)、生物序列分析(R. Durbin et al., 1998)、自然语言处理（。。。）等复杂问题的建模，并 且在生物序列分析的各个领域都获得了广泛应用，比如：序列比对（包括双序列比对及多序 列比对），基因发现，系统进化树的构建等等。 2.2 HMM 的基本概念 为了对HMM 模型有一个直观的认识，让我们首先看一个经典的例子：球和缸的实验， 如图2-1 所示。 图2-1. 球和缸的实验 设有N 个缸、M 种不同颜色的球，每个缸中都装有很多彩色的球，球的颜色是由一组 概率分布描述的。实验是这样进行的：首先根据某种随机过程选择 N 个缸中的一个，记为 z ，再根据这个缸中球颜色的概率分布，有放回地随机选择一个球，记此球的颜色为o ；然 1 1 后根据缸的转移概率分布，随机选择下一个缸，记为z ，再根据这个缸中球的颜色的概率分 2 布，有放回地随机选择一个球，记此球的颜色为o 。这样一直进行下去，假设进行了T 次， 2 可以得到一个描述球的颜色的序列O o , o ,, o ，由于这是观察到的事件，因而被称 1 2 T 为观察序列。同时还有一个描述缸选取次序的序列Z z , z ,, z ，被称为状态序列， 1 2 T 但缸的选取是在幕后进行的，对我们来说是不可见的（隐的）。注意到从每个缸中选取的球 的颜色并不是与缸一一对应的，而是由该缸中球的颜色的概率分布决定的，此外，每次选取 哪个缸则是由一组转移概率决定的。这就是一个典型的HMM 模型，下面给出HMM 模型的 正式定义： 定义2-1 (一阶HMM 模型) 一阶HMM 模型 由以下元素组成：  S s , s ,, s z z S （1） N ：状态数目，设状态集合为 1 2 N ，记t 时刻所处的状态为 ， ； i i （2 ） M ：观察符号数目，设观察符号集合为E e ,e ,,e ，记t 时刻观察到的符号