隐马尔可夫模型的原理与实现.doc

隐马尔可夫模型的原理与实现 ■ 国外医学生物医学工程分册2002年第25卷第6期 隐马尔可夫模型的原理与实现 ?253? 刘河生,高小榕,杨福生 (清华大学电机工程与应用电子技术系,北京100084) 摘要:隐马尔可夫模型正在被愈来愈多地引入到生物医学信号的处理中.本文旨在简述它的基本原理和实现中的问题, 并且用简洁的列表形式总结它的算法步骤. 关键词:隐马尔可夫模型;信号处理;实现算法 中图分类号;R311;R318文献标识码:A文章编号;1001一l110(2002)06—0253—07 TheoryofhiddenMarkovmodelinganditsimplementation LIUHe—sheng,GAOXiao—rong,YANGFu—sheng (DepartmentofElectricalEngineeringandAppliedElectronics,TsinghuaUniversity,Beijing100084,China) Abstract:HiddenMarkovModelisnowbeingappliedincreasinglyinbiomedicalsignalprocessing.Thepapermakesa shortreviewonitstheoryandtheproblemsencounteredinitsimplementation.Tablesareusedtoclearlysummarizeits algorithmicprocedures. Keywords:hiddenMarkovmodel;signalprocessing;implementalgorithms 随着隐马尔可夫模型在语言信号处理中的成功 应用,它正被愈来愈多地引入到生物医学信号的处 理中].本文旨在简述它的基本原理和实现中的 问题,并且用简洁的列表形式总结它的算法步骤. 隐马尔可夫模型是马尔可夫模型的进一步发 展.马尔可夫模型是马尔可夫过程的模型化,可以用 图1(a)的框图形象表示.它把一个总随机过程看成 一 系列状态的不断转移.时刻t的状态用q表示,它 可以是Ⅳ种状态集合S一[s,S,…,SN]中的任意一 个.马尔可夫模型的特性主要用”转移概率”来表示. 后一状态出现的概率决定于其前出现过的状态次 序.即:状态q,出现的概率为Pr[/q,q,…, q].如果此概率只决定于前一个状态,即Pr[/ q],则称为一阶马尔可夫过程.它是研究中引用得 最多的形式,即:Pr[q./q一,q一,…,q]一尸,[q/ q,-a]. 隐马尔可夫模型(HiddenMarkovModel, HMM)则认为模型的状态是不可观测的(这便是 “隐”得名的由来).能观测到的只是它表现出的一些 观测量(observations).例如:睡眠的状态可分为 图1(a)马尔可夫过程(b)隐马尔可夫过程 隐马尔可夫过程的特性可用下述参数集合来表 征: (1)转移概率aij—Pr[sj/s]即:由状态i转移到 状态的概率(对一阶马尔可夫过程).由于共有Ⅳ 种可能的状态,因此a共有ⅣxⅣ个可能的取值. 把它们用矩阵表示成 们 r【r【 =ll ∈∈ ?254? 1 A:Ea]且aij一1 (2)观察概率bi(正)=PrEu(],即:在状态S下 产生观察的概率.如果共有种可能的观察,则 6(正)组成×N矩阵B. N —1 日一Ebj(k)]且2_5b()一1 (3)初始状态概率:指第一个状态q究竟取S— Es,S:,…,SN]中哪一个的概率.它组成1×N矢量 丌: 7f.:PrEq1=Si] 而TI’--[丌1,丌2,…,] 以下讨论中把上述参数合起来用表示:一 [A,日,丌].它便是表征HMM的参数集合. 采用HMM进行研究工作时常遇到三类问题: (1)评价问题:给定模型参数2----EA,B,丌]及观 察序列O--Eo,O:,…,o].求此模型产生此观察序 列的概率PrEO/)~]. 实际工作中常用这一思路来进行信号的分类. 即:设有I种待定类别,其模型分别为,:,…,扎, 且皆已知.现在把给定观察0--Eo,0:,…,o]给予 这组模型,看哪一个PrEO/2.]最大就认为该观察属 于一类.这也就是选择与观察最匹配的模型. (2)解码问题:给定模型及观察序列0;问此 观察序列是模型中取怎样的状态次序[g一g:一… --- ~qr]得到的.解决此问题的关键是采用什么作为取 得结论的判据.通常是取产生此观察序列概率最大 的一组状态序列Q--Eq,q,…,q]作为判决. (3)辩识(或称训练)问题:给定HMM的结构 (指状态数N,观察类数),由给定的一组供训练 用的观察组0,0:,O.…j,估计该模型的最优参 数. 一 [A,雪,] 第三类问题是更基本