中文信息学报一种在线递增式语言模型自适应方法.pdfVIP

中　文 　信 　息 　学 　报 第 16 卷 第 1 期 　 JOURNAL OF CHINESE INFORMATION PROCESSING Vol . 16 No. 1 一种在线递增式语言模型自适应方法 吴根清 　郑 　方 　金 　凌 　吴文虎 (清华大学计算机科学与技术系 　智能技术与系统国家重点实验室 　语音技术中心　100084 　北京) 摘要 :本文针对传统统计语言模型的离线自适应方法 ,提出了一种在线实时的递增式自适应方法 。该 自 适应方法需要解决几个问题 。第一是要设计一种语言模型结构以适应在线的自适应 ;第二是如何利用在线收 集到的语料对语言模型进行实时的参数修改 ;在我们设计的中文音转字平台中 ,将语言模型分成两个部分 ,分 别是通用模型和用户模型 。对于通用模型 ,采用高效的存储结构结合参数预取技术 ,提高了模型的速度 ;对于 用户模型 ,使用动态的加权方法结合 MA P 动态调整参数 。本文所做的实验证明使用该方法能较大程度的降 低中文音转字的错误率 。 关键词 :统计语言模型 ;Ngram ; 自适应 ;语音识别 中图分类号 : TP39 1. 42 An Onl ine Incremental Language Model Ada ptation WU Genqing 　ZHEN G Fang 　J IN Ling 　WU Wenhu ( The State Key laboratory of Intelligence Technology and System Depart ment of Computer Science and Technology Tsinghua Univer sity Beijing 　100084) Abstract :In t his p ap er ,an online incremental language model adaptation met hod is proposed ,which is different from t he traditional offline language model adaptation met hod . There are some problems in t he online incremental adapta tion . The first one is how to design a flexible framework for online adaptation ,t he second one is how to adj ust t he p a rameters of t he model incrementally according to t he corpus collected online . In our application platform ,t he whole model is divided into two p art s - - t he background model and t he user model resp ectively . An effective storage struc ture ,integrating wit h p arameter looking ahead technique ,accelerates t he visiting procedure ; a dynamic weighting MA P met hod is proposed to adj ust t he p arameters in t he user model . Exp eriment s show t hat it can achieve a comp ar ative Chinese character error rate reduction in Chinese Pinyin to Hanzi translation . Keywords :stochastic language model ; N - gram ; adaptation ; sp eech recognition