统计机器翻译中双语语料过滤及词对齐改进.docVIP

统计机器翻译中双语语料过滤及词对齐改进 　　摘要：词对齐是统计机器翻译系统中最重要的一个环节，统计机器翻译中的翻译模型和调序模型都是在词对齐结果的基础上构造的，词对齐阶段出现的错误，会延续到这些模型中，甚至会因为词对齐的错误而在这些模型中引发更大的错误。为减少词对阶段的错误，提出一种基于对齐困惑度的双语语料过滤方法和一种改进的判别式词对齐算法，语料过滤方法可以将词对齐阶段有严重错误的双语句对过滤掉，判别式词对齐算法与传统的自动词对齐算法相比，可以得到对齐错误率更低的词对齐结果。 　　关键词： 词对齐；统计机器翻译；对齐困惑度；对齐错误率 　　中图法分类号 TP391 文献识别号：A 文章编号：2095-2163（2013）04- 　　Filtering Training Corpus and Improving Word Alignment for statistical Machine Translation 　　LIANG Huashen， ZHAO Tiejun 　　（MOE-MS Key Lab of Natural Language Processing and Speech， Harbin Institute of Technology， Harbin 150001， China） 　　Abstract： Word alignment is one of the most important step for statistical machine translation systems.Translation models and reordering models are both built based on word alignment result.The bad influence caused by word alignment error， would still exist in these models， or even become worse. In order to eliminate the word alignment errors， the paper proposes a corpus filtering approach based on alignment perplexity， and also proposes an improved discriminative word alignment algorithm. The corpus filtering approach can omit sentence pairs which contain crucial alignment errors. Compared with the traditional word alignment algorithm， the improved word alignment algorithm can produce alignments with lower alignment error rate. 　　Key words： Word Alignment； Statistical Machine Translation； Alignment Perplexity； Alignment Error Rate 　　0 引言 　　上世纪 90 年代前后，IBM Watson 研究中心的 Brown 等人提出了基于信源信道模型的统计翻译方法[1-3]，此类方法的性能远远超越了传统的基于规则的翻译方法。从此基于统计的机器翻译引起了研究者的广泛关注。1999 年，研究者们根据 Brown 提出的思想发布了第一个基于统计的无指导词对齐工具GIZA[4]，其后德国亚琛工业大学的Och等人对 GIZA 进行了改进，发布了新版本的??对齐工具，称为 GIZA++[5，6]。从此，统计翻译方法成为国际机器翻译领域的研究热点。 　　总体来说， IBM 的 5 个模型词对齐模型均属于产生式模型，其使用的特征都是固定的，不可以随意加入其它特征。于是，一些学者探索了使用基于最大熵理论的判别式模型进行词对齐的方法。中科院计算所的刘洋将目前流行的统计翻译框架运用于词对齐上，由于此框架采用了对数线性模型，因而这种词对齐技术可以融合任意特征[7]。卡内基梅隆大学的 Dyer 也提出了类似的方法[8]，用对数线性模型融合任意的特征，与刘洋工作的不同之处在于，Dyer 采用一种梯度下降的 online 方法对特征权重进行估计，而刘洋则采用统计机器翻译中常用的最小错误率训练 （Minimum Error Rate Training， MERT）[9]的方法对特征权重进行估计。 　　本文针对IBM词