基于伪数据的机器翻译质量估计模型的训练1.pdfVIP

基于伪数据的机器翻译质量估计模型的训练1 1,2 1 2 1 1, † 1 吴焕钦 张红阳 李静梅 朱俊国 杨沐昀 李生 1. 哈尔滨工业大学计算机科学与技术学院，哈尔滨 150001；2. 哈尔滨工程大学计算机科学与技术学院，哈尔滨 150001； † 通信作者，E-mail: yangmuyun@hit.edu.cn 摘要 为向基于深度学习的机器翻译质量估计模型提供高效的训练数据，提出面向目标数据集的伪数据构造方 法，采用基于伪数据预训练与模型精调相结合的两阶段模型训练方法对模型进行训练；并针对不同伪数据规模 进行了实验设计。实验结果表明，在构造得到的伪数据下利用两阶段训练方法训练得到的机器翻译质量估计模 型，其给出的得分与人工评分的相关性有了显著的提升。 关键词 机器翻译质量估计；深度学习；伪数据 中图分类号 Training Machine Translation Quality Estimation Model Based on Pseudo Data 1,2 1 2 1 1 1 WU Huanqin , ZHANG Hongyang , LI Jingmei , ZHU Junguo , YANG Muyun LI Sheng 1. Computer Science and Technology, Harbin Institute of Technology, Harbin, 150001; 2. Computer Science and Technology, Harbin Engineering University, Harbin, 150001 Abstract Aimed at providing efficient training data for neural translation quality estimation model, a pseudo data construction method for target dataset is proposed; the model is trained by two stage model training method : pre training based on pseudo data and fine tuning ; The experimental design of different pseudo data scale is carried out. The experiment results show that the Machine Translation quality estimation model trained by the pseudo data has significantly improved in the correlation between the scores given by human and the artificial scores. Key words machine translation quality estimation ; deep learning ; pseudo data 在机器翻译研究中，质量估计 （Quality Estimation, 简称QE ）是指对机器翻译系统的输出进行质量预 [2] 测，其结果可以快速的判断出机器翻译质量的好坏，对机器翻译性能的提升起着指导作用 。与机器翻译 评价不同的是，QE 系统的目标是在不依赖于参考译文的情况下对机器翻译系