神经机器翻译中英语单词及其大小写联合预测模型

摘要

英文中单词有大小写之分,如果使用不规范,会降低语句的可读性,甚至造成语义上的根本变化.当前的机器翻译处理流程一般先翻译生成小写的英文译文,再采用独立的大小写恢复工具进行还原,这种方式步骤繁琐且没有考虑上下文信息.另一种方式是抽取包含大小写的词表,但这种方式扩大了词表,增加了模型参数.该文提出了一种在神经机器翻译训练中联合预测英语单词及其大小写属性的方法,在同一个解码器输出层分别预测单词及其大小写属性,预测大小写时充分考虑源端语料和目标端语料上下文信息.该方法不仅减小了词表的大小和模型参数,译文的质量也得到提升.在WM T 2017汉英新闻翻译任务测试集上,相比基线方法,该方法在大小写敏感和大小写不敏感两个评价指标上分别提高0.97 BLEU和1.01 BLEU,改善了神经机器翻译模型的性能.