钟文康 ,葛季栋 ,陈 翔 ,李传艺 ,唐 泽 ,骆 斌
1(计算机软件新技术国家重点实验室(南京大学),江苏 南京 210023)
2(南通大学 信息科学技术学院,江苏 南通 226019)
机器翻译研究如何将基于一种自然语言描述的文本自动翻译成基于另一种自然语言描述的文本,是自然语言处理的一个重要研究问题.传统的机器翻译系统主要采用统计机器翻译模型[1].近年来,随着深度学习的发展和应用,基于序列对序列模型(sequence to sequence model)的神经机器翻译模型[2]在很多语言对的机器翻译任务上都超过了统计机器翻译模型.神经机器翻译模型不仅有很高的研究价值,还有很强的产业化能力[3],目前主流的翻译服务提供商(例如,谷歌翻译、必应翻译、百度翻译、腾讯翻译等)都提供了在线神经机器翻译服务.
尽管神经机器翻译为机器翻译任务带来了极大的性能上的提升,但仍存在一些问题.例如,对长句子和低频词语的翻译效果不佳,翻译结果和词对齐模型不符等[4],并且,这些错误出现的规律和原因往往难以被发现.与统计机器翻译模型相比,神经机器翻译系统还存在更为显著的鲁棒性问题[4].Cheng 等人[5]指出,对输入语句做出的极小改变可能会引起翻译结果的剧烈改变,如同“蝴蝶效应”.此外,目前商用的神经机器翻译系统较多,但由于神经网络模型结构和训练数据的差异,各神经机器翻译系统的稳定性并不一样.图1 和图2 分别展示了谷歌和百度的神经机器翻译系统在翻译3 个……