基于同义词数据增强的汉越神经机器翻译方法*

尤丛丛，高盛祥，余正涛，毛存礼，潘润海

(1.昆明理工大学信息工程与自动化学院，云南 昆明 650500;2.昆明理工大学云南省人工智能重点实验室，云南 昆明 650500)

1 引言

由于缺乏大型平行语料库训练神经机器翻译系统，导致低资源语言的机器翻译非常困难[1,2]。在计算机视觉领域，数据增强被广泛应用于增强模型的鲁棒性[3,4]。尽管数据增强已成为图像处理训练深层网络的标准技术，但它在机器翻译领域并不常见[5,6]。目前在机器翻译领域，主要的数据增强方法有2类，一类是词汇替换，一类是回译[7]。

词汇替换方法主要利用一定规模的双语平行语料，通过源语言和目标语言中的词进行替换获得扩展平行语料，是当前较为流行的增强方法。Fadaee等人[8]利用语言模型在目标语言端的句子中找到可以被低频词替换的高频词的位置并进行词汇替换，然后利用双语词典完成源语言端对应的词汇替换。通过这种简单的词汇替换，提高了训练语料中低频词的出现频次，从而增强神经机器翻译模型对低频词的翻译能力。作者在英法数据集上获得的实验结果的BLEU值比基准线高2.9，比回译高3.2。蔡子龙等人[9]提出了一个简单有效的增强方法。该方法首先利用源语言端句子中最相似的2个词进行相互替换形成新的句子，然后通过词对齐信息找到目标端对应的词汇并进行相互替换，进而形成新的平行句对。作者在藏汉语种上进行了实验，获得的BLEU值比基准线高4。

回译方法利用翻译引擎翻译句子并进行筛选获得新的平行语料，其广泛应用于提升神经机器翻译的性能。……