融合EMD最小化双语词典的汉—越无监督神经机器翻译

2021-04-29 09:29:00薛明亚余正涛文永华于志强
中文信息学报 2021年3期
关键词:监督语言模型

薛明亚,余正涛,文永华,于志强

(1.昆明理工大学 信息工程与自动化学院,云南 昆明 650500;2.昆明理工大学 云南省人工智能重点实验室,云南 昆明 650500)

0 引言

随着越南与我国的交流与合作越来越密切,机器翻译是跨语言信息交流比较有效的方式之一,研究汉越机器翻译有着非常重要的应用前景。

神经机器翻译(neural machine translation,NMT)[1-2]是近几年提出的机器翻译方法,并且NMT翻译质量已经在多个语言对上超过统计机器翻译[3],成为主流的翻译方法。然而NMT需要大规模的平行语料才能取得较好的效果,当训练数据不足时,会导致翻译质量不佳[4]。汉语和越南语之间的平行语料稀少且不容易获取,所以汉—越机器翻译是典型的低资源语言机器翻译。但是汉语和越南语有大量的单语语料,本文探索只利用单语语料的汉—越无监督NMT,这对于其他低资源语言的机器翻译的研究也具有重要的理论和应用价值。

近年来,国内外相关研究人员针对无监督机器翻译的方法进行了大量研究,并取得了一系列成果。目前,无监督机器翻译的研究方法主要有基于对抗学习(generative adversarial networks, GAN)的无监督机器翻译和基于共享编码器的无监督机器翻译。Lample等人[5]提出将两种不同的单语语料库句子映射到同一空间,通过学习用这两种语言重建共享特征空间,仅利用单语语料实现无监督NMT。Artetxe等人[6]对模型进行修改,先预训练无监督的双语词嵌入,采用共享编码器和分别解码的方式提出了仅仅使用单语语料的无监督NMT。……

登录APP查看全文

猜你喜欢
监督语言模型
一半模型
突出“四个注重” 预算监督显实效
人大建设(2020年4期)2020-09-21 03:39:12
重尾非线性自回归模型自加权M-估计的渐近分布
语言是刀
文苑(2020年4期)2020-05-30 12:35:30
让语言描写摇曳多姿
监督见成效 旧貌换新颜
人大建设(2017年2期)2017-07-21 10:59:25
夯实监督之基
人大建设(2017年9期)2017-02-03 02:53:31
3D打印中的模型分割与打包
我有我语言
监督宜“补”不宜“比”
浙江人大(2014年4期)2014-03-20 16:20:16