基于短语替换的汉越伪平行句对生成

2021-10-12 04:39:10贾承勋余正涛文永华于志强
中文信息学报 2021年8期
关键词:语言实验模型

贾承勋,赖 华,余正涛,文永华,于志强

(1. 昆明理工大学 信息工程与自动化学院,云南 昆明 650500;2. 昆明理工大学 云南省人工智能重点实验室,云南 昆明 650500)

0 引言

神经机器翻译(NMT)[1-2]是近几年提出的机器翻译方法,在大量的平行句对中取得了很好的翻译效果,并超越了统计机器翻译(SMT)[3],但对于资源稀缺型语言的效果并不理想。

利用现有小规模数据生成伪平行数据是提升资源稀缺语言神经机器翻译最有效的途径之一[4],目前扩充伪平行数据的方法主要有四种: 第一种是抽取式方法[5-7],在大量的可比语料中抽取平行句对,将源语言句子和目标语言句子放到同一语言空间中,通过比较源语言句子和目标语言句子之间的相似性判断句对是否平行;第二种是目前应用较为广泛的回译方法(Back Translation, BT)[8],使用目标语言单语数据通过目标到源语言的翻译模型翻译为源语言译文,从而生成伪平行数据;第三种方法是利用枢轴语言的方法[9-10],通过训练源语言到枢轴语言模型和枢轴语言到目标语言模型,利用源语言单语数据通过两步翻译生成伪平行数据进行源语言到目标语言的模型训练;第四种方法是在现有双语数据基础上进行词的替换[11],通过对现有数据进行分析,在一定的替换规则下进行词或模块间的替换,以生成更多的伪平行句对,达到数据增强的效果,但词级替换易出现一词多译的问题,从而对生成的伪平行句对产生不良的影响。

汉语-越南语是典型的低资源语言对,训练数据不足,利用现有训练数据进行数据增强可以较好地缓解此类问题。……

登录APP查看全文

猜你喜欢
语言实验模型
一半模型
记一次有趣的实验
重尾非线性自回归模型自加权M-估计的渐近分布
语言是刀
文苑(2020年4期)2020-05-30 12:35:30
做个怪怪长实验
让语言描写摇曳多姿
3D打印中的模型分割与打包
NO与NO2相互转化实验的改进
实践十号上的19项实验
太空探索(2016年5期)2016-07-12 15:17:55
我有我语言