EDA 文本增强技术在中英文语料上的差异性分析

靳大尉，王雯慧

（陆军工程大学指挥控制工程学院，南京 210000）

0 引言

数据驱动的机器学习模型训练中模型的精度与模型的复杂度往往成正比。但这种正比的前提是要有足够多的训练样本数据，否则很容易造成欠拟合现象。在很多实际的项目中，难以有充足的数据来完成训练任务，为了提升模型的泛化能力，要么寻找更多的数据，要么充分利用已有的数据通过数据增强技术来产生新样本。

在计算机视觉领域，已有旋转、缩放、剪切等通用增强方法。文本数据增强实践中，Jason Wei等人提出了一套简单的用于自然语言处理的通用数据扩充技术EDA［1］，并针对其在英文文本上的应用效果进行了研究。为了研究EDA技术在与英文文本差距较大的中文文本上的应用效果，本文选择三种公开中文语料和文本分类任务，在中文数据集上实验并验证了EDA技术的增强效果，并分析了中英文文本语料上EDA增强技术的应用差异，提出了中文数据集中推荐的增强参数，同时验证了EDA技术在以Bert为代表的预训练语言模型上的应用效果。

1 文本增强方法概述

依据文本增强的原理不同，文本增强的技术可以分为面向原始文本的增强方法和面向文本表示的增强方法两种。

面向原始文本的增强方法主要是通过对原始文本中的字词进行操作来进行增强。大部分研究都通过引入各种外部资源来提升增强效果，包括同义词、外部噪声等。除了典型的EDA技术，还包括基于复杂模型的增强方法，如条件BERT（CBERT）［2］和利用RL来选择增强操作［3］。……