一种基于梯度的语音识别主动学习询问策略

杨 媛，李诗铭，陈昌勇，叶 舟，李 杰

(上海航天电子技术研究所，上海201109)

0 引言

随着互联网和大数据的发展，深度学习在许多研究和工业领域发展迅速，例如图像处理、自然语言处理和语音信号处理。然而网络采集的数据由于未标注并不能直接用于深度学习神经网络的训练，特别是在语音识别中，手工为上百小时的野生语音数据标注音标音素冗长且成本较高。

因此，为了解决标签训练数据规模大的问题，可以筛选出高价值数据的主动学习应运而生。一般来说，未经训练的数据在深度神经网络训练阶段的反向传播中会得到更大的梯度，从而产生更好的训练效果。而当这些数据的标签存在时，这种方法称为真实梯度长度(True Gradient Length,TGL)[1]。

尽管TGL是最理想的主动学习询问方法，但在实际中并不能直接使用，仍然需要标签数据集。目前，比较常用的2种主动学习查询策略是信息不确定度[1-2]和模型改变量[3-4]。其中不确定度表示当前深度学习模型判定目标类别时的不确定程度，这一策略又细分为Least confidence[5]、Margin sampling[6]和基于熵(Entropy-based)的方法[7]。另一种选择策略是在给定新输入数据的情况下模型的变化。例如，期望梯度长度(Expected Gradient Length，EGL)[8]是计算反向传播过程中梯度的变化，且该过程不需要真实数据标签。此外，基于模型变化的方法还有Query-by-committee[9-10]和Density_weighted[11-12]。但常规的主动学习方法在衡量信息度方面相较于TGL仍有不足。

本文提出了一种新的主动学习询问策略，即使用深度学习框架来估计TGL。经过分析，因为EGL和熵可以从不同角度评估数据信息量，将这2个方法作为深度神经网络的输入，经训练后得到预测的TGL。……