基于结合词典的CNN-BiGRU-CRF网络中文分词研究

郭振鹏，张起贵

（太原理工大学信息与计算机学院，山西晋中 030600）

中文是一种复杂的语言，中文文本中没有自然可识别的分隔符，词语间的划分较为模糊，由此学者们掀起了中文分词的研究热潮。例如，文献[1]提出了一种利用膨胀卷积神经网络DCNN（Dilated Convolutional Neural Network）进行中文分词的方法，解决了模型计算速度慢、输入特征不丰富等问题。文献[2]提出使用长短时记忆神经网络(Long Short-Term Memory，LSTM）学习中文分词的字符表示，使用CRF（Conditional Random Field）联合解码标签的方法。文献[3]提出了一种改进双向LSTM-CRF 网络的分词方法，解决了原分词模型在编码过程的记忆压缩问题。文献[4]提出了改进卷积神经网络CNN(Convolutional Neural Networks)的中文分词模型，克服了过于依赖人工处理特征的缺点，简化了模型结构，提高了分词准确率。文献[5]提出一种基于样本迁移学习的中文分词方法，增强了分词模型的领域自适应能力。然而这些基于神经网络的方法通常依赖于大量的标记句来训练模型，对于训练数据中稀缺或缺失的单词，这些方法很难正确地分割出包含该单词的句子。幸运的是，这些词中有许多在现有的中文词典中得到了很好的定义。因此，中文字典有可能提高基于神经网络的中文分词方法的性能，减少对标记数据[6]的依赖。

1 相关理论

1.1 字嵌入

在对文本进行处理时，字嵌入是较为关键的一步，通常采用将词或字表示为分布式向量。如果采用One-hot 编码，即将在该词对应位置上记为数字1，其他位置上记为数字0，这会导致生成的词向量过于稀疏，浪费不必要的内存，并且字词的语义和句法信息也不能体现出来；……