方 红,苏 铭,冯一铂,张 澜
1.上海第二工业大学 文理学部,上海201209
2.上海第二工业大学 工学部,上海201209
3.喀什大学 数学与统计学院,新疆 喀什844000
命名实体识别对下游的信息提取、问答系统、机器翻译等应用领域起着非常重要的作用,是自然语言处理技术落实到工业生产实践中的基础环节;中文命名实体识别相较于英文来说,其词的划分较为困难,因此如何去丰富地表示字符信息成为近些年来研究的重点。
中文命名实体识别最初是基于字符的NER和基于词的NER,He 等人[1]、Li 等人[2]的研究表明基于字符的NER不能很好地应用词的信息,由于中文单个字所能表示的信息要比单个英文单词欠缺很多,从而无法更好地完成后续的预测标注;基于词的NER 由于无法很好地获得实体边界,因而会产生很多错误信息,导致效果比基于字符的更差。后续大量工作将中文的字符和词信息结合起来进行序列标注,丰富输入表示层的信息。刘小安等人[3]提出了通过CNN进行局部特征提取的CNNBiLSTM-CRF模型,对词汇的局部特征提取起到了一定的效果;谢腾等人[4]使用了预训练模型Bert 来进行词汇表示学习,提出了Bert-BiLSTM-CRF 模型,提升了上下文语义表示学习的效果;以上提出的模型都没有借助外部词典信息,因此对于特殊名词较多的数据集分词错误造成的误差传递问题比较严重。后续Zhang等人[5]提出了一个将词的信息融入到这个词的开始和结束字符中的Lattice 模型,很好地增强了词的嵌入表示效果,但是对于词中间的字符却无法融合词的信息,会造成一定的信息缺失。……