张雪松,郭瑞强,2,黄德根
(1. 河北师范大学 计算机与网络空间安全学院,河北 石家庄 050024;2. 河北师范大学 河北省供应链大数据分析与数据安全工程研究中心,河北 石家庄 050024;3. 大连理工大学 计算机科学与技术学院,辽宁 大连 116024)
命名实体识别(named entity recognition,NER)是指识别文本中具有特定意义的实体,主要包括人名、地名、机构名、专有名词等,即自然文本中的实体边界识别和类别识别,其性能好坏对自然语言处理下游任务有直接影响。
在命名实体识别任务中,现有的方法主要采用基于双向长短时记忆网络(bidirectional long short-term memory,BiLSTM)和条件随机场(conditional random field,CRF)的模型[1-3],均达到了较为理想的识别效果;为了进一步改善命名实体识别效果,研究者也尝试通过预训练语言模型来提高命名实体识别性能[4-5]。这些模型大多只是将句子作为一个单词序列去处理,忽略了句子中潜在的句法信息。
依存句法分析为句子中的每个词语找到其依存核心词语,依存弧由核心词语指向修饰词语,并指定一个依存关系类型,从而构成一棵反映句子中各个单词之间语法关系的语法树。如图1所示,“The Dixie Chick are the big winners at the Country Music Awards in Nashville”,例句通过依存句法分析得到了一棵依存树。图中显示了依存关系对于命名实体识别的影响,“The Dixie Chick”是一个“ORG”实体类型,其中有一条外部的依存弧,该弧由单词“winners”指向“Chick”,依存类型为“nsubj”;实体内部存在两条依存弧,由单词“Chick”指向“The”和“Dixie”,依存类型分别为“det”和“nn”。这些依存弧所蕴含的单词间的语法信息对于命名实体类别和边界的识别有辅助作用,但现有模型并未充分考虑句子中所潜在的句法信息,存在长距离依赖问题。……