王晓霞,钱雪忠,宋 威
(江南大学人工智能与计算机学院,江苏无锡 214122)
(*通信作者电子邮箱17854265793@163.com)
关系抽取(Relation Extraction,RE)是自然语言处理领域的一项重要子任务,是对非结构化文本进行大规模关系理解应用的基石,它在信息抽取、问答系统和知识图谱等领域有着广泛的应用[1]。关系抽取是根据预先定义的关系类型来识别文本中标记实体对之间的语义关系。例如,“The train <e1>crash</e1>was caused by terrorist <e2>attack</e2>.”,根据给定的句子以及标记的实体对判定“crash”与“attack”之间的关系为Cause-Effect(e1,e2)。
现有的关系抽取模型可以大致分为两类:基于序列的模型和基于依赖关系的模型。基于序列的模型只对单词序列进行编码,使用卷积神经网络(Convolutional Neural Network,CNN)或循环神经网络(Recurrent Neural Network,RNN)将句子序列编码为语境化的潜在特征;基于依赖关系的模型则将输入语句的依存树纳入模型中,通过沿着依存树形成的计算图来构建句子的分布式表示。与基于序列的模型相比,基于依赖关系的模型能够捕获单独从词嵌入序列中无法学习到的长期句法关系。但是,依存树中并不是所有信息都对关系抽取任务有用,为了能够排除依存树中的干扰信息,现有方法通过对依存树进行剪枝操作,选取依存树中的部分结构进行编码以获取句子的语义特征。这种基于硬剪枝的策略过于激进地修剪依存树而忽略了相关信息,降低了依存树中的信息利用率。其次,现有模型中的特征提取器效果不佳,无法同时提取依存树中的局部与非局部依赖特征,从而不能有效学习到句子的高阶语义特征。……