图神经网络在自然语言处理中的应用

2021-04-29 09:28:12陈雨龙付乾坤
中文信息学报 2021年3期
关键词:语义文本结构

陈雨龙,付乾坤,张 岳

(1.浙江大学,浙江 杭州 310027;2.西湖大学 工学院,浙江 杭州 310024;3.西湖高等研究院 前沿技术研究所,浙江 杭州 310024)

0 引言

自然语言处理中存在很多图结构。如图1所示,从句法结构、语义关系图、篇章关系结构,到实体和共指结构、关系结构和知识图谱,都是一般的图结构。一个句子内部的字、词相邻关系也构成图结构。形式上,图由节点和边组成。本文以三类图结构为例,观察自然语言处理任务中相关的节点和边,以便更具体地了解这些任务所对应的图。

图1 自然语言处理中的图结构

第一类图结构是基于句子的语言结构。已有研究表明,对关系提取、机器翻译和其他自然语言处理任务,句法[1]、语义[2]和篇章结构信息[3]非常有用。因此,一种在句子上定义图结构的方法是把每个词当作节点,并把句法依存关系、语义角色和篇章关系等节点之间的链接当作边。我们可以在相邻单词之间添加多种类型的边,从而形成一种具有统一节点类型但具有不同边类型的图。

第二类图结构是基于文档中的实体和共指关系连接构建的,如图1(a)所示。对于机器阅读的任务,有研究表明,为了正确地回答问题,对参考文档中不同的句子进行推理可能是有必要的[4]。一种为这种推理构建图结构的方法是把文档中提及的实体作为节点,并把实体之间的共指链接作为边。另外,除了文本文档中的实体,知识图谱中的实体也可以使用图神经网络进行编码,如图1(b)所示。……

登录APP查看全文

猜你喜欢
语义文本结构
《形而上学》△卷的结构和位置
哲学评论(2021年2期)2021-08-22 01:53:34
语言与语义
论结构
中华诗词(2019年7期)2019-11-25 01:43:04
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
电子制作(2018年18期)2018-11-14 01:48:06
论《日出》的结构
“上”与“下”语义的不对称性及其认知阐释
现代语文(2016年21期)2016-05-25 13:13:44
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
创新治理结构促进中小企业持续成长
现代企业(2015年9期)2015-02-28 18:56:50
认知范畴模糊与语义模糊