魏文杰,王红玲,王中卿
(苏州大学 计算机科学与技术学院,江苏 苏州 215006)
在如今信息爆炸、互联网发展突飞猛进的时代,人们在网络上可以接触到各式各样的信息。为了快速从这些五花八门的信息中搜索到自己想要的内容,借助于摘要是个有效的方法。文本摘要通常被定义为“由单个或多个文本生成的,囊括了原文本重要信息的文本,且其长度不超过原文本的一半”[1]。然而在庞大的数据面前,人工生成摘要的方式显得力不从心,自动生成摘要的方法应运而生。
自动文摘[2]作为自然语言处理领域的一个重要研究方向,其通过对原文本进行压缩、提炼,生成简明扼要的语句,构成摘要提供给用户。从实现的方法上,自动文摘可分为:抽取式文摘(extractive summarization)[3]和生成式文摘(abstractive summarization)[4]。传统的自动文摘大多采用抽取式的方法,由于其算法简单、易于实现,且不存在句内逻辑错误而被广泛使用,但目前其发展已经遇到瓶颈。随着深度学习的热潮,基于神经网络的生成式文摘方法受到了更多的关注。相比于抽取式文摘,生成式文摘能从原文提取信息,生成更精确、简明的摘要,且不局限于原文本,可以利用文本以外的词生成摘要。
目前主流的生成式文摘通常采用基于编码器和解码器(encoder-decoder)框架[5]的学习模型。该模型一般以循环神经网络(recurrent neural network,RNN[6])作为编码器和解码器,该类网络主要学习序列化的线性语义表示,一般不涉及文本结构的学习。所谓的文本结构,通常是指文本内部的组织框架,部分或要素之间的关联方式。……