融合语义结构的注意力文本摘要模型

滕少华，董 谱，张 巍

（广东工业大学 计算机学院，广东 广州 510006）

随着互联网的迅猛发展，互联网信息的数量也有了爆发量的增长，如何从互联网上的海量信息中获取有价值的信息成为了当前一个至关重要的问题。文本摘要技术作为能够通过理解长文本(例如新闻、微博、文章等)的内容信息，概括出相对简短的短文本，同时保留出长文本中的重要信息，成为解决该问题的一个关键技术。如何分析得到长文本中的重要信息以及如何将其中的重要信息组合得到人类语言习惯的短文本是文本摘要技术所要关注的重要问题。

文本摘要技术按照生成方式不同分为抽取式文本摘要和生成式文本摘要[1]。其中抽取式文本摘要是从原始文本中判断重要的句子或者词语，抽取这些句子和单词，并将这些句子和单词进行组合，使其能够概括原文本的短文本，生成式文本摘要一般主要用于长文本的摘要生成中。生成式文本摘要是通过转述、同义替换、句子缩写等方法，按照原文本的语义信息生成间接凝练的摘要，并使其符合人类的语言习惯。由于神经网络在自然语言处理领域的成功应用，结合神经网络的生成式文本摘要技术成为了当前的研究热点。

当前，主流的生成式文本摘要模型主要使用包含注意力机制的序列到序列模型，由于序列到序列(Sequence-to-Sequence, Seq2Seq)模型[2]在文本摘要领域的成功应用，使得生成式文本摘要的实现有了更有效的途径，最新的生成式文本摘要一般都是采用包含注意力机制的序列到序列模型为基础。……