基于对抗式数据增强的深度文本检索重排序①

陈丽萍,任俊超

(东北大学 理学院,沈阳 110819)

1 引言

近年来,随着互联网技术的不断发展,信息检索领域的相关研究也取得了巨大突破.信息检索是用户获取查询信息的主要方式.信息检索主要是解决从大量候选信息集中获取与所需信息相关的信息资源,返回的相关信息通常根据某种相关性概念进行排名,排名的结果至关重要.因此,对于信息检索领域中排序模型的研究成为一大热点.

在过去的几十年中,研究人员提出了许多不同的排序模型,包括向量空间模型[1],概率模型[2]和LTR(Learning To Rank)模型[3].最高效的检索方法是使用向量空间模型,其方法包括TF-IDF 关键词权重匹配[4],这些方法是基于词的匹配,更容易受到关键词的限制.例如,候选段落集合为:“这个女明星如此漂亮”,“莉莉”.查询问题为:“这个女明星叫什么名字? ”,如果采用TF-IDF 关键词匹配方法,这个查询的最相关答案是“这个女明星如此漂亮”.显然,此方法只能获得与查询相似的段落,无法得到语义的匹配信息.随着机器学习的发展,LTR模型已经取得了巨大的成功,其主要取决于特征的选取,特征的质量和数量决定了模型的质量,一定程度上缓解了向量空间模型带来的不足,但是依然无法获取连续的语义信息.近年来,神经网络发展快速并且在自然语言处理领域取得了重大突破,神经网络模型被应用到信息检索领域中,神经网络信息检索模型[5]被证明可以有效地从原始输入中学习文本的潜在语……