基于深度学习的文本匹配研究综述

2021-08-06 05:24:16曹帅
现代计算机 2021年16期
关键词:语义深度文本

曹帅

(四川大学计算机学院,成都 610065)

0 引言

自然语言处理是人工智能领域的重要分支,其中包含了很多研究方向:文本分类、信息抽取、机器翻译和问答系统等。其中文本匹配是基础并重要的研究方向,其在问答系统、信息检索和对话系统等很多领域都发挥着决定性的作用。文本匹配在不同场景下的含义略有不同,例如在内容推荐上实质的任务为长文本之间的语义匹配,在这种情况通过使用主题模型,来获取到两个长文本的主题分布,再通过衡量两个多项式分布的距离去衡量它们之间的相似度;又比如在检索式问答系统中,则是通过对比问题和答案之间的相似度来召回最为相关的答案返回给用户。

文本匹配的发展经历着从传统方法到深度神经网络方法的演变。传统方法中主流的是BOW、TF-IDF、BM25等算法,它们在搜索引擎的原理中使用较为广泛。这些算法多为解决词汇层面的匹配问题,如BM25算法通过计算候选项对查询字段的覆盖程度来得到两者之间的匹配得分,得分越高的网页则匹配度越高。而类似TF-IDF这种方法,通过建立倒排索引可使查询变得很快,但实际上解决的只是词汇层面的相似度问题。这些方法实则上有很大的局限,解决不了更深层的语义或知识缺陷。而之后出现的基于深度学习的方法则在一定程度上开始解决这些问题。

研究者将介绍目前在深度学习中主流的三种文本匹配算法:基于向量相似度计算的方法、基于深度神经网络匹配的方法和基于预训练模型匹配的方法。……

登录APP查看全文

猜你喜欢
语义深度文本
语言与语义
在808DA上文本显示的改善
深度观察
深度观察
基于doc2vec和TF-IDF的相似文本识别
电子制作(2018年18期)2018-11-14 01:48:06
深度观察
“上”与“下”语义的不对称性及其认知阐释
现代语文(2016年21期)2016-05-25 13:13:44
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
认知范畴模糊与语义模糊
如何快速走进文本
语文知识(2014年1期)2014-02-28 21:59:13