一种用于答案选择的知识增强混合神经网络

2021-02-28 06:20:18李超凡陈羽中
小型微型计算机系统 2021年10期
关键词:语义特征文本

李超凡,陈羽中

(福州大学 数学与计算机科学学院,福州 350116) (福建省网络计算与智能信息处理重点实验室,福州 350116)

1 引 言

答案选择是问答系统开发中的一项基本任务,它的目的是从几个候选答案中选择出正确的答案[1].在大多数情况下,答案选择任务被视为排序问题[2,3]或分类问题[4,5].目前针对答案选择问题已经进行了大量的研究工作,所提出的答案选择模型主要基于统计学习方法[2-11]和深度神经网络[12-36].

在深度学习兴起之前,传统的答案选择模型依赖于人工定义的规则来提取特征,比如从问答对中提取词汇特征、句法结构特征、n-gram特征等,获取特征后,使用统计学习算法或排序算法识别问题的匹配答案[6-11].该类模型在答案选择任务上取得了一定的进展,但其主要缺点在于依赖人工进行特征工程,耗时耗力.

近年来,深度神经网络模型在答案选择任务中受到了极大的关注,深度神经网络能够自动地从文本中提取上下文信息和语义信息,并将潜在信息编码为连续低维向量的表示形式,并且进行相关性排序,从而将人们从繁琐的特征工程中解脱出来.因此,深度神经网络已逐渐成为答案选择任务中的主流方法.卷积神经网络能够有效获取句子中的语义信息,因此,一些模型使用卷积神经网络[12-19]来对问题和候选答案之间的语义关联进行建模.但是,卷积神经网络无法充分地对句子中的上下文依赖关系进行建模,且卷积核窗口大小……

登录APP查看全文

猜你喜欢
语义特征文本
语言与语义
如何表达“特征”
在808DA上文本显示的改善
不忠诚的四个特征
当代陕西(2019年10期)2019-06-03 10:12:04
基于doc2vec和TF-IDF的相似文本识别
电子制作(2018年18期)2018-11-14 01:48:06
“上”与“下”语义的不对称性及其认知阐释
现代语文(2016年21期)2016-05-25 13:13:44
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
认知范畴模糊与语义模糊
如何快速走进文本
语文知识(2014年1期)2014-02-28 21:59:13
线性代数的应用特征
河南科技(2014年23期)2014-02-27 14:19:15