组合多任务与迁移学习的故事发展预测

方 红，冯一铂，张 澜

(上海第二工业大学 文理学部，上海 201209)

随着科技进步、信息技术及人工智能技术的发展，愈加庞大的数据需要计算机代替人处理.故事(stories)这种由文本构成的海量数据，记录着人类发展和社会生活，因此发掘大量故事中潜在的语义关系并推断故事发展方向是一个全新且充满挑战的任务.

故事发展预测又被称为故事完形填空测试(story cloze test, 简称SCT)，它与自然语言中的知识问答相似，属于机器阅读理解(machine reading comprehension, 简称MRC)的一种.SCT任务于2016年被提出，该任务的数据集——ROC stories全部采样于生活事件，内含6句话及一个正确选项的标签.SCT任务要求从最后2句话中选择出由前4句话组成的不完整的故事的正确结局.由于数据集来源广泛，需要借助多种自然语言处理(natural language processing，简称NLP)技术来解决问题.图1为一个SCT任务中的典型实例.

图1 SCT典型实例

近年基于深度学习的方法在SCT任务研究中应用广泛.Huang等将故事主体与发展结局投影到同一个向量空间中，计算两者距离.Wang等以生成错误选项为策略，提出了一种条件生成式对抗网络.Cai等利用Bi-LSTM(bi-directional long short-term memory)神经网络进行句子序列和词序列的编码，计算故事主体与不同发展方向的相似度.上述研究本质上皆通过文本间余弦相似度预测故事发展方向，缺乏对故事语义的理解，预测精度较低.而Chaturvedi等和Li等利用神经网络，创新性地组合情感和故事发展逻辑等多个语义特征，更好地挖掘上下文中的信息，使预测精度有所提升.但随着自然语言的发展……