王 豪,郭 斌,郝少阳,张秋韵,於志文
基于深度学习的个性化对话内容生成方法
王 豪,郭 斌,郝少阳,张秋韵,於志文
(西北工业大学计算机学院,陕西 西安 710072)
人机对话系统是人机交互领域一个非常重要的研究方向,开放域聊天机器人的研究受到了广泛关注。现有的聊天机器人主要存在3个方面的问题:①无法有效捕捉上下文情境信息,导致前后对话内容缺乏逻辑关联。②大部分不具备个性化特征,导致聊天过程千篇一律,且前后对话内容可发生矛盾。③倾向于生成“我不知道”、“对不起”等无意义的通用回复内容,极大降低用户的聊天兴趣。本研究中利用基于Transformer模型的编解码(Encoder-Decoder)结构分别构建了通用对话模型和个性化对话模型,通过编码历史对话内容和个性化特征信息,模型可以有效捕捉上下文情境信息以及个性化信息,实现多轮对话过程,且对话内容符合个性化特征。实验结果表明,基于Transformer的对话模型在困惑度(perplexity)和F1分数评价指标上相比于基线模型得到了一定的提升,人工评价显示模型可以正常进行多轮交互对话过程,生成内容多样性高,且符合给定的个性化特征。
深度学习;对话系统;聊天机器人;个性化;上下文感知
人机对话系统是人机交互领域一个非常重要的研究方向,形式多样的对话系统正处于蓬勃发展阶段。文本生成,即自然语言生成,是实现对话系统的关键技术,可以利用各种不同类型的信息,如文本、图像等,自动生成流畅通顺、语义清晰的高质量自然语言文本。……