孙鹤立,孙玉柱,2*,张晓云
(1.西安交通大学计算机科学与技术学院,西安 710049;2.西安交通大学外国语学院,西安 710049)
(*通信作者电子邮箱sunyuzhu12@xjtu.edu.cn)
社交事件是基于事件的社会网络(Event-Based Social Network,EBSN)[1]的核心要素,驱动了线上和线下网络的整体运行。事件描述是事件的重要属性,可综合包含事件意义、安排、特点等多种信息,不但可辅助用户决策是否参加该事件,而且给了组织者最大的自由度来使事件更有吸引力。目前,主流社交平台如Meetup、豆瓣中的事件描述均为人工生成,由于受到语言描述能力和对事件描述认知层次的影响,事件描述出现了描述贫乏或描述过度、要素覆盖不全、语言吸引力不强的现象,导致事件参与人数不符合预期,且人工生成事件描述工作量较大,为事件组织者增加负担。本文采用自然语言处理模型生成高质量的事件描述供组织者参考,以帮助组织者快速形成丰富、准确、高吸引力的事件描述。
事件描述的生成算法最终会应用到EBSN 平台中,优秀的算法不但可以生成高质量文本,同时还需要满足无监督的特点。为了满足以上特点,本文中研究了多种语言生成模型。
2011 年,文献[2]中提出了循环神经网络语言模型(Recurrent Neural Network Language Modeling,RNNLM)被广泛应用,并多次被应用在文本生成实践中。文献[3]中对RNNLM 做了改进,使用单个字符而非单个单词作为输入,在RNNLM 前加入了卷积层和highway 层,使得模型从字符的角度,而非单词的角度学会了如何表达自然语言。实验证明他们的改进模型能大幅减少参数数量,并且在学习富词法语言中,表现优于传统的以词为最小单位的语言模型。……