基于逆类别注意力机制的电商文本分类①

王 维,胡慧君,刘茂福

1(武汉科技大学 计算机科学与技术学院,武汉 430065)

2(智能信息处理与实时工业系统湖北省重点实验室,武汉 430081)

随着电子商务的快速发展,电商数据呈指数式增长.这些数据承载了各类消费群体的信息,成为了极有价值的资产,应用大数据正逐渐成为商业竞争的关键.大数据的发展,为企业带来了新的生产革命,带来了一系列的机遇.基于互联网实现电子商务数据收集,大数据分析促进了企业客户服务的差异化,强化了市场营销的针对性,增强了电子商务企业竞争力.而对电商数据的文本分类,是进行一切数据分析的基础.

依靠人力对电商数据进行分类,无法适应如今海量的电商数据且成本过高.传统机器学习难以捕捉有用的人工特征,深度学习可以自动提取特征.近年来,随着深度学习的快速发展,深度学习在自然语言处理领域取得了良好的效果.采用深度学习模型如卷积神经网络(Convolutional Neural Networks,CNN)[1]、循环神经网络(Recurrent Neural Network,RNN)[2]以及长短期记忆神经网络(Long Short-Term Memory,LSTM)[3]等进行文本分类,都取得了比传统机器学习模型更好的结果.

文献[4]中,作者使用深度学习模型对新闻文本进行分类.采用的模型包括BPNN 模型,BiLSTM 模型,TextCNN 模型和BiLSTM+TextCNN 模型,除了BPNN 模型之外,其他模型的F1 值均超过0.9,取得了较好的分类效果[4].这些模型取得的分类成果,足以说明将深度学习模型应用于文本分类,是一个不错的选择.

Attention 机制模拟人类注意力机制,对信息中的关键部分进行着重关注,最早在……