一种基于嵌入式注意力机制的文本分类方法

摘要

大数据时代海量的文本数据蕴含着极大的科研价值,文本分类技术得到广泛的关注.文本分类在信息检索、自动问答等应用领域占据重要地位,是自然语言处理研究的关键技术之一.本文针对神经网络分类方法训练时间长性能仍可提高,提出一种嵌入式注意力机制模块(Eam),用来增强已有的文本分类神经网络模型.该模块将重点关注数据中什么是最有意义及哪里含有的信息量更为丰富,从而高效提取文本中有价值的信息区域加速模型收敛.本文以增强TextCNN、ImdbCNN为例,在公开数据集IMDB上证明Eam的有效性,同等参数配置情况下能够提升模型的准确率、召回率及F1值,较原模型能够更快收敛减少训练时间.