一种基于注意力机制的BILSTM多标签文本分类方法

摘要

本发明属于自然语言处理与多标签文本分类领域，特别涉及一种基于注意力机制的BILSTM多标签文本分类方法；包括将文本数据和标签数据分别通过bert和Word2vec进行词嵌入；采用BILSTM模块分别提取词嵌入后的文本数据与标签数据的上下文信息，得到文本表示和标签表示；通过注意力机制模块得到基于标签的文本表示；通过损失函数训练多标签文本分类模型；将实时数据输入训练好的多标签文本分类模型，得到实时数据的标签分类预测结果；本发明利用Bert进行词嵌入，运用BILSTM进行上下文依赖关系的提取，充分利用文本和文本、文本和标签以及标签和标签的信息，从而提升了多标签文本分类的准确率和归一化折损累计增益。