基于多头注意力循环卷积神经网络的电力设备缺陷文本分类方法

摘要

充分利用历史电力设备缺陷描述文本可对新出现的设备故障进行快速分类,提升运维人员的检修效率,为此针对缺陷描述文本具有复杂语义等特点,提出基于多头注意力循环卷积神经网络(multi-head attention recurrent convolutional neural networks,MAT-RCNN)的电力设备缺陷分类方法.首先对电力设备缺陷描述文本进行研究,并分析部分文本分类模型的局限;然后采用分布式表示方法将词语表示为向量形式,并将多头注意力机制与优化的RCNN结合,构建基于MAT-RCNN的电力设备缺陷描述文本分类模型;最后,通过算例比较分析,证明所提方法在语义学习能力、分类效果等方面优于RNN等常规方法.