基于BERT的汽车生产设备故障领域命名实体识别

摘要

在汽车生产设备故障领域,中文命名实体识别时实体类别复杂,且传统词向量无法解决一词多义等问题。针对上述问题,文中提出一种基于BERT(Bidirectional Encoder Representations From Transformer)的汽车生产设备故障领域命名实体识别模型。首先,通过BERT预训练模型提取语义信息和句法特征,生成动态词向量。然后,将词向量输入到双向长短期记忆进行双向编码,获得长序列语义特征。最后,通过条件随机场进行序列解码,学习标签之间的依赖关系,得到最优的标签序列。在自建真实汽车生产设备故障领域数据集上进行实验,得到新方法的准确率、召回率和F1值分别为87.9%、89.6%和88.7%。