基于模板匹配结合小样本深度模型的口语语言理解方法

摘要

本申请公开了基于模板匹配结合小样本深度模型的口语语言理解方法，所述方法包括如下步骤：(1)建立了一种基于BERT+CRF模型的意图识别和语义槽填充联合建模，通过基于BERT+CRF的联合模型，利用BERT中特殊字符[CLS]在模型训练后代表着整句话的语义信息，因此将其作为意图识别的分类输入；(2)使用SOFTMAX分类器进行意图分类，在此联合模型中，槽位提取的任务则除了直接使用BERT各字符的输出结果进行序列标注以外，另外还接入一层CRF改善实验效果。通过该种方法更好应用SLU中意图识别和槽位提取的强相关性特点，更好的在用户较短的对话文本中准确理解用户意图，使用单模型做多任务可以学习提取到更好，更丰富的特征来提升SLU任务的效果。