用户意图识别模型的生成方法、用户意图识别方法和设备

摘要

本发明涉及人工智能技术领域，提供一种用户意图识别模型的生成方法、用户意图识别方法和设备。生成方法包括：基于逐层知识蒸馏训练包含多层编码网络的教师模型，获得目标教师模型的每层编码网络的输出Logits；基于包含多层卷积网络的学生模型，根据包含学生模型的输出结果与训练数据的真实标签之间的交叉熵损失、及各层卷积网络的输出结果与各层编码网络的输出Logits之间的交叉熵损失的目标损失函数，进行可微神经网络结构搜索，获得目标学生模型；根据目标学生模型的输出结果与真实标签之间的交叉熵损失，对目标学生模型进行微调，获得用户意图识别模型。本发明通过知识蒸馏、可微搜索和微调，自动获得用户意图识别模型，减少模型参数量和硬件资源消耗。