一种用于图像处理的学生模型的训练方法及装置

摘要

本申请公开一种用于图像处理的学生模型的训练方法及装置，属于知识蒸馏技术领域，该方法包括：获取教师模型中分类层的参数，教师模型由对多个图像样本中的目标对象进行分类训练得到，利用获取的参数初始化待训练的学生模型中分类层的参数，将至少部分图像样本输入到学生模型中进行分类，根据学生模型的分类损失值调整学生模型中位于分类层之前的目标层的参数，使学生模型中目标层学习到的每类目标对象的图像特征趋近教师模型中目标层学习到的该类目标对象的图像特征，直至确定学生模型的分类误差小于设定误差时结束训练，其中，教师模型和学生模型均包括依次相连的卷积层、分类层和归一化层、且两者的归一化层使用相同的归一化函数。