模型的后门防御能力提升方法、装置及系统

摘要

本发明实施例公开了一种模型的后门防御能力提升方法、装置及系统。其中，该方法包括：获取目标神经网络模型与目标任务下的干净训练样本集；根据触发器逆向工程反演出所述目标神经网络模型中的目标触发器及目标触发器对应的目标标签；采用所述目标触发器随机对所述干净训练样本集中的干净训练样本进行污染，将被污染的干净训练样本的原标注标签均修改为所述目标标签，得到第一污染样本集；采用所述第一污染样本集对所述目标神经网络模型进行攻击测试，根据攻击测试结果对所述目标神经网络模型进行调优，得到最优神经网络模型。本发明提高了神经网络模型抵御后门攻击的能力，同时保证模型的识别准确度。