基于神经元激活模式的深度学习样本级对抗攻击防御方法及其装置

摘要

本发明公开了一种基于神经元激活模式的深度学习样本级对抗攻击防御方法及其装置，包括以下步骤：构建用于目标识别的深度学习模型，深度学习模型包括卷积层、池化层以及分类层；从深度学习模型的网络层中提取特征图构建神经元激活模式，神经元激活模式和交叉熵函数组成损失函数；利用正常图像样本对深度学习模型进行训练时，采用构建的损失函数优化深度学习模型的参数；根据损失函数的梯度得到像素增量作为防御对抗攻击的扰动；利用参数优化的深度学习模型进行目标识别时，将待识别的图像添加扰动后输入至深度学习模型，经计算得到目标识别结果。该方法能够有效地防御多种对抗攻击，并且不影响正常样本的正确率。