基于对抗训练和VAE样本修复的对抗攻击防御技术研究

摘要

cqvip:人工智能系统面临着来自物理世界的对抗性欺骗攻击的威胁,人工智能算法对这种攻击十分敏感。以目标识别为例,攻击者在样本数据上添加十分微小的扰动,即可达到降低目标识别准确率甚至有目标地诱导识别结果的目的。如何有效抵御对抗样本威胁成为业界的一个研究热点。文章重点研究了基于随机对抗训练的智能计算模型安全加固技术和基于变分自编码器的异常样本修复技术,针对对抗样本攻击进行事前主动加固和事后及时修复,结合“主动+被动”的理念实现人工智能算法的安全增强,确保人工智能技术安全、可靠地落地应用。