深度学习中的对抗攻击与防御

摘要

对抗样本是被添加微小扰动的原始样本,用于误导深度学习模型的输出决策,严重威胁到系统的可用性,给系统带来极大的安全隐患.为此,详细分析了当前经典的对抗攻击手段,主要包括白盒攻击和黑盒攻击.根据对抗攻击和防御的发展现状,阐述了近年来国内外的相关防御策略,包括输入预处理、提高模型鲁棒性、恶意检测.最后,给出了未来对抗攻击与防御领域的研究方向.