阿里自动化AI对抗平台 给AI系统做“安全体检”

摘要

为帮助AI应用从源头构建安全性,阿里安全图灵实验室在整理归纳学界相关方法的基础上,搭建了一个自动化AI对抗攻击平台CAA,帮助检测AI系统存在的安全漏洞。经CAA“体检”后,AI安全专家可针对被检测AI的薄弱地带提出安全建议,助力AI鲁棒性检测。