一种基于深度强化学习的机器学习模型黑盒公平性测试方法和系统

摘要

本发明公开了一种基于深度强化学习的机器学习模型黑盒公平性测试方法和系统，其主要流程包括：(1)机器学习模型黑盒公平性测试环境构建、(2)基于公平性测试环境的最优歧视实例生成策略学习、(3)结果统计三大部分，首先构建机器学习模型黑盒公平性测试环境，然后强化学习智能体与构建的机器学习模型黑盒公平性测试环境进行交互，利用深度强化学习算法学习最优歧视实例生成策略，最后统计测试结果。本发明能够解决机器学习模型黑盒公平性测试领域无有效启发式策略指导、测试效率较低、测试开销较大的问题。