一种基于强化学习设计伦理智能体的方法

摘要

本发明涉及机器学习领域，公开了一种基于强化学习设计伦理智能体的方法，包括从行为规范中归纳并提取出元伦理行为；利用众包技术对元伦理行为进行分级，得到元伦理行为分级；基于轨迹树、元伦理行为分级设计和强化学习算法设计奖励机制；选择生活场景并利用奖励机制进行伦理智能体训练。本发明实现对不同场景中相似行为的概括，能够从广义上概括出人们日常生活中的各类行为，保证了环境的一般性，在一定程度上解决了场景受限的问题；通过众包技术对元伦理行为进行分级统计，即能够节省时间成本；结合元伦理行为分级与轨迹树，完善强化学习中的奖惩机制，高效应对可能遇到的人类行为。