商业自动化决策算法解释权的功能定位与实现路径

摘要

商业自动化决策广泛应用,算法的评分影响用户贷款、就业、信誉等诸多权益。算法的自动化决策应具备可解释性,已经成为学术共识并在多国实践中展开。然而,算法解释面临着从技术方案转为法律制度的挑战,以及算法解释对象不清、标准不明、可能造成商业秘密泄露等质疑。自动化决策的算法解释权生产社会信任,救济用户权利,在算法治理体系中扮演着保障私权利的安全网的角色。具体的制度设计而言,自动化决策的算法解释应以用户行为干预为导向,解释的内容包括算法、数据与其他决策理由等多项内容,而非技术源代码。个体启动的算法解释应嵌入平台结构设计中,以具有重大影响、未达到人类参与决策程度的评价类算法为范围,并与个人数据保护制度耦合。本着兼顾效率与公平的原则,应适当限定算法解释权的适用范围,明确算法解释的内容,并以合乎程序标准与实质标准的方式提供。在程序上应由平台先行处理。