基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质

摘要

本发明提供了一种基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质。该方法包括：接收参与方上传的多个参与方模型；根据参与方模型，分别确定查询参数矩阵和关键值矩阵；确定每一个查询参数矩阵与多个关键值矩阵之间的差异度；利用差异度，对参与方模型进行本地更新，以得到新的参与方模型。以解决在联合学习中，各方数据相互割裂，难以直接度量数据之间的具体差异，而导致数据分配不均的问题。