一种量化神经网络中多个输入变量之间相互作用的方法

摘要

本发明公开了一种量化神经网络中多个输入变量之间相互作用的方法，属于深度学习技术领域，包括：给定预训练的神经网络和一个输入样本，选定输入样本中将用于计算相互作用的若干输入变量；通过训练，得到对所述输入变量的两种划分，所述划分将所述输入变量划分为多个联盟，根据网络输出计算各个联盟的沙普利值；两种划分得到的沙普利值之和的差反映了输入变量之间的相互作用；可以帮助人们理解输入变量之间的关系，并提取出神经网络建模的原型特征，从而起到解释神经网络特征建模的作用，可以应用于各类深度神经网络，提供了一种通用的可解释性方法。