用于采用微结构化权重剪枝和权重统一进行神经网络模型压缩的方法及装置

摘要

一种神经网络模型压缩的方法，由至少一个处理器执行，该方法包括接收输入神经网络和输入掩膜，以及使用深度神经网络减少输入神经网络的参数。该深度神经网络通过以下训练：从深度神经网络的、被输入掩膜所掩膜的输入权重的多个块中，选择待剪枝的剪枝微结构块；基于选择的剪枝微结构块，对输入权重进行剪枝；从被输入掩膜所掩膜的输入权重的多个块中，选择待统一的统一微结构块；以及基于选择的统一微结构块，对已剪枝的输入权重的多个块中的一个或多个块中的多个权重进行统一，以得到所述深度神经网络的已剪枝且已统一的输入权重。