面向图像分类的多参数自适应异构并行计算方法

摘要

本发明提供了一种面向图像分类的多参数自适应异构并行计算方法，首先将图像数据复制成R份，分别输入到R个多参数自适应模块中，多参数自适应模块之间采用异构并行，多参数自适应模块根据数据类型、数据量、模型参数所占显存、模型输入的batchsize和模型层数进行自适应选择最优的并行方式，对多参数自适应模块进行训练，将训练后的多参数自适应模块的预测结果传入主参数服务器中进行投票，输出最优的分类结果。本发明在保持原有深度学习训练效果的同时，能够大幅度提升模型训练效率，提高图像分类的鲁棒性。