基于神经网络模型训练系统的训练处理方法、训练系统

摘要

本发明提供了一种基于神经网络模型训练系统的训练处理方法、训练系统及存储介质，该系统包括：监控节点、多个参数存储节点与多个模型计算节点；方法包括：通过将多个模型计算节点各自接收的样本数据的子集训练模型得到的模型参数，发送至与模型计算节点关联的参数存储节点；通过多个参数存储节点存储该模型参数，当多个模型计算节点进行下一次迭代训练时，将所存储的模型参数发送到各自关联的模型计算节点，通过多个模型计算节点各自接收的新样本数据的子集训练模型；通过监控节点获取的多个参数存储节点和多个模型计算节点的运行状态，控制参数存储节点和模型计算节点。通过本发明，能节约节点资源，提高节点间的通信效率。