用于并行执行的神经网络操作重新排序

摘要

公开了用于对神经网络的操作重新排序以改善运行时效率的技术。在一些示例中，编译器接收包括多个操作的所述神经网络的描述。所述编译器可确定多个执行引擎中的哪一执行引擎将执行所述多个操作中的每一者。所述编译器可确定与所述多个操作相关联的执行次序。所述编译器可基于所述执行次序和所述多个操作中的每一者的硬件使用情况而标识运行时低效情况。可对操作重新排序以减少所述运行时低效情况。可基于所述多个操作编译指令，所述多个操作包含重新排序的所述操作。