Sousuo:基于异构芯片架构的卷积神经网络在线调度算法

摘要

Chiplets已成为现代芯片设计中的常用方法。Chiplets提高了产量并实现了核心、内存子系统和互连级别的异构性。卷积神经网络(CNN)由于权重越来越大,其对计算、带宽及存储能力都有很高的要求。为了开发基于chiplet的芯片架构,CNN必须在计算资源的调度和工作负载分配方面进行优化。文章提出了一种在线方法Sousuo在chiplet芯片架构上生成和调度并行CNN流水线,Sousuo以计算性能和内存带宽的异构性为目标,通过快速网络探索技术调整流水线调度。比较了模拟退火、爬山优化和Pipe-Search。与其他算法相比,Sousuo的收敛时间平均提高了约35倍。不仅算法速度很快,Sousuo的解决方案通常也优于其他启发式探索算法。