一种适用于异构计算平台的ICE负载均衡系统

摘要

本发明涉及一种适用于异构计算平台的ICE负载均衡系统，属于负载均衡领域。本发明实时采集节点服务器上GPU或NPU协处理器负载信息，根据任务类型和自定义负载均衡算法，选取特定协处理器作为响应客户端请求的节点，从而增强了系统的稳定性和鲁棒性，扩展了ICE对异构计算平台的负载均衡管理能力。本发明结合GPU、NPU等协处理器资源实时负载信息自定义ICE负载均衡方法，实现对ICE负载均衡模块的扩展。ICE注册中心通过调用扩展的负载均衡方法筛选目标对象适配器，从而实现对GPU、NPU等协处理器算力资源的负载均衡管理。