代理服务器、分层次网络系统及分布式工作负载管理方法

摘要

本公开涉及代理服务器和分层次网络系统及其分布式工作负载管理方法。根据本公开的一个实施例，所述代理服务器包括：速率控制器，被配置成基于测量到的请求相关信息和与请求的服务等级有关的服务质量参数，周期性地确定每个服务等级的请求的分派速率，其中各个服务等级的分派速率之和小于或等于预定速率；以及请求分派器，被配置成按照由速率控制器确定的分派速率，分派对应服务等级的请求。本公开的一个方面实现了管理低开销、高可扩展性、简单但高效的工作负载管理系统，以进行QoS保证和过载保护。