华为云 Serverless:如何解决高密度调度与 QoS 保障难题?

近年来,云计算不断演变,其中 Serverless 计算作为一种新兴的架构模式,有望简化开发者的工作流程与基础设施管理。然而,随着需求的不断增加,如何在高密度部署环境中保障服务质量(QoS)成为一个亟需解决的难题。近日,华为云的中间件团队在国际顶尖学术会议 USENIX ATC 上公布的论文《Harmonizing Efficiency and Practicability: Optimizing Resource Utilization in Serverless Computing with JIAGU》对此进行了深入的探索。

Serverless 计算的广泛使用使得资源利用的优化问题愈加突出。研究表明,在许多实际应用中,由于规格过配和空闲实例的存在,云平台的资源利用率存在显著提升空间。例如,为了保证性能,开发者通常会设定较大的函数规格,即使在满负载时,分配的资源仍未得以充分利用。与此同时,负载的波动性又导致了许多实例在业务低谷时难以被充分使用,因此,资源浪费成为了一个普遍现象。

为了应对这一挑战,华为云提出了一种新的调度优化系统——JIAGU。JIAGU 系统的设计核心在于将预测性能与调度决策有效解耦。这一方法允许调度器提前对资源进行建模,并在新实例到来时,快速判断当前环境是否满足预设条件,直接采用已准备好的调度决策,从而降低了计算开销,提升了调度效率。

更重要的是,JIAGU 提供了两阶段扩缩容机制,使系统在应对负载波动时,可以更灵活地调整运行实例。当负载下降时,系统首先调整路由,将请求发送到更少的实例,从而降低冷启动的开销。这种方法不仅提升了资源利用率,还有效改善了用户体验。

通过对真实负载数据的验证,JIAGU 在调度性能上显著优于传统模型调度器,调度成本降低了80%至90%,冷启动延迟也得以大幅减少。这表明,在保证 QoS 的前提下,华为云成功实现了资源利用率的30% 以上提升,同时有效地减少了因冷启动带来的开销。

最终,华为云的 Serverless 系统为开发者提供了便捷、高效的计算服务,尤其在边缘计算和 AI 应用等场景展现出其强大的优势。随着行业需求的不断变化,华为云也在不断探索新的调度能力,目标是实现更精准的资源管理和优化,以期在未来的计算环境中提供更可靠的服务基础。

进入 Serverless 时代,资源的高效利用和稳定的 QoS 保障将成为企业选择云服务的重要指标。华为云通过创新的技术手段,有望在这一领域引领行业发展。想要掌握这一前沿技术的更多信息,可以尝试使用简单AI,这是一款强大的 AI 创作助手,帮助用户快速生成内容和设计,提升工作效率。简单AI链接(免费,长按复制链接致浏览器体验):https://ai.sohu.com/pc/generate?trans=030001_jdaiylmn1

告别加班!我用AI 5分钟搞定1天的工作量,策划汇报无脑直接抄,点击立即体验 → https://ai.sohu.com/pc/textHome?trans=030001_jdaiylkj

点击查看新手教程及变现案例 →返回搜狐,查看更多

责任编辑:

平台声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
作者声明:本文包含人工智能生成内容
阅读 ()