Netflix用Kueue替换自研作业队列，云原生调度实践

背景：Netflix的调度之痛

Netflix作为全球流媒体巨头，其背后运行着海量的数据处理和分析作业。过去，Netflix依赖自研的作业队列系统来管理这些任务，但随着业务规模扩大和云原生架构的普及，自研系统逐渐暴露出扩展性不足、资源利用率低、运维成本高等问题。

尤其在多团队共享Kubernetes集群的场景下，不同部门提交的作业往往需要精细的优先级和配额管理，而传统队列难以灵活应对。因此，Netflix决定转向开源社区方案——Kueue，一个专为Kubernetes设计的云原生作业队列系统。

Kueue是什么？

Kueue是Kubernetes生态中的一款开源项目，它提供了一套基于资源配额和队列的作业调度机制。与Kubernetes原生的调度器不同，Kueue专注于批处理作业（如AI训练、数据分析）的排队和资源分配，支持公平共享、优先级抢占和弹性伸缩。

Kueue的核心优势在于：

• 声明式API：用户通过YAML定义队列和资源配额，无需修改调度器代码。
• 多租户隔离：支持按团队或项目划分队列，避免资源争抢。
• 动态资源管理：根据作业实际需求动态调整资源，提高集群利用率。

Netflix的迁移实践

Netflix在迁移过程中，主要做了三件事：

1. 评估与替换：将自研队列的调度逻辑映射到Kueue的队列和配额模型，逐步替换原有API。
2. 集成现有工具链：将Kueue与Netflix内部的监控、日志和CI/CD系统打通，确保运维无感。
3. 优化资源策略：针对不同作业类型（如实时流处理 vs 离线批处理）设置差异化配额，避免资源闲置。

据Netflix工程团队透露，迁移后集群资源利用率提升了约30%，作业排队时间显著缩短，且运维复杂度大幅降低。

对开发者的实用启示

对于正在使用Kubernetes管理作业的团队，Kueue提供了一个轻量级的替代方案。如果你面临以下问题，值得尝试：

• 资源浪费：集群中大量闲置资源，但作业仍排队等待。
• 调度复杂：需要自定义优先级或配额，但不想修改Kubernetes源码。
• 多团队协作：多个团队共享集群，需要公平分配资源。

上手步骤：

1. 安装Kueue（通过Helm或Kubectl）。
2. 定义ClusterQueue和LocalQueue资源。
3. 在作业中引用LocalQueue，即可自动排队和调度。

Kueue还支持与Kubeflow、Apache Airflow等流行工具集成，适合AI/ML工作流。

总结

Netflix的迁移案例表明，云原生调度器正在成为企业降本增效的关键工具。Kueue不仅解决了Netflix的痛点，也为其他企业提供了可复用的模式。如果你正在纠结自研还是采用开源方案，不妨先试试Kueue，或许能省下大量开发成本。

参考：InfoQ报道《Netflix采用云原生作业队列系统Kueue替代内部解决方案》