返回快讯列表
开发者动态

Ai2 分享 GPU 集群预算调度系统:按研究项目分配时间并支持抢占

Ai2 采用层级预算和 fair-share 调度 GPU 时间;30 天结果显示应得 GPU 小时交付 98%、占用率 98%,调试任务 p90 等待降至 30 秒。

Ai2 公开 GPU 集群调度改造,用项目预算、层级 fair-share 和时间片替换原先的优先级排队。管理者按研究计划分配 GPU 时间,调度器参考默认七天的使用窗口,把尚未用足份额的工作排在超额项目之前,减少长期占位和人人声明最高优先级的问题。

任务需声明 minimum runtime,保护期内不会被抢占,之后可被重新排队;未计入预算的空余时间可免费使用,但始终允许抢占。Ai2 先用模拟器检查策略,再从七月底逐集群上线,最低运行保护时间设有八小时上限。

Ai2 披露三十天测试中交付了应得 GPU 小时的 98%,集群占用率前后保持 98%。调试任务 p90 等待由两小时降至三十秒,需要人工介入的维修减少 74%。交互会话也因抢占而暴露状态恢复问题,团队计划建设 CPU 开发集群和可恢复会话。

更多快讯