返回快讯列表
行业动态

NVIDIA 披露 DSX 能效进展,Lambda 在相同功率预算下增加推理吞吐

AI Infra Summit 聚焦每兆瓦能产生多少有效 token,Lambda 的 DSX MaxLPS 测试与电网弹性负载合作成为本轮重点。

NVIDIA 9 月 15 日在 AI Infra Summit 汇总 AI 基础设施能效进展,讨论重点从单芯片峰值性能转向整座数据中心在有限电力下的产出。DSX MaxLPS 通过监测 GPU 与机架功耗,将可用功率分配给真正需要的工作负载。

据官方公布的 Lambda 测试,在通常供十六个满功率节点使用的预算内运行十九个节点,集群 token 吞吐提高约 24%,每瓦性能提高约 23%。这是特定部署与测试条件下的结果,不代表所有训练和推理任务都能得到同等改善。

另一项合作涉及 Emerald AI 与 Silicon Valley Power:系统根据电网需求信号调整低优先级任务的耗电,同时保护关键工作负载。这表明算力扩张正把供电、任务优先级和模型服务共同纳入调度,但方案效果仍取决于机房条件、工作负载和服务质量要求。

更多快讯