跳到正文
原文
NVIDIA Blog· Vishal Ganeriwala·· 15 天前精选AI 评分66

NVIDIA 如何用 DSX 提升 AI 工厂每兆瓦产出

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

AI 导读

NVIDIA介绍 DSX AI 工厂平台,通过动态功耗分配、工作负载调度和电网响应,在固定电力预算下提高 token 吞吐。Lambda 在 HGX B200 五机架、19 节点集群上实现了 24% 的集群 token 吞吐提升和 23% 的每瓦性能提升。

推荐理由

文章将 DSX 的功耗调度、需求响应和 800V DC 架构放在同一套 AI 工厂框架中,并给出 Lambda 的吞吐与性能功耗数据。

来源:NVIDIA Blog · blogs.nvidia.com