NVIDIA Blog· Vishal Ganeriwala·· 15 天前精选AI 评分66
NVIDIA 如何用 DSX 提升 AI 工厂每兆瓦产出
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA介绍 DSX AI 工厂平台,通过动态功耗分配、工作负载调度和电网响应,在固定电力预算下提高 token 吞吐。Lambda 在 HGX B200 五机架、19 节点集群上实现了 24% 的集群 token 吞吐提升和 23% 的每瓦性能提升。
推荐理由
文章将 DSX 的功耗调度、需求响应和 800V DC 架构放在同一套 AI 工厂框架中,并给出 Lambda 的吞吐与性能功耗数据。
来源:NVIDIA Blog · blogs.nvidia.com