跳到正文
原文
NVIDIA Blog· Amr Elmeleegy·· 3 小时前AI 评分40

NVIDIA 如何通过全栈协同设计让每个字节发挥更高性能,解决 AI 内存挑战

More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge

AI 导读

NVIDIA通过全栈协同设计GPU、CPU、网络、存储和软件,缓解AI工厂不断加剧的GPU内存压力。从NVIDIA Blackwell Ultra到Vera Rubin,单GPU HBM容量约提升3%,SemiAnalysis AgentX上的智能体吞吐量/美元最高提升30x。

来源:NVIDIA Blog · blogs.nvidia.com