Hugging Face Blog·· 3 小时前精选AI 评分68
Olmo-core 3 发布开放式大规模 MoE 训练基础设施
Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEs
AI 导读
Olmo-core 3 发布了面向大规模 MoE 的开放训练基础设施，旨在将训练扩展至 trillion-parameter range。
推荐理由
原文用吞吐量、显存和参数规模数据，展示 Olmo-core 3 扩展大规模 MoE 训练时的性能变化，并公开系统设计与实验取舍。
来源：Hugging Face Blog · huggingface.co