跳到正文
原文
Hugging Face Blog·· 19 小时前精选AI 评分78

Meta 发布开放权重多模态 MoE 模型 Muse Spark Open,总参数约 816B

Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta

AI 导读

Meta 发布开放权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每个 token 激活约 42B,支持最高 1M tokens 上下文。

推荐理由

每个 token 的激活参数量与完整权重的内存需求并不相同,文中给出的量化实测和部署配置可帮助估算落地资源。

来源:Hugging Face Blog · huggingface.co