Hugging Face Blog·2026-09-22 08:00· 9 天前精选AI 评分79

Hugging Face Transformers 支持运行 llama.cpp GGUF 模型

Transformers now runs llama.cpp quants

AI 导读

Hugging Face 为 Transformers 增加 GGUF 模型支持，用户可通过 from_pretrained 在 Apple Silicon Mac 上使用熟悉的 Transformers API 运行量化模型。

推荐理由

文章说明了 GGUF 接入 Transformers 的加载方式、Apple Silicon 性能路径与适用边界，便于开发者评估本地推理工作流。

来源：Hugging Face Blog · huggingface.co