跳到正文
原文
Hugging Face Blog·· 6 天前精选AI 评分62

LFM2.5-VL-DSpark 加速 LFM2.5-VL-3B 视觉语言模型推理

Accelerating vision-language models with LFM2.5-VL-DSpark

AI 导读

Liquid AI 发布面向 LFM2.5-VL-3B 的实验性 DSpark draft model,通过 speculative decoding 加速视觉语言模型推理。

推荐理由

原文量化了视觉语言模型引入 DSpark 后的解码与端到端加速,并说明额外参数和视觉预填充对整体收益的影响。

来源:Hugging Face Blog · huggingface.co