Hugging Face Blog·· 6 天前精选AI 评分62
LFM2.5-VL-DSpark 加速 LFM2.5-VL-3B 视觉语言模型推理
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
Liquid AI 发布面向 LFM2.5-VL-3B 的实验性 DSpark draft model,通过 speculative decoding 加速视觉语言模型推理。
推荐理由
原文量化了视觉语言模型引入 DSpark 后的解码与端到端加速,并说明额外参数和视觉预填充对整体收益的影响。
来源:Hugging Face Blog · huggingface.co