Hugging Face Blog·· 5 天前精选AI 评分70
LFM2.5-VL-3B 开源 DSpark 草稿模型，支持 llama.cpp、MLX-VLM 和 SGLang
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
Liquid AI 发布针对 LFM2.5-VL-3B 的 DSpark 草稿模型，采用推测解码，解码速度最高提升 3.13 倍（端侧）与 2.66 倍（H100），端到端最高提升约 2.62 倍；草稿模型增加约 280M 参数、占目标模型的 8.9%，并提供 SGLang、llama.cpp 和 MLX-VLM 首日集成，已在 Hugging Face 开放权重。
推荐理由
给出了在设备与 H100 上的具体加速数据和三类引擎的接入方式，便于直接用于推理部署的选型与成本评估。
来源：Hugging Face Blog · huggingface.co