跳到正文
原文
Hugging Face Blog·· 8 天前AI 评分38

Liquid AI 发布 LFM2.5-VL-DSpark 视觉语言模型投机解码草稿模型

Accelerating vision-language models with LFM2.5-VL-DSpark

AI 导读

Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型,通过投机解码实现设备端最高 3.13 倍、H100 上最高 2.66 倍解码加速,端到端最高提升 2.62 倍和 2.27 倍。

来源:Hugging Face Blog · huggingface.co