⁣
📰 苹果深夜开源FastVLM：速度飙升85倍，0.5B小模型要逼疯谁？

苹果最近发布了名为 FastVLM 的新模型，专为自家硬件优化，参数量仅为 0.5B，且在响应速度上表现优异。与同尺寸的 LLaVA-OneVision-0.5B 相比，FastVLM 的首Token响应时间（TTFT）快了 85 倍，这一速度大幅提升了多模态模型的交互体验，特别是在需要实时反馈的应用场景中，如智能助手和AR眼镜。

FastVLM 的成功归功于其独特的混合视觉编码器 FastViTHD，该编码器能够高效提取和总结视觉信息，从而减少输入给语言模型的数据量。这一设计显著缓解了LLM处理视觉信息的瓶颈，使得模型在速度和效果上实现了双赢。此外，FastVLM 在多个性能评测中表现出色，特别是对于文档和科学问答等任务，展现了良好的精准度。

总的来说，FastVLM 的发布标志着苹果在AI模型领域的又一次创新，强调效率优化而非单纯追求参数量。这种轻量级、高效的模型设计，符合苹果一贯追求软硬件深度结合的产品哲学，为未来的AI助理应用奠定了基础，预计将在广泛的消费者电子产品中落地应用。

🏷️ #苹果 #FastVLM #模型优化 #AI助理 #多模态

🔗 原文链接