LFM2.5-2.6B:面向设备端代理的新模型

Hugging Face Blog · 2026.08.04 21:58

LFM2.5-2.6B 是 LiquidAI 与 Hugging Face 合作推出的 2.6B 参数模型,目标是在笔记本电脑、手机等日常硬件上运行完整的代理能力,包括工具调用和多步规划。它预训练于约 34T tokens,并通过中期训练将上下文窗口扩展到 128K。后训练分四阶段:两轮 SFT 偏向代理数据;按领域训练专家教师模型;通过多域在线策略蒸馏整合到单一学生模型;最后在真实代理环境中进行多轮强化学习,优化工具使用和指令遵循能力。

效率方面,该模型在 Apple M5 Max 上达到 220 tok/s,在 AMD Ryzen CPU 上达到 113 tok/s,内存占用不足 2.5GB,这使得它可以在边缘设备上流畅运行。基准测试显示,它在 AIME25、LiveCodeBench、IFBench 等任务上表现优异,例如 AIME25 得分 51.87,多 IF 得分 80.07,与 Qwen3.5-9B 等更大模型竞争。

这一发布恰逢端侧 AI 代理需求上升,开发者希望在不依赖云服务的情况下保持数据隐私和降低成本。LFM2.5-2.6B 通过代理强化学习,直接在实际代理框架(如 OpenClaw、Hermes)中训练,提高了兼容性,有望加速本地代理应用的落地。对开发者而言,这意味着可以更轻松地部署低成本、隐私保护的 AI 助手。

  • LFM2.5-2.6B 是 2.6B 参数模型,预训练约 34T tokens,上下文 128K。
  • 在 Apple M5 Max 上 220 tok/s,AMD Ryzen CPU 上 113 tok/s,内存 <2.5GB。
  • 基准测试与 4 倍大的模型竞争,AIME25 得分 51.87,LiveCodeBench 59.41。
  • 后训练含四阶段:SFT、教师特化、多域蒸馏、代理 RL。
  • 支持工具调用和多步代理工作流,可完全在设备端运行。
  • 代理 RL 在真实 harness 中训练,兼容 OpenClaw、Hermes 等框架。

Competitive with models 4x larger on tool use, instruction following, and multi-step agentic tasks.

在工具使用、指令遵循和多步代理任务上,与 4 倍大的模型竞争。

为什么上榜

如果你在做端侧 AI 代理,这个小模型可能帮你省下云推理成本。

每天早上,把当日 AI 精选送进你的邮箱

公众号 AI去噪 · 每日一期同步推送

AI去噪公众号二维码