Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

模型AI 评分 82/100Liquid AI 模型与工程博客(网页)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

Liquid AI 推出 LFM2.5-24B-A2B,总参数 24B、每 token 仅激活 2B,是 LFM2.5 系列中体量最大也是最后一款模型,该系列跨度从 230M 到 24B。它在八项智能体与工具调用基准中的五项上,与总参数和激活参数均多出约 50% 的 Qwen3.6-35B-A3B 相当,LiveClaw 得 48.09 对 38.19,AutomationBench 得 27.69 对 8.72。端侧运行速度最高为同类 MoE 的 1.7 倍,Apple M5 Max 上 184 tokens/s,单张 NVIDIA B300 GPU 上输出可达 21K tokens/s。基础版与后训练版均开放权重,已在 Hugging Face 与官方 Playground 上线。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

模型规格与开放方式

LFM2.5-24B-A2B 是一个总参数 24B、每 token 仅激活 2B 的推理模型,定位是在设备本地运行快速且私密的智能体。它是 LFM2.5 家族中体量最大的成员,也是该家族最后一款模型,整个系列从 230M 一直覆盖到 24B。基础版 LFM2.5-24B-A2B-Base 与后训练版 LFM2.5-24B-A2B 都以开放权重形式提供,发布当天即可在 Hugging Face 和官方 Playground 获取,官方文档给出了本地运行与微调的方法。与上一代 LFM2-24B-A2B 不同,这一版只做推理,会在给出最终答案前输出显式的思维链,官方称采用这一策略是为了利用其高解码速度并提升答案质量。

架构与训练变化

架构上保留了 40 层、每个 MoE 块 64 个专家且 top-4 路由,以及门控短卷积与 GQA 的混合结构。两处改动分别是上下文窗口从 32,768 扩展到 131,072 token,以及原地扩展分词器,把词表从 65K 翻倍到 128K,以改善非拉丁语系的切词效果。预训练规模从 17T token 提升到 33T token。中期训练分两阶段:第一阶段在 32K 上下文下使用 2T token,数据经过筛选且质量更高,权重偏向推理、数学、代码、指令遵循和多语言文本;第二阶段在 131K 上下文下使用 300B token,权重偏向长上下文数据。两个阶段都包含工具调用与多轮轨迹数据,为智能体任务做准备。

后训练流程与实测表现

后训练把基础版转为智能体版本,采用五阶段流水线:监督微调、教师专精,以及非智能体与智能体两种多域在线策略蒸馏。评测方面,在八项智能体与工具调用基准中,它在五项上与 Qwen3.6-35B-A3B 相当,而后者总参数和激活参数都多出约 50%;具体到 LiveClaw 为 48.09 对 38.19,AutomationBench 为 27.69 对 8.72。由于每个 token 只激活 2B 参数,它在设备上的运行速度最高可达同类 MoE 的 1.7 倍,在 Apple M5 Max 上达到 184 tokens/s,在单张 NVIDIA B300 GPU 上输出速度最高可达 21K tokens/s。

为什么值得看

24B 总参数只激活 2B,端侧速度与工具调用成绩同时给出,可直接判断能否本地部署。

Hugging FaceQwen推理模型智能体MoE

信源1 家

  1. [1]Liquid AI 模型与工程博客(网页)线索来自 AIHOTLiquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

关键事实

  • LFM2.5-24B-A2B 总参数 24B,每 token 激活 2B,是 LFM2.5 系列最大且最后一款模型[1]

  • 在八项智能体与工具调用基准中的五项上,与 Qwen3.6-35B-A3B 相当,后者总参数和激活参数多约 50%[1]

  • LiveClaw 得分 48.09 对 38.19,AutomationBench 得分 27.69 对 8.72[1]

  • 端侧速度最高为同类 MoE 的 1.7 倍,Apple M5 Max 上 184 tokens/s,单张 NVIDIA B300 GPU 上输出最高 21K tokens/s[1]

  • 上下文窗口从 32,768 扩展到 131,072 token,词表从 65K 翻倍到 128K,预训练从 17T token 扩到 33T token[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。