Liquid AI发布d1决策模型,支持图文输入且成本大幅降低
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载决策模型不做逐字生成
d1 属于决策模型这一类,它接收的是非结构化数据,可以是文字、图像,也可以两者同时给出,再配合一个或多个问题。模型在一次前向计算中读完输入,直接返回各个可能答案对应的概率,整个过程不生成任何 token。文字类决策的耗时落在 200 到 300 毫秒之间,这个速度足以支撑实时场景。它回答的问题分三种:Noul 是是非题,给出 0 到 1 之间的概率;Choice 是从多个标签里选一个,每个标签各带一个概率;Score 是落在某个刻度上的位置,按每一档的概率加权。同一次请求可以围绕同一个状态提出若干问题,从而省下重复输入的开销。与逐字生成的语言模型相比,这类模型在答案本身就是结构化判断时,可以替代那些昂贵的调用。
图像判断与文本应用
在视觉检测这一工业场景里,d1 要处理四条产线从摄像头下经过的零件,包括电路板、蜡烛、腰果和口香糖,数据来自公开的 VisA 数据集,模型把良品与缺陷品分开。值得注意的地方在于它并未针对这项任务接受训练,靠的是泛化能力,仅凭一段简短描述就能理解要做的事。文本侧有五个应用把 d1 用在每一次判断上。Smart Filter 把 d1 变成 SQL 查询里的一个函数,写成 WHERE d1(ticket, 'the customer wants to cancel),对 150 张支持工单逐一给出是或否。Code Search 让 d1 逐个文件夹地浏览 Hugging Face transformers 仓库的 6,511 个文件,一路定位到能回答问题的那个函数。Smart Folders 则负责给每一份新文档归档。
开源权重与跑分位置
d1-3B 与 d1-omni-600M 是 d1 家族里两个开放权重的模型。d1-3B 在 Decision Index v0.2.1 公开划分上得到 48.57,高于所有 10B 以下的模型,与体量是它 12 倍的 Decider 35B-A3B 持平。它跑通完整的 NVIDIA 栈,从数据中心的 DGX 到边缘的 Jetson:在 NVIDIA GeForce RTX 4090 上回答一个问题用 8 毫秒,在 Jetson AGX Thor 上 16 毫秒,在 Jetson AGX Orin 上 26 毫秒,即便最小的 Jetson Orin Nano 也能在 50 毫秒内跑完,足以在最小的边缘硬件上做实时判断。d1-omni-600M 是首个实验性检查点,同时处理文字与图像、文字与音频,在同一指数上得 15.95。两者已在 Hugging Face 上提供。
两种骨干与训练取舍
与生成式的 Liquid Foundation Models 不同,d1 系列不产出 token,而是在单次前向计算里给出答案。d1-3B 与 d1-omni-600M 从两个差异很大的骨干训练而来。d1-3B 基于 LFM2.5-VL-3B 这个仅解码器的最新视觉语言模型,接受文字与图像输入;训练时先把 LFM2.5-2.6B 与 LFM2.5-VL-3B 的文本骨干权重做平均,得到更好的基座,再用不同随机种子和数据配比微调若干检查点,最后合并。长输入训练、打乱选项顺序、修正数据里的捷径,这些做法带来的提升比更复杂的技术更明显。d1-omni-600M 基于双向编码器 LFM2.5-Encoder-350M,先做决策任务微调,再分阶段加入音频与视觉:音频侧训练 FastConformer 编码器并加适配器接入骨干,随后在冻结文本骨干的条件下微调音频编码器;视觉侧取 LFM2.5-VL-450M 的编码器,训练适配器并对骨干做 LoRA 更新,这些更新只在输入含图像时生效,视觉编码器保持冻结。之后整体微调、合并 LoRA 更新,并与上一检查点做权重平均以正则化最终模型。
为什么值得看
以极低成本与毫秒级延迟实现结构化决策,为替代高开销LLM调用提供新范式。
信源1 家
关键事实
相关 · 模型
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
