Gavel 方法从冻结 LLM 中提取路由信号
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载把路由信号留在模型内部
这篇论文关注的是 LLM 智能体在调用外部技能时如何挑选正确的技能。现有部署方式通常把每个技能的元数据预先塞进上下文，让模型在阅读中自行判断；作者指出，这种做法会分散智能体的注意力，并且使技能库的规模受到上下文长度的限制。另一条路线是引入检索流程，把选择动作移出上下文，但同时也移出了智能体自身的能力范围。论文提出的观察是：冻结的智能体模型在前向计算过程中已经携带了路由所需的信息，不需要在上下文里放入任何技能文本，仅用两个线性映射就能把这一信号读出来。基于这一判断，作者构建了名为 Gavel 的方法，其名称来自 Glance And Verdict from a frozen LLM，即先扫视、再裁决的两步流程。
两步读取与专家乘积融合
Gavel 的第一步称为 glance，把任务本身与每个技能在中间层产生的状态分别经过两个线性映射投影，这两个映射是整个方法中唯一需要训练的参数。投影结果与每个技能各自的紧凑表示进行比对打分，从而对整个技能库做一次筛选。这些技能表示并非人工编写，而是在安装阶段通过一次前向计算建立起来。第二步称为 verdict，对被初步选中的少量技能继续执行前向计算，读取模型自身给出的似然值与是或否的判断，再与第一步的打分以专家乘积的方式融合，形成最终选择。由于上下文里不出现技能文本，技能库规模不再直接受上下文容量约束；由于选择仍由模型自身的计算完成，路由能力保留在智能体内部而非外挂的检索模块中。
训练一次即可跨基准迁移
作者报告，Gavel 只需训练一次，便能以零样本方式迁移到三个公开基准以及作者新建的 SkillTraj 上，后者包含 372 条模拟的智能体轨迹。在 Qwen3-32B 上，它的表现优于渐进式披露以及先检索再重排的流程，而后者需要额外引入 1.2B 至 16B 的外部参数。具体差距为：在书面任务上最多领先 13.4 点，当技能需求在轨迹中途才出现时最多领先 21.9 点。作者还提到，路由准确率会随骨干模型能力提升而改善；在 bash 智能体环境中，同一个 32B 模型在 Skill-Use 上触发正确技能的频率高于在 Codex 中运行的规模更大的前沿模型。
适用范围与读者关切
从材料看，Gavel 的适用前提是存在一个冻结的智能体模型和一个可枚举的技能库，技能表示在安装阶段一次性建立，之后路由不再依赖把技能描述写入提示。其限制也由此而来：方法依赖模型中间层状态中存在可被线性映射读出的路由信号，训练集中在两个映射上，骨干模型本身不被改动。对使用技能库的智能体系统而言，这意味着技能数量扩张时不必同步扩张上下文，也不必额外部署一套检索模型；对关注部署成本的一方，可对比的参照是那些需要增加十亿级外部参数的检索重排方案。论文给出的评测覆盖三个公开基准与一个自建轨迹基准，并报告了随骨干增强而提升的趋势。
为什么值得看
无需外部参数即可实现高效技能路由，降低上下文占用并提升性能。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。