Workday研究Agent技能渐进式披露机制
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载技能库膨胀推高成本
Workday 部署的基于大语言模型的智能体,其用户经常提出一些可以通过在模型上下文中定义具名流程来满足的需求,这类具名流程被称为技能,作用是给智能体补充能力。问题出在规模上:当某个智能体所拥有的技能库不断变大,它运行时的开销也随之上升。这份报告把这一矛盾作为出发点,关注的不是技能本身怎么设计,而是技能数量增长之后带来的运营成本压力。作者提出的应对思路是渐进式披露,也就是按需惰性加载技能,只在真正需要时才把相应技能取进来,而不是一次性全部载入。报告同时指出,这种做法虽然看起来能压低运营成本,但它对整体延迟以及技能检索质量究竟有什么影响,此前并不清楚,因此需要做实证考察。
实测两项指标一升一降
报告通过实证方式考察了渐进式披露带来的实际效果,结论可以概括为两个方向相反的变化。一方面,采用按需加载之后,技能检索的质量得到改善;另一方面,整体延迟出现了小幅下降,也就是变差了。这意味着渐进式披露并非单纯的优化手段,它在提升检索表现的同时,会让响应速度付出一点代价。报告没有把这一结果包装成全面利好,而是如实呈现了这种权衡关系。对于正在使用或计划使用这类智能体的人来说,这一发现的价值在于:技能库规模增长带来的成本问题确实有缓解路径,但选择这条路径时需要接受延迟上的轻微损失,是否采用取决于具体场景更看重检索准确度还是响应速度。
适用前提与信息边界
从报告的描述看,渐进式披露针对的是技能库规模已经增长到会显著抬高运营成本的智能体,其做法是按需加载而非全量预载。这一思路的适用性建立在技能可以被具名定义、并能在模型上下文中按需取用的前提之上。报告给出的判断仅限于检索质量与整体延迟这两项指标,并未展开其他维度的比较,也没有提供具体的成本降幅数字或延迟变化幅度。对读者而言,可确认的信息是:这是一种以检索质量换取少量延迟的取舍方案,而非无代价的改进;在技能数量较少的场景下,其必要性可能并不明显。报告本身是一份实证性质的考察,结论的边界就止于上述两项指标的实测表现。
为什么值得看
为Agent技能库膨胀带来的成本与性能权衡提供实证依据,对大规模部署LLM Agent有参考价值。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
