openJiuwen首发X-Router自演进路由,实测降Token消耗超50%

工具AI 评分 75/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

openJiuwen发布X-Router自演进模型路由技术,针对Agent单一模型打天下导致的成本高、效果不稳问题,在请求与模型间增加动态决策层。该系统基于任务复杂度与系统状态(如KV缓存亲和、实时负载)动态选模型或多模型协同,并利用反馈自演进。实测显示可减少50%以上Token消耗,且具备昇腾亲和性。模型能力画像更新时延优于1分钟,决策与执行分离。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

路由层插在Agent与模型之间

openJiuwen X-Router 把一层面向请求的智能决策能力放在 Agent 与模型之间,由路由引擎来判断这一轮任务该交给哪个模型、采用什么策略。它并不改动 Agent 本身的形态,而是在调用模型之前多出一道判断环节,让每一次请求先经过决策再落到具体模型上。这套技术由 openJiuwen 推出,openJiuwen 本身是一个开源 AI Agent 平台,由华为 2012 实验室、华为云、终端、计算以及算力先遣队等联合构建,并联合高校与企业开发者共同参与共建。X-Router 的自演进模型路由技术属于该平台的首发能力,其决策依据落在任务复杂度上,围绕群智协同的编排与最优模型选择展开,追求的是成本与效果之间的综合最优,而不是单纯压低开销或单纯追求最强模型。

按复杂度分流的三类打法

在具体执行上,路由引擎依据任务复杂度做动态决策,形成几种不同的调度方式。遇到简单问题,它会选择轻快模型快速给出回应,避免把算力花在本不需要深推理的请求上;遇到复杂问题,则调度能力更强的模型进行深思考,把资源集中到真正需要的地方。当任务需要多个模型互相印证时,引擎会组织协同作战,让多个模型各自出力,再统一汇总结果。这三种打法并非固定绑定在某一类问题上,而是由引擎在每次请求到来时判断后决定。实测结果显示,这套路由方式能够减少 50+% 的 Token 消耗,这一数字来自昇腾亲和条件下的实际运行,说明分流与协同的调度确实在请求层面压缩了不必要的模型调用开销。

决策沉淀为可复用经验

X-Router 的另一处设计在于把每次决策的结果转化为经验,使后续判断更准确,这也是其自演进特性的来源。系统具备可配置、可演进、可观测三个属性。可配置意味着不同业务可以带着自己的偏好接入,让路由策略贴合各自的成本与效果取向;可演进意味着策略能够跟随模型生态的变化一起成长,当可用模型发生更替时,路由判断不至于停留在旧有格局上;可观测意味着每次决策的依据以及执行后的反馈都能被看见、能回溯,使用者可以查清某一轮任务为何被交给某个模型。三者叠加,使这层路由不只是一次性的分流规则,而是随使用不断调整的决策机制。

对使用者的实际意义

对使用 openJiuwen 平台的开发者而言,X-Router 带来的直接变化是模型选择这件事从人工配置转为由引擎按请求判断。简单问题走轻快模型、复杂问题走更强模型、需要互证时组织多模型协同并统一汇总,这些分流动作在请求层面自动完成,开发者不必为每一类任务预先写死模型映射。50+% 的 Token 消耗下降,对应的是同等任务下更少的调用开销。可配置属性让业务能带入自身偏好,可观测属性让决策依据与执行反馈可查可回溯,可演进属性则让策略随模型生态一同成长。这套技术昇腾亲和,适用于在昇腾环境上构建 Agent 应用的场景,其效果以实测的 Token 消耗变化为参照。

为什么值得看

解决Agent多模型调度痛点,动态路由与自演进机制显著降本增效,对多模型应用架构具实操价值。

信源1 家

  1. [1]量子位openJiuwen X-Router自演进模型路由技术首发,昇腾亲和,Agent越跑越省,实测减少50+%Token消耗

关键事实

  • openJiuwen发布X-Router自演进模型路由技术,实测减少50%以上Token消耗[1]

  • 该技术在Agent与模型间增加动态决策层,基于任务复杂度、KV缓存亲和、实时负载等选模型[1]

  • 模型能力画像更新时延优于1分钟,实现决策与执行分离[1]

  • openJiuwen是由华为2012实验室、华为云等多团队与开发者联合构建的开源AI Agent平台[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。