StartLux-Decision 发布 0.8B 至 27B 决策模型,含 …

模型AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

该工作提出 StartLux-Decision 系列决策模型,参数规模覆盖 0.8B 到 27B,分为 Instant 与 AutoThink 两种形态。Instant 在全注意力层使用双向注意力,保持单次前向推理的同时提升决策准确率;AutoThink 对不确定的决策触发显式推理,对高置信度情形直接作答。训练分三阶段:先建立共享决策能力,再分别特化两个变体,最后通过推理监督与强化学习为 AutoThink 注入推理能力。作者提出 RLCD² 方法,用冻结模型与恰当评分规则奖励决策概率质量提升,并对过长的推理链施加软惩罚,使在生成长度限制内结束的推理链比例最多提高 48 个百分点,平均推理长度最多缩短 65%,决策准确率基本保持。在 Decision Index 0.3 公开子集上,Instant 模型比同规模开源决策模型高 7.4 至 16.9 分,27B AutoThink 达到 7…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

两种推理形态的分工

StartLux-Decision 把决策模型拆成两类。Instant 版本在全注意力层采用双向注意力,目的是在不放弃单次前向推理的前提下提高决策准确率,适合对延迟敏感的场景。AutoThink 版本则按置信度分流:遇到不确定的决策就调用显式推理,遇到有把握的情形直接给出答案。这种设计把算力花在模型自己认为困难的地方,而不是对所有输入一视同仁地展开长推理。作者给出的参数区间是 0.8B 到 27B,覆盖从轻量到较大规模的多档选择。

三阶段训练与 RLCD²

训练流程分三步:第一阶段建立共享的决策能力,第二阶段把两个变体分别特化,第三阶段通过推理监督与强化学习让 AutoThink 获得推理能力。其中提出的 RLCD² 方法用冻结模型配合恰当评分规则,奖励决策概率质量的改善,同时对过长的推理链施加软惩罚。效果体现在两个数字上:在生成长度限制内结束的推理链比例最多提高 48 个百分点,平均推理长度最多缩短 65%,而决策准确率大体保持不变。也就是说,推理变得更短、更少被截断,但答案质量没有明显牺牲。

评测结果与新基准

在 Decision Index 0.3 的公开子集上,Instant 模型比所评估的最强同规模开源决策模型高出 7.4 至 16.9 分,27B 的 AutoThink 模型取得 73.4。作者同时发布 DecisionPivot,这是一个可程序化验证的计算决策基准,题目由对比对构成,每对之间只差一个会改变答案的细节,用来检验模型是否真的抓住了关键信息。在该基准上,AutoThink 的配对准确率比对应的 Instant 版本高 11.5 至 18.4 分,并在所评估的系统中领先。

部署与可用形态

模型可在 vLLM 与 MLX 上运行,并提供量化版本以降低内存占用,便于在不同硬件条件下部署。随论文发布的还有技术报告,篇幅为 38 页,含 16 张图与 15 张表。论文提交时间为 2026 年 10 月 12 日,作者共六人,编号为 arXiv:2610.17309,属于 cs.CL 与 cs.AI 分类。

为什么值得看

给出决策模型按置信度分配算力的具体做法与量化收益,含新基准与开源权重规模区间。

强化学习

信源1 家

  1. [1]arXiv cs.AI一手信源StartLux-Decision: AutoThink Decision Models with Reinforcement Learning for Calibrated Deliberative Decisions

关键事实

  • StartLux-Decision 参数规模为 0.8B 到 27B,分 Instant 与 AutoThink 两种变体[1]

  • Instant 在全注意力层使用双向注意力以提升决策准确率,同时保持单次前向推理[1]

  • RLCD² 使在生成长度限制内结束的推理链比例最多提高 48 个百分点,平均推理长度最多缩短 65%[1]

  • 在 Decision Index 0.3 公开子集上,Instant 比同规模开源决策模型高 7.4 至 16.9 分,27B AutoThink 达 73.4[1]

  • DecisionPivot 由仅一处答案改变细节的对比对构成,AutoThink 配对准确率比 Instant 高 11.5 至 18.4 分[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。