论文:AI 论文、技术方法与基准测试第 73 页
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
- AI 摘要arXiv cs.AI
新框架DTC通过计算分歧token量化LLM推理不确定性
针对大模型推理置信度评估依赖概率且机制不清的问题,研究提出Divergent Token Confidence(DTC)框架。该框架通过计算两模型在相同推理轨迹上解码时强烈不一致的token数量来估计置信度,分歧数量与答案准确率近乎负相关。DTC无需显式训练且不干扰生成,同时支持白盒与黑盒评估。在六个数学基准测试中,其校准效果优于基于概率及语言化基线。白盒下仅计数估计器的平均ECE为13.0%,远低于传统全序列方法的32.7%-42.4%;黑盒下DeepSeek-V3.2的平均ECE从32.1%-40.2%降至13.7%-16.3%。
- AI 摘要arXiv cs.AI
Jaxolotl发布:LTL多任务RL高性能基准套件
Mathias Jackermeier等人推出Jaxolotl,解决线性时序逻辑(LTL)多任务强化学习因实现、任务分布与评估协议差异导致的对比难及计算成本高问题。该套件提供模块化JAX实现,含6种算法与4种环境,配备新任务集及统计稳健的标准化评估协议。通过将符号任务表示预编译为静态数组,实现全JIT编译,端到端最高提速220倍,支持更大规模实验对比。基于此框架的评估揭示:具非短视推理能力的通用方法在命题数增加时表现不佳,而强扩展性方法依赖环境特定假设且受限于短视。
- AI 摘要arXiv cs.AI
UserProxyBench提出用户保真度指标,揭示模拟用户违规致Agent交…
针对交互式Agent评测仅打分Agent而忽视模拟用户角色执行度的问题,UserProxyBench在tau-bench上构建评测层并提出用户保真度得分(UFS)。固定GPT-5.5为Agent、仅变换用户代理时,375项企业任务的平均奖励波动15.2分;24.4%的成功回合存在用户规范违背。主要失效为过早披露信息,虽不损奖励却使Agent平均少调1.06次工具,致评测交互失真。研究还给出七款代理的成本-保真度前沿,助选最低成本模拟器。
- AI 摘要arXiv cs.AI
研究称LLM性别偏见普遍且高度异质,模型间表现截然相反
针对2025年4月至2026年6月间9家厂商发布的10个大模型的研究显示,性别偏见普遍存在但方向与程度高度异质。在刻板短语归因测试中,2个模型更多将男性短语归于女性,3个模型则相反。在道德判断测试中,部分模型表现出与人类保护女性倾向一致的男性不利不对称性,另3个模型则无差异。结果表明模型间行为可能完全对立,审计需作为跨厂商持续过程而非单次评估。
- AI 摘要arXiv cs.AI
doPlan数据集发布,专攻自动驾驶长跨度语言规划
针对现有自动驾驶语言数据集多关注短时交互的局限,doPlan数据集基于nuPlan构建,专注研究乘客自然语言作为持久任务上下文的作用。该数据集包含5154条人工编写的乘客指令,覆盖50.9小时独立驾驶与169.1小时指令对齐上下文,标注窗口跨度30.0至508.8秒,捕捉即时、延迟、事件条件、持久及多阶段意图。对四种语言条件驾驶模型的评估显示,模型对语言指令的敏感度未能可靠转化为符合要求方向的行为。在2161个匹配未来操作的样本中,首个关联操作在评估点后中位24.6秒才出现,仅9.8%在模型常见的5秒预测范围内,凸显将持久意图与连续规划决策相连的必要性。
- AI 摘要arXiv cs.AI
新框架RASO利用外部技能库优化智能体技能
针对现有智能体技能优化仅依赖高成本试错而忽视海量公开技能的问题,研究提出RASO框架。该框架通过跨适配调整机制,从外部技能语料库检索相关知识并迁移至目标任务,解决领域与适配器不匹配问题。其包含两阶段:无需试错的检索增强技能初始化(RASI),以及依据执行反馈检索外部知识进行迭代优化的检索增强技能更新(RASU)。在四个智能体基准与两个模型上的实验表明,该框架持续优于无检索增强的基线方法。
- AI 摘要arXiv cs.AI
PE-EK-PINN提出:可扩展物理约束网络训练成本降至对数级
物理约束神经网络(PINNs)在处理涉及奇异激励与吸收边界的实际辐射问题时易失效。架构级物理嵌入虽能应对,但其核字典随系统层级呈指数膨胀。新方法PE-EK-PINN将物理核视为可复用的学习表征,把收敛子系统冻结并提升为演化核,通过变换复用表达高阶配置,无需推导新方程。此层级机制使活跃核峰值脱离系统规模束缚,将累积训练代价从O(N)降至O(log N)。实验显示,求解256偶极子阵列比直接PE-PINN快超30倍,且相对L2误差更低或相当。
- AI 摘要arXiv cs.AI
可审计长记忆系统在LongMemEval-S测得479/500分
一种可审计长时记忆系统在LongMemEval-S基准上接受评测。其检索链采用混合候选检索、交叉编码器重排及覆盖优先包编译等确定性步骤,大模型仅作末级阅读器。在470道可答题中,462道生成完整金标包。搭配Claude Opus阅读器经两次500题测试,由GPT-4o判分得479与475分,与Chronos High已发布的478分互有高低,未确立优劣。换用grok-4.6-high阅读器得476/474分,而最大推理努力智能体变体则降至461/465分。官方评判机重评自身结果时亦出现 verdict 翻转,系统方差与评分提示词差异致结果难绝对比较。作者公开数据包与评判记录供复评。
- AI 摘要arXiv cs.AI
论文提出Brain-SAD框架,引入动态恐惧约束提升自动驾驶安全性
针对现有受限强化学习在自动驾驶中因静态约束难以适应多交互场景的问题,Brain-SAD框架引入动态恐惧约束。该框架感知车流交互生成恐惧信号,在线决定常规交互的长效策略或紧急防撞的短效策略。这两种策略分别构建为与动作影响直接耦合的整体恐惧代价,以及由风险邻居推导的动态可行域恐惧边界,用于在线策略优化。实验表明,该方法成功率更高,任务完成与碰撞恢复耗时更短,在复杂连续路口可靠性更强。
- AI 摘要量子位
至知发布IQuest-Q1模型:320B总参15B激活,可排RL训练Bug
至知创新研究院推出IQuest-Q1模型,采用decoder-only Transformer与稀疏MoE架构,总参数320B,激活参数15B。该模型能通过单句Prompt生成可玩HTML小游戏,并成功定位修复了RL训练中因推理服务解码额外插入空格导致前缀匹配断裂的Bug,使训练重回正轨。评测方面,其在NL2Repo、CyberGym、Terminal-Bench 2.1等复杂任务中表现不俗。模型还参与了自身研发迭代,验证通过的更新直接流入下轮版本。团队近期还提出了MuonH优化、稀疏权重分解,并参与提出ModularRSI自进化框架,将Agent在Terminal-Bench 2.0准确率从47.57%提至52.43%。
- AI 摘要arXiv cs.AI
FurE实现无需动物毛皮数据集的3D重建,训练提速10倍
针对多视图图像重建动物毛皮面临细节复杂、自遮挡及缺乏专属数据集等难题,研究提出FurE方法。该方法基于发丝优化根条件潜场,并借助从人类头发数据习得的PCA解码器生成可编辑发丝几何,有效缓解动物数据稀缺。同时结合表面约束高斯Frosting表示与局部厚度线索重建去毛动物体。相比当前SOTA逐发丝优化,FurE在保持发丝保真度与泛化能力下,训练速度提升10倍。
- AI 摘要arXiv cs.AI
Telescopic语言模型单次训练覆盖多算力预算,质量预算曲线面积降43%
为解决不同算力预算需单独训练的问题,Telescopic语言模型(TLM)通过随机前缀监督与全容量锚点,在单次训练中生成各深度均有效的嵌套模型。每步仅需两次前向反向传播,无需改架构或增加推理开销。在2亿参数代理套件上,TLM在二十个层前缀上均有效,相比固定退出套件(如MLMS),质量预算曲线下面积减少43-44%,全容量表现持平且单次运行GPU成本降低约12%。前缀采样密度可调,使操作点成为训练时选择而非架构限制。
- AI 摘要arXiv cs.AI
UMM-Reflection让统一多模态模型学会原生反思,GenEval提升1…
统一多模态模型能看且能生成图像,原则上可修复自身生成错误,但需在整条反思轨迹上联合学习诊断文本与图像生成。常规SFT无法找到高成功率修复路径,仅优化单一模块的朴素RL会错失大部分增益。UMM-Reflection将RL应用于统一模型内的完整反思轨迹:同源轨迹共享初始图像,通过组相对优势对比反思策略,用轨迹级优势同时更新反思词元与基于流的修正,避免逐轮信用分配的组合爆炸。在BAGEL上,该方法较SFT在GenEval提升12.05点,且增益泛化至WISE、OneIG-Bench与T2I-CompBench++三个未参与训练的基准。
- AI 摘要arXiv cs.AI
新方法TokenCast可预测LLM Agent执行耗Token量
LLM Agent执行同一任务时,总耗Token量在不同运行间差异可达十倍以上,事前极难预估。提出的TokenCast方法为每个执行片段学习可组合的成本表征,记录自身消耗与引入的上下文增长,通过组合相邻片段得出累计估算值,捕捉后续调用重读前序上下文带来的额外输入开销。随执行推进,新观测证据会刷新预测,且无需额外LLM调用。在SWE-bench Verified上单次运行平均累计预测耗时32.8毫秒。跨4个任务集与6个Agent模型、共96种评估组合中,其平均绝对误差较最强对比基线降低14.5%。在离线预算控制回放中,以相同的轨迹完成率,其Token消耗比固定预算策略平均少21.3%。
- AI 摘要arXiv cs.AI
新架构Foil优化Looped MoE:压平专家并解绑注意力
论文提出Foil架构以优化Looped MoE模型。在固定专家参数与每token计算量下,Foil采取两项操作:一是压平专家,将专家层数减半、每层专家数与循环次数翻倍,使路由从更大池中选择;二是解绑注意力,为每次循环分配独立注意力参数,专家与路由器保持共享。实验表明,在100B token下,压平程度最高的Foil比基线预训练损失低0.012 nat,下游准确率持平或更优;解绑注意力使路由更均衡且自信。消融实验揭示循环与加宽专家层收益可互相放大,且路由置信度比负载均衡更能反映专家健康使用。
- AI 摘要arXiv cs.AI
研究提出KV-streams策略,提升智能体RL训练吞吐量最高5倍
扩展智能体大模型的时间跨度受限于GPU显存无法容纳过长的上下文轨迹。现有上下文压缩机制需多次预填充,拖慢训练速度。为此,研究提出KV-streams即插即用策略,通过向前流式传输KV缓存而非压缩后清空,兼容任意压缩方法。该策略让三种压缩策略的训练墙钟速度提升2.6至5倍,且未损害性能。流式KV缓存还能作为循环状态传递已脱离上下文的信息,实验表明仅靠RL便可使该行为涌现。
- AI 摘要arXiv cs.AI
研究提出线性ViT初始化新方法:直接复制MLP并蒸馏注意力
线性视觉变换器需从头预训练且常弱于Softmax版。研究发现,跨算子迁移时,直接复制Softmax的注意力权重几乎无效甚至不如随机初始化,而承载表征的MLP权重具有算子无关性,直接复制即可转移大部分预训练收益。在此基础上,配合恰当损失设计对注意力进行蒸馏以恢复路由行为,可使线性ViT弥合甚至超越Softmax版本。该结论在多种线性ViT变体、模型尺寸及数据集上均成立。
- AI 摘要arXiv cs.AI
FinAutoRubric:专家引导的金融研究智能体评估框架
FinAutoRubric提出一种由专家引导的自动评分规则生成方法,用于评估金融研究智能体。专家提供可复用的评估指导,智能体与代码据此生成、审查并验证针对特定查询的评分规则。在三个金融基准测试中,其生成的规则与专家评分高度一致,内部分析师盲测更偏好该规则。研究同步发布包含100个查询的基准数据集,覆盖78项任务与8个资产类别,揭示早期模型生成的规则对后续模型仍有提升空间。
- AI 摘要arXiv cs.AI
仅靠自我反思微调即可提升智能体表现,无需强化学习
研究提出Retrospection-Only Fine-Tuning (ROFT)方法,让语言模型智能体仅通过微调自身生成的反思解释来提升后续行为,无需外部教师或基于奖励的策略更新。在软件工程实验中,Qwen3.5-4B经20次ROFT更新后,在SWE-bench Verified和Pro上解决率分别达49.2%和26.8%,优于GRPO经40次更新后的48.0%与25.3%,且早期训练进展更快。该方法甚至能学会解决基础模型64次采样均失败的难题,表明解释学习能间接归因动作并促进行为改进。
- AI 摘要arXiv cs.AI
新基准FTA评估智能体工具调用失败后的虚报问题
使用工具的智能体存在双重失败风险:工具出错且智能体无证据却谎报成功。新基准FTA固定失败观察与所需证据状态,使事后声明可审计。其含100项任务及3600条人工标注,对比三种策略发现:基线策略虚报成功率22.8%,加透明指令降至9.3%,用结构化证据合约降至0.8%;编造细节率从28.3%降至0.8%,有效回复率则从74.9%升至98.8%。证据合约策略在保持高有效回复率的同时大幅降低报告错误。