论文:AI 论文、技术方法与基准测试第 56 页

AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

  1. AI 摘要arXiv cs.AI

    研究者提出可完全可视化的极简 Transformer 解释框架

    一篇 arXiv 论文提出构建并解读极简 Transformer 的框架:把嵌入维度和注意力头大小都限制为 2,使内部表示可在二维平面完整呈现。嵌入、Q/K/V 变换、注意力输出、残差流与决策边界都能直接观察。作者认为学到的几何结构对应一套算法,点的排布与边界可读作分步流程。模型在数字序列中出现「+」时输出最近见过的偶数的任务上训练,训练后逐步展示其计算过程,并配套一组可解释性可视化。

  2. AI 摘要arXiv cs.AI

    研究:灾难性遗忘集中于低频词输出嵌入,调高Adam epsilon可缓解

    一篇 arXiv 论文分析大模型持续预训练与微调中的灾难性遗忘发生在何处。作者在最多 1.4B 参数的五个设置中做参数冻结实验,发现遗忘集中在训练语料中少见 token 的输出嵌入上,模型主体同一 sqrt(v-hat) 区间几乎不动,新知识则学在别处。这种定位由语料的词表覆盖不足决定,而非训练方式,因此可仅凭 token 计数对固定基座模型做重训前风险排序。机制上,缺失 token 持续收到单侧 softmax 梯度,被 Adam 二阶矩归一化放大成完整更新。作者提出只在输出投影上调高 Adam 的 epsilon,在 160M 到 12B、四个模型家族的八个设置中消除 39.4% 到 67.9% 的遗忘,且不损害目标学习、无需逐模型调参。

  3. AI 摘要arXiv cs.AI

    SkillForge:用技能生命周期让技能与智能体共同演化

    SkillForge 是一种面向 LLM 智能体的强化学习方法,把技能库按适应度划分为试用、活跃、稳定、退役四种状态,使技能与模型在训练中共同演化。训练前先用基座模型自身的 rollout 预退役低适应度技能,得到过滤后的技能库用于监督微调;随后强化学习接管,每轮迭代继续做选择性退役、稳定化与 LLM 引导的变异。在多个交互式智能体基准上,该方法取得最高总体成功率,相对最强基线最多提升 7.8%,同时技能库保持紧凑。作者同时发布 SkillFurnace 数据集,含 5000 余条标注记录。

  4. AI 摘要arXiv cs.AI

    UltraText Bench:面向图像生成视觉文本渲染的中英双语基准发布

    一篇新论文提出 UltraText Bench,用于评估图像生成模型在密集视觉文本场景下的表现。该基准包含 432 条提示词,覆盖 24 个真实场景类别和三个难度等级,中英文各占一半。每条提示词经人工审核,指定四到十二个文本区域的精确字符串,并配有内容、位置与视觉属性的结构化参考。评估使用 Q-Judger 视觉语言模型,从文本保真度、文本清晰度、空间质量和场景质量四个维度打分。在 24 种模型配置中,各维度表现差异明显:Z-Image-Turbo 相比 Z-Image-Base 清晰度提升 3.81 分,但保真度下降 14.76 分;Qwen-Image-2512 的英文综合分从 L1 的 86.50 降至 L3 的 42.86。另有十名参与者参与了自动评分的人工评估。

  5. AI 摘要arXiv cs.AI

    DisParQ:无需语言监督的可解释视觉基础模型部件概念方法

    研究者提出 DisParQ,一种从冻结的纯视觉自监督骨干网络中学习空间定位、离散概念表示的方法,不需要类别标签和语言监督。每张图像的每个 patch 被分配到可学习原型字典中的唯一概念,每张图仅稀疏激活部分概念。为刻画概念在图像间的差异,方法在概念之外学习连续残差并量化为离散属性。空间解码器仅凭概念和属性重建骨干表示,重建成功说明离散表示保留了骨干信息。在七个数据集上评估,ImageNet 线性探测 top-1 达 83.2%,接近冻结的 DINOv2 教师,概念一致性高于语言对齐模型,细粒度识别保持竞争力,并支持跨类别部件检索。

  6. AI 摘要arXiv cs.AI

    MIRROR:用自蒸馏把LLM个性化从模仿转向偏好内化

    一篇投稿于arXiv的论文提出MIRROR框架,针对个性化大模型需求从风格模仿转向内容质量的趋势,探讨自蒸馏能否在现有微调范式中弥合这一差距。方法上,MIRROR用参考揭示的在线策略自蒸馏替代参考token模仿,让模型在自身生成轨迹上对齐其参考条件下的下一token分布,从而内化用户偏好而非复现参考文本;MIRROR-F作为焦点插件,对信息量高的参考token施加选择性监督,在保留用户表达的同时增强内容生成。在三个个性化生成基准、两种模型规模以及基于参考和基于LLM的评测中,MIRROR与MIRROR-F取得领先的总体个性化表现和更优文本质量,在三个未见过的个性化生成任务上灾难性遗忘少于基于SFT的基线,增益跨模型规模与应用场景保持一致。

  7. AI 摘要arXiv cs.AI

    4D-HOF前馈框架实现4D手物交互重建

    现有4D手物重建依赖逐序列优化,生成式方法易致预测不稳。4D-HOF作为前馈框架,利用视觉基础模型产出的粗略但具信息量的估算,直接重建4D手物交互,规避了高昂优化成本与随机噪声引发的不稳定性。

  8. AI 摘要arXiv cs.AI

    IdeaAnchor范式训练大模型从文献生成研究思路

    针对现有方法缺乏对论文合成结构化监督的问题,IdeaAnchor范式利用结构化规范作为特权信号训练大模型进行文献驱动的科研构思。该范式从已发表论文中挖掘实例,编码输入论文的功能角色、关系及合成标准。模型经示范、自蒸馏与强化学习训练,并在推理时结合检索。实验表明构思质量持续提升,锚点训练强化创造性合成,检索完善细节,两者结合效果最佳。

  9. AI 摘要arXiv cs.AI

    DepthWorld提出基于3D几何的机器人世界模型

    现有视频世界模型仅靠RGB训练,逐帧看似正确但无法构成3D一致空间。DepthWorld引入校准管线,结合学习式立体深度与因子图,从同台机器人汇集的片段中恢复运动学参数及外参,处理DROID数据集得到DROID-3D,其90%片段外参重投影误差低于0.7像素。模型基于SVD架构,借空间潜变量平铺联合预测多视角RGB与深度,冻结预训练VAE。在同等算力下,深度监督让RGB预测PSNR较纯RGB基线提升1.48分贝,同时输出精准度量深度供几何推理。该文被CoRL 2026接收。

  10. AI 摘要arXiv cs.AI

    Sherpa框架让LLM自适应教学,学生成绩平均提升20.5%

    现有训练LLM当教师的方法依赖演示或预设教学标准,未扎根于个体学习成效。Sherpa框架通过多轮强化学习解决此问题:实例化具备不同学习偏好的学生原型,训练教师模型通过直接最大化这些学生的学习成效来调整指导策略。经该框架训练的教师模型,使各原型学生表现平均提升20.5个百分点;在MathTutorBench评测中,教学得分从52.5%升至79.2%;人类评估中,79.6%的对比更偏好该训练教师。代码与模型已开源。

  11. AI 摘要arXiv cs.AI

    研究提出BOTTLED基准,评估LLM将能力转化为低成本方案的效率

    针对大规模重复任务直接调用LLM成本过高的问题,研究提出“装瓶”概念与BOTTLED基准,评估智能体在固定时间、算力及API预算下,自主生成如小模型或可复用程序等低成本方案的能力。测试10个模型与3项任务发现,零样本表现好不代表“装瓶”能力强,60次运行中48次低于原模型零样本95%置信下限,31次不及同等预算的小模型蒸馏基线。但在分类任务上,Opus 5保留约82%的宏F1且成本降至1/657,并恢复专用廉价模型Jev约94%的宏F1,而成本仅为其1/4。

  12. AI 摘要arXiv cs.AI

    AdvSim2Real:在Web世界模型中防御自适应提示注入攻击

    Web代理在执行用户请求时易受网页内嵌的恶意指令诱导而偏离目标,且不能直接忽略页面内容。现有防御方法基于训练前固定的注入样本微调,面对能适应训练过程的攻击者时表现不佳。本研究提出AdvSim2Real方法,在Web世界模型中针对自适应提示注入攻击训练Web代理,以提升其对抗动态攻击者的鲁棒性。

  13. AI 摘要arXiv cs.AI

    VeriFine框架实现具身推理验证规模化的自我改进

    针对具身推理中固定验证器限制智能体自我改进的问题,VeriFine框架通过策略、课程与评判器的协同进化来扩展验证能力。其策略改进循环利用规则评判器诊断失败并优化策略;遇瓶颈时,评判器改进循环向人类查询关键失败案例,通过交互式校准修正评判器,使其向物理推理客观规则收敛,进而指导后续优化。在驾驶与机器人导航任务中,该框架在强化学习与监督微调下均实现了策略和评判能力的持续提升。

  14. AI 摘要arXiv cs.AI

    WorldSonus框架实现世界模型实时交互空间音频合成

    针对世界模型生成环境普遍静音的痛点,WorldSonus框架实现了实时、可交互且空间对齐的音频合成。该框架采用流式因果自回归扩散架构,将实时因子降至0.41以满足交互视频流速度;结合音频中心标注与分块索引提示调度,支持生成中途动态操控声音事件;并利用立体声与高阶立体声数据实现高质量双耳监督以匹配场景几何与相机运动。实验表明,该框架在开放域视频生音频基准上,声学与空间对齐指标均匹敌或超越现有双向模型。

  15. AI 摘要arXiv cs.AI

    新方法RLCP提升序列推荐多样性,最高达5.21倍

    针对序列推荐固定候选集大小的局限,Wenwen Si等人提出RLCP方法。该方法利用critic分数与在线阈值动态调整保留的动作集,并基于二元反馈更新阈值。理论推导给出了代理缺失率的确定性边界,并将价值损失精确分解为过滤与选择损失,在非收敛参数下也保证了会话奖励边界。在KuaiRand-Pure与MovieLens 1M上的19项测试中,RLCP在保持竞争性会话深度且不增大保留集的前提下,至少一种变体取得最高目录多样性,达最强基线的1.11至5.21倍。

  16. AI 摘要arXiv cs.AI

    EgoLAP框架通过语言动作推理实现人类经验向机器人控制迁移

    EgoLAP是一种视觉-语言-动作(VLA)预训练框架,利用共享的基于语言的动作思维链,联合学习人类与机器人轨迹。该方法将运动意图表达为结构化、时间抽象的语言动作,并与基于场景几何及物理的运动级推理配对,从而弥合具身差距。实验表明,该方法将人类经验迁移至机器人控制的效果显著优于其他动作表征,真实世界任务平均进度达80.1%,性能提升2.3倍。其运动级推理也优于结合子任务、目标框与视觉轨迹的复合推理格式。

  17. AI 摘要arXiv cs.AI

    研究显示智能体历史行为对上下文压缩损害预测极弱

    长视野智能体常按全局token预算盲目压缩上下文,该研究探讨近期行为能否预测压缩损害。基于TRACE公开的590个AppWorld压缩边界语料,重放前缀状态并记录错误或重复调用负担。结果表明,边界前历史对压缩后损害预测极弱。最优冻结可解释触发器能避开21%有害边界并保留84%压缩机会,但在保留率匹配时是否优于token预算规则尚无法评估。该文被NeurIPS 2026的IAB Workshop接收。

  18. AI 摘要arXiv cs.AI

    WorldSolver基准发布:评估LLM生成物理求解器能力

    研究团队提出WorldSolver基准,包含168项模拟任务,源自61篇经典图形学论文,覆盖7个物理领域。任务要求智能体补全求解器代码以模拟动态系统。评估涵盖执行、视觉保真度与物理合理性三维度。前沿模型表现不佳,GPT-5.6-Sol与Claude-Opus-5得分仅48.7%和46.7%,表明生成可执行且符合视觉与物理规律的求解器极具挑战。

  19. AI 摘要arXiv cs.AI

    ScienceClaw发布:跨学科AI智能体持续自演化基准测试

    针对大模型智能体在科学自动化中验证执行难以转化为持久程序改进的问题,ScienceClaw提出固定参数程序自演化框架,统一任务求解、科学验证与程序更新。其评估集覆盖23个学科,通过序列流与独立重置评估测量正确性、演化收益、记忆保持、跨数据集迁移及演化成本。该机制在多轮交互中修复工作流,将验证通过的失败-成功轨迹转为技能与算子候选,仅在源任务重放复现修复且独立任务改善时保留更新。

  20. AI 摘要arXiv cs.AI

    研究揭示全双工语音模型对话换轮延迟:中位耗时远超人类

    全双工语音模型常被用于自博弈生成与评估,但无人类介入时其换轮时序缺乏研究。让两个PersonaPlex-7B实例在无脚本对话中共享时钟交换音频token,发现其换轮时序高度耦合,跨对话重组说话者会破坏该时序。然而模型换轮严重滞后,中位耗时400至560毫秒,而人类仅137毫秒。人类常在对方末尾120毫秒内发起十分之一的转移,模型仅占1%。单向信道延迟会导致响应一对一推迟且前置空白,表明模型采用反应式等待而非人类基于预测的时序机制。