论文:AI 论文、技术方法与基准测试第 11 页
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
- AI 摘要arXiv cs.AI
DCKV:首个端到端训练的 KV 缓存编解码器,压缩率超 55 倍
混合语言模型只在少数全注意力层保留 KV 缓存,但该缓存仍随提示长度增长,存储与迁移成本高。论文提出 DCKV,一个可微的 KV 缓存编解码器,也是首个端到端训练的此类编解码器:其变换、量化器与熵模型以提示 token 和已解码的相邻位置为条件,并针对冻结的语言模型联合优化,优化目标同时包括熵模型给出的码长和模型输出的变化。在 Qwen3.5-2B 上,DCKV 存储压缩后 token 的字节数比 bf16 少 55 倍以上,三项长上下文基准最多损失 1.8 分;字节数少 100 倍以上时,最多损失 3.6 分。
- AI 摘要arXiv cs.AI
论文提出 SKIM:把对话写入冻结模型参数,无需外部存储即可召回
一篇 arXiv 论文提出 self-keyed in-parameter memorization(SKIM),研究在模型没有外部记忆、也不预先知道后续问题与答案的前提下,能否把对话存进参数并在之后据此作答。做法是闭式方法:模型对每一轮对话自行生成多个不同问法,把这些问句作为键写入参数,后续用户提问即使措辞不同也能匹配到某个键,仅凭参数召回该轮内容。作者在五个语言模型上评测,SKIM 能从后续提问中召回大部分已存对话轮次,且不依赖任何外部存储。
- AI 摘要arXiv cs.AI
论文研究软件保障中多智能体扩展与验证器反馈的可靠性
一篇 arXiv 论文用五项实验考察:在已有确定性工具证据时,增加专用语言模型上下文能否提升软件保障效果。实验使用 Qwen2.5-Coder-7B-Instruct 并做 1.5B 敏感性分析,共完成 13,638 次模型请求。在八条相关开发警告上,上下文数从 1 增至 50 使 token 用量增加 49 倍,却未改善不安全清除。在 160 个 OWASP 案例上,不同配置在清除率与未解决结果之间取舍,十上下文组仅评估 96 个案例。在 32 个 SV-COMP 任务上,原始验证器反馈把平均正确判定从 12.7 提到 22.0,同时把错误判定从 1 个增至 7 个;JBMC 加 JVM 的验证基线返回 26 个正确判定和 6 个未解决结果。
- AI 摘要arXiv cs.AI
Dwell 框架让视觉语言智能体在潜空间中学习
一篇 arXiv 论文提出 Dwell,一种基于模型的强化学习框架,把预训练视觉语言模型(VLM)重新表述为循环潜空间转移算子,使其能在潜空间中预测、调整并行动。该框架利用 VLM 自身的表征,让模型同时充当世界模型与策略:智能体既从真实交互中学习预判和评估动作结果,也从潜空间想象中改进行为。在五个交互式视觉环境中,Dwell 在可训练方法里取得最强整体表现,同时大幅降低想象所需的算力。作者指出,VLM 智能体的有效世界模型不必重建未来,只需预测对动作有用的未来。代码已公开。
- AI 摘要arXiv cs.AI
首个巴斯克语语音语言模型发布,基于LLaMA-Omni架构
研究团队发布首个面向巴斯克语的开放语音语言模型,目标是低延迟的端到端语音交互。系统沿用LLaMA-Omni架构,以Latxa模型为骨干,通过微调多个模块把巴斯克语能力迁移到语音模态。为缓解数据稀缺,团队将英文VoiceAssistant-400K语料翻译成巴斯克语,并用巴斯克语TTS合成音频。评测显示内容质量3.86/5,语音可懂度WER为9.94%,音频质量UTMOS为3.07。作者认为,模块化架构加合成数据可在低资源语言上构建语音交互系统。
- AI 摘要arXiv cs.AI
论文提出 NHNM:把原始正例改造成指令检索的天然难负例
针对指令跟随检索(IFIR)中指令条件下的对比监督稀缺问题,论文提出自然难负例挖掘(NHNM)。已有合成方法通常固定正例段落再生成额外负例,忽略了原始正例本身可作难负例的潜力。NHNM 在查询兼容的指令下把可转换负例提升出来,并将原始正例改用作天然的指令难负例,其自动化流程包含候选清洗、反转构造与几何过滤,产出与预训练检索空间对齐的紧凑高对比监督。应用于 MSMARCO 得到约 7K 条实例的 NHNM-MARCO 训练集;在 InstructIR 与 FollowIR 上,568M 至 4B 参数模型微调后表现较强,部分设置下与更大规模检索器持平或超过。消融分析将增益归因于天然难负例监督,而非模型规模或数据量。
- AI 摘要arXiv cs.AI
强化学习联合控制风机偏航与功率以降低噪声
这篇论文提出 Noise Steering 方法,用无模型强化学习同时调节风机偏航角与功率设定值,在满足指定区域噪声约束的前提下最大化风场发电量。训练时把低保真声学模型与稳态 FLORIS 仿真器耦合,以降低计算开销。在六台风机组成的测试风场上,该策略在整个湍流风速范围内都满足 40 dB 噪声约束,相对无约束的贪心控制平均功率损失仅 2%,高风速下最高 7.7%;而行业常用的降噪运行基线平均功率损失为 17%。换到更高保真仿真器后,该策略在稳态与湍流来流下大体保持性能。
- AI 摘要arXiv cs.AI
RubricAtlas:从专家报告中挖掘类型级评分标准以评估深度研究智能体
针对深度研究智能体输出的分析报告,现有任务级检查清单难以覆盖整体分析结构。RubricAtlas 从同一研究类型下不同对象的专家报告中提炼类型级分析要求,围绕反复出现的分析问题组织细粒度检查,为同类任务提供共享标准但不规定答案。该框架把二元检查点与报告段落关联,将完整性评估与论证有效性分开。其构建基于 3079 份中文金融研究报告,覆盖 99 种研究类型。实验显示单份报告仅覆盖其类型约一半的分析问题,选取不同报告会改变评分与智能体排名;在十个智能体上,两条评判流程的检查点一致率为 κ=0.71,排名一致率为 Kendall τ=0.87。
- AI 摘要arXiv cs.AI
GUI-JEPA:免解码的移动 GUI 智能体策略,参数仅 6% 却快 2.8…
论文提出 GUI-JEPA,一种基于联合嵌入预测架构(JEPA)的免解码 GUI 智能体策略。它不逐 token 生成动作文本,而是在预训练于无标注 GUI 截图的 JEPA 编码器潜空间中选动作:动作与区域条件化的潜变量预测器把屏幕潜变量转成每个候选动作的潜变量,轻量头在一次批量前向中对照指令给所有候选打分。在 AndroidControl 上,同 GPU 下比同输入微调的 Qwen2.5-VL-7B 智能体快 2.8-4.0 倍,用 6% 参数达到其分布内准确率的 86-92%。作者还发现,随机初始化的预测器与在屏幕动态上预训练的预测器表现相当,说明预测器是为决策本身训练的。
- AI 摘要arXiv cs.AI
AdaGround:免训练自适应缩放框架提升 GUI 定位精度
arXiv 论文提出 AdaGround,一个免训练框架,用于解决高分辨率屏幕上的 GUI 定位难题。它由三部分组成:Token-Normalized Adaptive Zooming 依据模型自身对目标尺寸的估计,决定每个样本的放大倍数、视野和缩放深度;Verifier-in-the-Loop Refinement 用一个带标记点击的 Yes/No 验证器,决定保留还是拒绝每次缩放、在缩放链之间做选择、触发重新定位,并通过存在性查询决定何时弃答;Compositional Structure Grounding 则根据表头组合电子表格单元格。在 Qwen3-VL 模型上,该方法在 OSWorld-G 与 ScreenSpot-Pro 上比骨干模型提升 7.4 至 20.6 个百分点,并超过现有免训练缩放方法与不少经过训练的 GUI 模型,增益在留出的 UI-Vision 上同样成立。
- AI 摘要arXiv cs.AI
ActiveAlign 用主动感知缩小 Real2Sim2Real 差距
一篇 arXiv 论文提出 ActiveAlign 框架,用主动感知替代被动感知来对齐 Real2Sim2Real 的仿真与现实差距。框架含两个模块:ActiveAlign-Waving 借助手部主动运动与可微渲染完成手眼标定;ActiveAlign-Touching 用触觉反馈细化物体对齐,达到毫米级精度。作者称 ActiveAlign-Waving 可用于为开源未标定的机器人操作数据集整理仿真环境,并在真实 Unitree G1 机器人上完成按压按钮、移动滑块等毫米级精细操作。
- AI 摘要arXiv cs.AI
PICO:用策略兼容联合解码解决 RLVR 全失败样本难题
针对可验证奖励强化学习(RLVR)在超出模型能力的问题上出现的「学习悬崖」——当所有 rollout 都失败时,GRPO、RLOO 等组相对估计器优势归零、更新坍缩——论文提出 Policy-Compatible Reinforcement Learning(PICO)。该方法做分布约束的联合解码:专家数据在 token 级引导解码,同时保留学生模型的相对 token 概率,并用动态 top-k 把采样分布限制在有限散度预算内,使生成的轨迹在构造上既通过验证又与当前策略兼容。这些轨迹与 on-policy rollout 在混合行为目标下联合优化,通过重要性采样缓解分布不匹配。在多个推理数据集与 agentic 基准上,PICO 稳定优于标准 RLVR 与既有 off-policy 基线。
- AI 摘要arXiv cs.AI
Evolving Agent Teams 多智能体框架让编码智能体跳出局部最优
一篇 arXiv 论文提出 Evolving Agent Teams 多智能体框架,针对现有编码智能体在 FlashInfer 等专家手写 GPU kernel 上容易陷入局部最优的问题。该框架由中央监督者诊断局部最优并重组智能体团队,配合持久化文件系统记录学习文档、演化历史与各团队产物,用积累的经验支撑重组。在相同 token 预算下,它稳定优于强编码智能体基线;延长预算后,从零生成的 CUDA kernel 相对生产版 FlashInfer MLA paged decode 取得 1.2 倍平均加速,在 FlashInfer-Bench 的 47 个生产负载中赢下 36 个。
- AI 摘要arXiv cs.AI
arXiv 论文提出零和 POSG 的保守策略迭代算法
一篇投稿至 arXiv cs.AI 的论文给出面向有限时域零和部分可观测随机博弈(zs-POSG)的近似策略迭代方法。与依赖中心价值函数的点式求解器不同,该方法为每名玩家各维护一个策略,并沿保守策略更新所产生的占用轨迹对两者联合更新;每次更新只用当前联合策略诱导出的一个支撑超平面,不再逼近完整中心价值函数。算法在局部策略改进、保守更新与持续探索之间交替,把计算集中在当前联合策略可被利用的占用区域。在有限时域 zs-POSG 基准上,小规模时域下表现有竞争力,较大时域下相对 PBVI、HSVI 与 CFR+ 常能改善运行时间与可利用度之间的权衡。
- AI 摘要arXiv cs.AI
RuHarness:评分标准与执行框架协同演化,助智能体持续自我改进
针对智能体执行框架演化过程中监督信号偏静态、难以跟上多轮行为弱点的变化,论文提出 RuHarness 框架,让评分标准与执行框架协同演化。该方法从执行轨迹中持续发现并重新评估行为准则,优先处理最相关且尚未解决的弱点,在任务目标不变的前提下指导框架做针对性更新。在多种智能体任务与骨干模型上的实验显示,RuHarness 优于较强的框架演化基线,在未见的留出任务上优势尤其明显;分析表明,自适应地排定评分标准优先级能够跟踪不断变化的弱点,并在多轮演化中带来更持久的提升与更稳定的泛化。
- AI 摘要arXiv cs.AI
PIP-ToM 提出证据可采性接口,提升多模态心智理论推理
论文把多模态心智理论(ToM)中的错误归因于「证据可采性」问题:推断他人信念时应只用该主体能获取的证据,而现有基于大模型或贝叶斯模型的方法重建全局事件轨迹,未区分客观事件与主体可采证据,导致视角泄漏与来源混淆。作者提出 PIP-ToM,为每个主体构建证据库、与结构化心理状态声明对齐,并在保留贝叶斯推断过程的前提下校准假设分数。搭配 GPT-4o 时,在 MuMA-ToM、MMToM-QA、Hi-ToM 三个基准上平均准确率分别为 92.56%、95.00%、95.00%,优于现有 ToM 方法。
- AI 摘要arXiv cs.AI
TAPESTRY:把动作当作视频 patch,单一骨干同时做视频生成与机器人控制
TAPESTRY 将预训练视频扩散 Transformer 改造成机器人策略,推理时无需生成视频。做法是把每个动作时间步经轻量线性投影映射到预训练 VAE 的 patch 维度,作为单 patch token 送入与视频相同的 patchify 层和 Transformer 骨干。训练按 minibatch 元素采样三种扩散目标:用机器人与人类视频的 VAE latent 做视频扩散建立动力学先验;用机器人演示做视频+动作联合扩散,配耦合扩散时间步与非对称注意力掩码;以及以干净图像 latent 为条件的纯动作扩散。测试时从纯噪声经单步 DDIM 生成紧凑动作 token 序列,消费级硬件上每个动作块耗时 84 毫秒。论文被 CoRL 2026 接收。
- AI 摘要arXiv cs.AI
arXiv 论文提出增量知识图谱学习者数字孪生,用于有证据支撑的预警
这篇论文关注学习分析中的预警模型:风险分数往往只说明需要干预,却看不出是哪些学习痕迹、测评事件或时间模式触发了警报。作者提出一种以轻量知识图谱实现的增量学习者数字孪生,在时间检查点重放学习轨迹与测评记录来更新,既作为特征抽取的基底,也作为解释依据的基底。预测特征通过图查询导出,特征、归因、警报、证据条目与原始记录都表示为可查询的图实体。研究在公开学习分析基准上按时间协议实例化并评估,结果显示图查询导出的特征在不同模型族与检查点上保持了与原始表格特征相当的预测表现,警报以证据链形式落地,把风险决策与特征归因、证据条目和平台原始记录连接起来。
- AI 摘要arXiv cs.AI
SetGRPO 提出校准评分器随机性的新强化学习框架
针对基于评分细则的强化学习中评分器随机性会改变 GRPO 更新方向的问题,作者提出 Set-Valued Group Relative Policy Optimization(SetGRPO)。该方法包含三个模块:联合奖励集校准为训练系数构造联合不确定集;几何引导的安全恢复把候选系数映射到当前策略的局部更新几何,并为每个响应组确定最大安全恢复比例;选择性风险门控优化通过独立风险校准选出全局阈值,控制被接受更新的条件方向反转风险,同时保留原始 GRPO 目标。在可交换性假设下,SetGRPO 对联合系数集给出有限样本边际覆盖,并在候选阈值间实现同时风险控制。在覆盖三个领域的十个开放式基准上,SetGRPO 在 Qwen3.5 与 Llama3.2 两个模型家族上取得所有对比训练方法中最高的宏平均。
- AI 摘要arXiv cs.AI
论文提出 Transformer 代数,用函数分解刻画模型结构
一篇投稿于 arXiv 的论文尝试为 Transformer 建立代数体系。作者把 Transformer 的函数分解结果当作原子动作,在此基础上引入顺序组合、并行组合、用于反馈的递归,以及针对隐藏层的抽象。论文称,这是首次从逻辑角度对 Transformer 建模,可用于验证基于 Transformer 的应用是否正确。此前对 Transformer 的理论分析多集中在可计算性层面,例如无界精度 Transformer 的图灵完备性、其并行化优势,以及有界精度 Transformer 的局限。