论文:AI 论文、技术方法与基准测试第 17 页
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
- AI 摘要arXiv cs.AI
NgramRL 用 rollout 历史 n-gram 草稿加速 RL 后训练
NgramRL 针对强化学习后训练中自回归 rollout 生成耗时占比超过 70% 的问题,提出按 prompt 构建 n-gram 草稿器,草稿来源是有限的近期 rollout 历史,无需辅助模型、无需草稿器训练,也不占用常驻 GPU 的草稿器状态,并由目标模型验证以保持 rollout 分布。作者还加入自适应 fan-out 预取器,预测被接受的草稿长度 j 与目标模型续写 token b,配合因果预算分配器集中预取高概率结果。在两个模型家族、三类推理与结构化生成任务上,热缓存下每次目标模型前向提交 3.60–7.77 个 token,比 SuffixDecoding 最多高 1.99 倍,比 prompt-lookup decoding 高 7.0 倍;Spider 上候选预算 16 时预取覆盖 Qwen3-8B 的 96.6% 结果,rollout 吞吐较同步版提升 1.38 …
- AI 摘要arXiv cs.AI
LEMS 与 KFAC-SVD 改进 SVD 低秩压缩,零样本精度最高提升 4…
一篇被 ICML 2026 接收的论文提出两项改进,针对低秩 SVD 压缩大模型时的两个短板。LEMS 用逐层误差代理替代未校准的误差估计,把局部与全局层重要性以及传播偏差一起纳入,再通过整数线性规划完成全局秩分配;KFAC-SVD 改用 token 级统计量做分解,缓解此前基于 Fisher 的估计器出现的秩塌缩。作者在 Mistral、Qwen3、Llama 3 三个模型家族上验证:LEMS 的零样本精度比现有搜索策略最高高 4.8 个百分点,且该结论可推广到 70B 参数规模;KFAC-SVD 的平均困惑度改善 15%。代码与项目页已公开。
- AI 摘要arXiv cs.AI
arXiv 论文测试三个小模型意见模拟中的补集一致性
一篇 arXiv 论文检验 LLM 智能体意见模拟中的补集一致性:把断言改写为其否定形式、并把每个概率 p 换成 1-p 后,两次报告本应相加等于 1。作者用 Qwen3-4B、Llama-3.2-3B、Gemma-3-4B 三个小模型测试,在来自运行中网络模拟的 2304 个智能体状态上,Qwen 的成对报告平均相加为 1.18;在 AVeriTeC 的 48 条真实事实核查断言上同样超过 1。在 24 个各含两种可能结果的控制基准中,三个模型都出现同类偏差,幅度是同义改写所产生变化的 2 到 10 倍,且在重复采样、不同同伴组规模和报告强度下持续存在。
- AI 摘要arXiv cs.AI
arXiv 论文提出面向 ASI 的五层沟通架构
一篇提交至 arXiv cs.AI 的论文提出,在思维与活动中,消息的形成与理解可分为五个层级,用于支撑基于语言的强 ASI。作者的核心论点是:语言模型的上下文本身无法呈现话语形成的基础,这些基础由预先习得的图式、对活动世界的系统性表征,以及其中被视为真的连接所确立;上下文与训练权重本身都不能证明存在刻意构建的系统性表征。五个层级依次为:对活动世界的系统性表征、从中切出的特定情境、对情境的叙事描述、消息的完整含义、文本。论文的理论来源包括 G. P. Shchedrovitskiy 的系统方法论、A. Korzybski 的结构微分和 I. A. Mel'chuk 的意义-文本理论。
- AI 摘要arXiv cs.AI
TopKLoRA:可解释稀疏微调实现后门电路定位与切除
arXiv 论文提出 TopKLoRA 的完整方法,这是一种按设计即可解释的 LoRA 变体:在每个 token 上只激活最大的 k 个适配器隐变量,并且仅用下游损失训练,让优化压力促使模型学到功能上具有因果性的隐变量。研究者在 gemma-2-2b、Qwen2.5-1.5B、Qwen2.5-7B 上用投毒指令数据集微调,构造出带有后门的模型样本,并定位、消融了实现后门所必需且充分的电路。该方法得到的稀疏电路比稠密 LoRA 基线小至多一个数量级,因此可以精准切除恶意能力,同时不牺牲指令跟随表现。作者还提出用 TopKLoRA 隐变量配合梯度路由构造电路局部化的模型样本,以验证电路搜索算法,并公开了代码。
- AI 摘要arXiv cs.AI
PoKER:用机器学习估算空空导弹杀伤概率的模型
一篇论文提出 PoKER 模型,用于超视距空战中估算导弹发射的杀伤概率。传统武器交战区模型按最大、最小、不可逃逸等静态距离划分区域,PoKER 则用机器学习把目标的随机行为和导弹脱靶距离纳入预测,并考虑战斗部杀伤力、目标与射手朝向以及具体交战条件,从而动态评估目标行为。作者认为该模型可辅助超视距空战飞行员进行作战决策。论文共 18 页、10 幅图、5 张表,代码已公开,发表于《The Journal of Defense Modeling and Simulation》。
- AI 摘要arXiv cs.AI
PICLE-PFN:首个面向动态策略的纵向因果效应基础模型
研究者提出 PICLE-PFN,用先验数据拟合网络做纵向因果效应估计,支持动态治疗策略。它把目标策略表示为上下文中的历史-决策示例,从而为多种治疗策略提供统一接口。模型在由纵向结构因果模型采样的合成数据上预训练,把因果效应估计摊销到不同数据集、策略与预测期上。给定新的观测数据集与目标策略,它一次前向即可直接预测条件平均潜在结果,无需任务特定训练或超参数调优。在合成与半合成纵向基准上,其 RMSE 与现有方法相当,不确定性校准明显更好,部署耗时仅为后者的一小部分。
- AI 摘要arXiv cs.AI
论文提出面向多智能体系统的企业RAG知识层,先组织再检索
一篇 arXiv 论文提出把本体放在制品层而非内容层的知识层方案,用于企业多智能体系统的检索。作者用七个智能体的逆向工程流水线处理 18 个服务中的 241 个仓库,产出数千个描述范围、旅程、规则与验收标准的制品。由于 offer、eligibility、activation 等实体跨服务复用、名称相近但操作含义不同,扁平向量检索会把错误服务的规则以高相似度返回且无错误信号。该知识层由自描述目录、稀疏元数据注册表和基于制品的导航超图组成,查询先解析为制品标识再约束向量检索,使歧义在结构上被排除。该层构建耗时不足一周,已支持定位并解决 100 多个生产缺陷。
- AI 摘要arXiv cs.AI
HarnessMM 用受控决策复用减少 agent 重复推理
arXiv 上一篇论文提出 HarnessMM,针对 agent harness 在工具反馈后反复调用推理的问题,用受控决策复用与递归自我改进(RSI)提升 token 效率。控制器在模型与工具边界复用已确定的决策,替代后续推理回调,actor 权重保持不变;可执行决策图记录动作、参数、因果依赖与公开守卫,遇到新语义决策或证据不足时回退原 actor。HumanEval 上 Codex 成功率保持 90.82%,每任务 token 从 66.72k 降至 47.02k;DeepSeek Harness 成功率从 71.43% 升至 85.71%,token 从 96.28k 降至 11.62k。
- AI 摘要arXiv cs.AI
研究对比学习优化器调度中状态耦合的乘性与加性差异
一篇投稿至 NeurIPS OPT-ML 2026 Workshop 的论文,研究通过展开经典求解器并反向传播,为 MAX-CUT 的连续惩罚松弛学习调度。状态盲调度可泛化到远大于训练规模的实例;状态自适应双线性调度同样能分布外泛化,在 15 个随机种子上优于其未训练基线(t=4.1)。输入与输出头相同的加性消融模型在分布内与双线性模型统计上无法区分,但分布外表现差于自身基线(t=-11.7)。该差异在无正则化时出现,并在 30 轮权重衰减扫描中持续存在。
- AI 摘要arXiv cs.AI
研究团队用语言模型代理构建带原文引证的知识图谱
一篇 arXiv 论文提出一套流程,从公开网页构建医院软件采购的客户关系与集成关系知识图谱,规则是每条边都必须有来源页面的逐字引文支撑。页面来源包括对每家厂商站点的确定性爬取,以及一个带预算的 ReAct 代理在其余网页上的检索。宽松的抽取器提出带引文的关系,分层 grounding 阶段决定保留哪些,其中包含在引文只提到一方时通读整页的指代步骤、确定性检查,以及由五次模型调用组成的小组按九项标准投票。在 61 家厂商上,该流程对其抽取器提出的 6,428 条候选关系取得 0.94 精确率和 0.71 召回率。
- AI 摘要arXiv cs.AI
arXiv 论文:LLM 模拟选民存在人口统计偏差,对齐策略反而放大误差
一篇提交至 arXiv 的论文研究大模型在数字民主场景中模拟选民时的群体偏差。作者用三届美国总统选举数据,对比一个闭源模型与一个开源模型在不同人口特征下的表现,并测试对齐策略能否在不损失整体准确率的前提下缩小差距。结果显示:从选民档案中去掉性别字段,模型最大群体误差下降 22% 至 42%;去掉教育字段,误差下降 64%;但去掉自报种族字段后,平均群体误差反而上升超过 40%,且这些调整都没有降低准确率。重复提问、公平性指令等常见对齐手段未能减小误差,部分情况下误差翻倍。
- AI 摘要arXiv cs.AI
arXiv 论文提出无数据自训练框架,模型自生成问答实现自我提升
一篇提交至 arXiv 的论文把 on-policy 自蒸馏改写为自训练框架:模型仅凭粗粒度的高层主题描述,自行合成问题与带特权信息的推理过程,不需要人工整理的提示、答案或真实问答对。作者称,在完全合成的特权信息上做自蒸馏,模型能在多个领域提升,同时保留未参与自训练领域的能力;该框架在文本与多模态任务上均得到验证,在标准语言基准和视觉问答上表现出一致的自我改进。
- AI 摘要arXiv cs.AI
arXiv 论文提出车联网联邦学习中的干净标签投毒攻防博弈框架
一篇提交至 arXiv 的论文研究车联网联邦学习场景下干净标签投毒攻击与防御的相互作用。作者把用于异常检测的基本安全消息(BSM)分类建模为动态拓扑车联网上的分布式学习问题,并提出一种特征空间干净标签攻击:把良性样本朝恶意特征极端方向扰动,在保留标签的同时降低类别可分性。针对该攻击,论文提出特征一致性重标注防御,用于检测并重标注可疑样本。作者还建立博弈论框架刻画攻防交互,并依据攻击有效性与成本参数给出均衡策略。结果显示,攻击效果随被攻陷节点数量增加而扩大,而所提防御在不降低干净样本准确率的情况下把攻击成功率维持在低位,并使均衡区域向不利于攻击的方向移动。
- AI 摘要arXiv cs.AI
谷歌等机构提出 VERID,为实验室 AI 智能体构建语义数字孪生
一篇投稿 arXiv cs.AI 的论文提出 VERID(VERified Infrastructure for Discovery Laboratories),目标是打通 AI 智能体的高层推理与湿实验中易出错的物理现实之间的断层。VERID 是实验室工作单元的持久高保真语义数字孪生,提供四项核心服务:供智能体推理的可查询内省、用于协议验证的时间压缩仿真、完整留存实验记录的全量追踪,以及安全执行框架。作者用水性染料与去离子水混合物做了三个案例,验证其光学与流体基础,展示协议关键错误的提前发现、运行中的状态化错误恢复,以及事后识别细微物理故障。仿真还充当离散记账引擎,让智能体低成本地在计算机内探索实验设计,并通过迭代自博弈改进策略。
- AI 摘要arXiv cs.AI
ActionRAG 提出图扩散记忆架构,在 MemoryAgentBench …
ActionRAG 是一个面向 LLM 智能体长期记忆的图记忆架构,针对现有记忆流程的两个薄弱环节:索引阶段会把重复实体拆散,或把不同实体合并;在线检索阶段则常把初始相似度当作最终结果。该架构在索引端统一类型标签并做分层实体消解,在查询端用实体与三元组双通道检索形成初始证据集,并据此构建有界局部图,再通过查询条件化的接收端归一化扩散,结合局部路径结构修正三元组分数,同时用种子保护、枢纽惩罚通量和三元组物化保留直接证据。在 MemoryAgentBench 的八个确定性评分列上,平均准确率为 55.1,比最强的检索式记忆基线高 5.4 分;四个成本列上,单次查询的平均合成成本低于 0.001 美元,检索侧 p99 各分量合计 440.7 毫秒(消费级 Apple Silicon 环境)。
- AI 摘要arXiv cs.AI
arXiv 论文提出可解释的歌唱情感识别框架
一篇提交至 arXiv 的论文提出用少量歌唱专用描述符构建可解释的歌唱情感识别框架,这些描述符覆盖韵律、频谱、语音学与声乐技巧四类。研究用 SHAP 解读模型决策,用 GRAD-CAM 定性评估声乐技巧的学习表征。评估显示,歌唱专用特征能降低跨歌手差异,声乐技巧描述符可提供可解释的表达线索。在 VocalSet 上的域外评测显示,情感表达与真实技巧执行之间存在关联,颤音与咽音被视为情感传达的显著线索,SHAP 显示颤音依赖发音速率这一上下文。
- AI 摘要arXiv cs.AI
arXiv 论文探讨分子优化中经验库跨蛋白口袋的迁移效果
一篇 arXiv 论文研究 LLM 智能体在基于结构的药物设计中,能否把在一个蛋白口袋中积累的编辑经验复用到新口袋。作者用 CrossDocked2020 测试集上的一次运行日志做分析,以编辑位点接触、动作和轮次为键,发现经验库能明显区分改善型与恶化型编辑,但这种区分主要由编辑对分子尺寸的改变、动作和轮次解释,而非靶点描述。直接写出靶点名称时,区分度高出数倍;对经验库中未出现的口袋,只能靠描述迁移,而更具体的描述很少复现,更粗的描述区分力有限。作者认为,在所用表示与查找方案下,经验库更适合为智能体自身的候选分子排序以决定是否对接,而非直接规定该构建什么分子。
- AI 摘要arXiv cs.AI
LLaCO提出竞争感知语义调度,8B连续扩散模型对标离散扩散
LLaCO 是一项面向大语言模型的连续扩散生成框架,作者指出连续嵌入轨迹上存在几何轨迹与时间进程错位的问题,嵌入范数衰减会让欧氏距离产生虚假超越,因此 token 竞争需要按方向评估。作者把这种成对动态形式化为竞争阈值理论(CTT),并提出语义保留调度(SRS),让时间分配与身份衰减进程对齐。LLaCO 通过嵌入方向适配器和时间步条件调制,把预训练骨干适配到连续表示,并用球面加噪、以测地线插值走向带掩码偏置的端点,从而消除范数衰减。模型以 8B 规模实例化,表现优于此前的连续扩散基线,并与同规模离散扩散模型相当。
- AI 摘要arXiv cs.AI
研究:MCP 工具故障下,模型规模并未带来容错能力
一篇被 NeurIPS 2026 接收的论文提出 MCP-Injector,这是一个协议感知的故障注入中间件,它拦截 MCP 工具调用路径,按永久、瞬时、间歇三种持续性和可复现的调度注入故障。故障模型依据 1774 个开源 MCP 仓库中 57240 条 issue 与 PR 讨论提炼的故障分布校准。在 1350 组实验中,研究者交叉测试 20B 与 120B 两种骨干、三种 agent 框架和三种注入条件,发现以永久故障为主的压力配置使任务完成分从 8.08 降至 3.23(满分 10),降幅约 60%;120B 在故障下保留的无故障得分比例并不高于 20B(p=0.96),完成率反而更低(91.1% 对 95.6%)。不同 agent 框架吸收故障的能力存在差异。