论文:AI 论文、技术方法与基准测试第 68 页
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
- AI 摘要arXiv cs.AI
新框架 LSL 解决大模型灾难性遗忘,已验证 70 亿参数
针对大预训练模型的灾难性遗忘,研究提出 Local Support Learning (LSL) 框架。该方法将遗忘视为权重矩阵输入空间的几何问题,在无需旧数据的前提下,通过结合标准权重适配器与基于高斯混合模型 (GMM) 的门控函数,使参数更新仅作用于当前训练分布。实验表明,该法在最高 70 亿参数的 LLM 上,可跨多训练阶段保留预训练及微调能力,且内存与计算高效、对超参数鲁棒并具扩展潜力。
- AI 摘要arXiv cs.AI
Argo-Bench发布:专测企业级数据智能体
针对现有文本转SQL基准仅查单表且答案频出错的问题,Argo-Bench推出含210项任务的评估框架。它模拟纽约市外卖平台,构建含2.35万张表、75亿行的ERP数仓。智能体需先在库中还原事实再执行封号、发薪等动作,评分依模拟器后果判定。14个前沿模型中,最强者仅在34.8%任务上超95分,均分59.5。
- AI 摘要arXiv cs.AI
Where-OPD:基于合成场景空间引导的MLLM自蒸馏方法
针对多模态大语言模型微调依赖人工标注或外部教师的问题,Where-OPD提出利用程序生成的合成场景进行免标注后训练。该方法向教师模型提供文本形式的空间定位特权信息,使其整合多区域证据,学生模型则仅凭图像与问题复现该行为。尽管后训练仅用合成数据,模型在CVBench等六项真实世界感知基准上平均性能提升3.23分,在计数、文档及图表理解任务上亦有稳定增益,实现了合成到真实的有效迁移。
- AI 摘要arXiv cs.AI
研究提出DeBERTa-v3零样本文本分类可解释性审计框架
针对可解释AI中不同归因方法对同一预测产生分歧解释的问题,研究提出审计DeBERTa-v3在医学摘要零样本分类下的比较框架。在Medical Abstracts语料库上采用自然语言推理引擎,每个诊断类别设5个增强假设并每类抽取1000条文本。对比了SHAP、LIME、遮挡、Input x Gradient及Attention x Gradient五种解释方法,通过Jaccard指数量化成对一致性。结果显示预测准确率在语义模糊时下降,解释稳定性与预测确定性正相关,并发现词汇超敏、语义重叠及归因一致性丧失三种系统性失效机制。建议审计时应组合多种解释方法并优先使用特定临床本体而非宽泛诊断标签。
- AI 摘要arXiv cs.AI
论文提出TESS框架解决LLM数据选择网络优化不稳问题
针对大模型训练的数据选择,用选择网络替代单样本权重会导致优化不稳与泛化差,原因是权重抑制及对易学特征的持续依赖。为此提出TESS框架,基于Pointwise Value Matching目标构建。在安全与指令微调实验中,该框架在跨数据集、子集到全量语料、小到大规模模型间均展现强迁移能力。
- AI 摘要arXiv cs.AI
GeoLatent提出新空间推理架构,刷新两项3D基准成绩
针对从二维图像进行三维空间推理的难题,GeoLatent框架引入CR-GEO与路由优化机制。该机制将共享与残差教师几何分离,联合训练几何与语言,并临时通过潜变量引导视觉答案学习。实验显示,CR-GEO将几何有效秩从1.00提升至3.87;在瓶颈处阻断潜变量读取会使128个固定问题的方向准确率从89.1%骤降至25.8%。恢复后,模型保留分化几何表征与潜变量视觉路径。GeoLatent在SPAR-Bench达73.0%,SPBench达72.1%,均超越此前已报告方法。
- AI 摘要arXiv cs.AI
学者提出HumanoidToolBench基准评估人形机器人工具使用
针对现有人形机器人评估未联合考量工具选择与移动操作的问题,研究者提出HumanoidToolBench基准。该基准包含18项任务,覆盖三种场景、三个执行层级与两种工具集模式。配套ToolBook数据集收录3100条仿真及Unitree G1真机演示。对七种仿真策略与三种真机策略的评测显示,选对工具与完成任务间存在显著差距。针对GR00T N1.7的专项测试表明,面对未见工具其选择准确率下降,且在无关指令下仍会继续执行任务。
- AI 摘要arXiv cs.AI
新框架HAO解决全同态加密下强化学习多项式发散问题
全同态加密(FHE)用于云端强化学习(RL)时,非线性操作的多项式近似会因Bellman drift产生严重发散。本文提出同态优势算子(HAO)稳定框架,将零均值中心化投影直接用于时序差分目标,消除驱动发散的状态价值基线,且不增加非线性乘法深度或需密文自举。在加密CartPole等实验中,HAO智能体实现0%边界突破,而正则化与基线分别在5个种子中3个及83.8%回合突破边界;HAO还将表格域最优策略准确率提升18.0个百分点,并在加入DP-SGD式高斯噪声时保持稳定。
- AI 摘要量子位
何恺明团队推NAT-ARC:ImageNet预训练视觉模型逼近ARC专用LLM…
何恺明团队提出纯视觉ARC解题方案NAT-ARC,不依赖LLM,而是在VARC流程前插入ImageNet MAE预训练,让模型从猫狗花草等自然图像中习得视觉特征提取能力并迁移至抽象格子推理。该方案单模型在ARC-1上达63.4%的pass@2,集成后达70.2%,首次逼近专用LLM系统水平。其核心是利用MAE公开checkpoint初始化编码器,丢弃原位置编码改用2D RoPE适配64×64格子。可视化表明,预训练使模型注意力自动聚焦前景,在match-and-copy与连通区域推理任务上显著提升。
- AI 摘要MIT Technology Review
新型AI脑扫描重建工具仅需1小时校准数据
一种新型AI脑编码器可基于fMRI扫描重建视觉图像,将新用户的校准数据需求从以往的约40小时降至1小时,大幅降低扫描成本。在对比测试中,其性能显著优于已有工具,但仍存在误判,如将蛋糕重建为三明治、狗重建为山羊。该成果上月于纽约认知计算神经科学会议发布。
- AI 摘要arXiv cs.AI
Gacha Decoding方法将多样性转为指令遵循问题
Gacha Decoding是一种推理阶段方法,旨在让语言模型生成更多样化内容。该方法将多样性视为指令遵循问题,结合模型指令遵循能力与外部随机数生成器工具,而非依赖词元熵。在开放域测试中,同等质量下其Vendi分数达次优方法的2.4倍,以少11.0倍的采样量获取同等数量高质量模式,并发现其他方法无法触及的新模式。随着底层模型指令遵循能力增强,该方法多样性持续提升,打破了模型能力与多样性间的矛盾。
- AI 摘要arXiv cs.AI
NeurIPS论文提出合成语音溯源审计协议
Sidi Chang等人提出合成语音研究对象的生成溯源基底,将源规范、生成内容、音频、目标及质量信号等绑定至不可变清单。在日本护理交接管线中审计该基底,113个资产含1.552小时语音,跨6场景。发现因生成器别名浮动、缺TTS与代码时间戳等,精确上游归因受阻。论文指出生成溯源是行为归因必要非充分条件,定义了候选因果图,贡献溯源契约、审计协议及受限案例研究,已被NeurIPS数据归因研讨会接收。
- AI 摘要arXiv cs.AI
研究提出LLM多智能体控制方案用于智能制造,对等与单体架构解决率达93%
针对高定制化小批量生产需频繁重编程的痛点,提出基于LLM的多智能体控制方案。各工厂模块配备专属LLM智能体与MCP工具服务器,通过OPC UA暴露技能,借MQTT协调并注入实时状态。智能体离线生成生产序列,在线处理运行故障。在六模块工厂仿真中对比三种架构,对等与单体架构平均解决率均达93%,编排者架构则在十次运行中全数通过自主重路由解决传送带静默故障。各架构均无显式故障处理逻辑却涌现出诊断能力,验证了MCP、MQTT与实时状态注入作为LLM智造基础的可行性。
- AI 摘要arXiv cs.AI
Fold'EM框架绕过密度重建直接从冷冻电镜颗粒推断原子结构
Fold'EM是一种推理时框架,将蛋白质生成模型的先验与冷冻电镜单颗粒图像直接结合推断原子模型,跳过中间静电势图重建及后续模型拟合步骤。该框架在少量图像下即可恢复精确结构,支持已知朝向与从头推断朝向设定。面对异质数据集,它能从混合颗粒群中解析不同构象态,无需为各态单独重建与建模,为低样本结构测定及低占比构象表征提供新路径。
- AI 摘要arXiv cs.AI
新框架实现有限状态空间单步生成建模
Alessandro Micheli等人提出针对有限状态空间的新型单步生成建模框架。该方法利用离散Wasserstein几何,在可逆马尔可夫核的转移上定义目标相对KL梯度流,并在粒子层面通过马尔可夫跳跃实现该概率流。训练时将传输更新分摊至潜变量条件生成器中,使推理仅需单步完成。在可精确计算的受控环境中,验证了KL耗散、粒子与概率流一致性及数值缩放预测,并证明有限容量神经生成器可追踪精确传输目标且保持单步生成,为结构化离散数据扩展奠定基础。
- AI 摘要arXiv cs.AI
PACE:针对工具调用LLM代理的溯源感知能力执行框架
工具调用LLM代理易受投毒元数据或记忆等影响,仅准入前审查无法解决安全与可用冲突。PACE框架在每次工具执行前进行拦截:通过路径限制裁剪影响路径,结合能力与效果验证比对授权。其区分认证执行契约与评估配置,支持阻断后恢复授权或执行修复。在8项安全基准与3个模型族测试中,该配置在79个攻击列的62个中取得严格最低攻击成功率,14个打平;原生效用最多仅降3分。消融实验显示安全增益主要源于效果验证,自适应搜索在30个越权目标上突破率为零。
- AI 摘要arXiv cs.AI
arXiv论文提出模块化智能体的基于证据验证审计协议
针对模块化智能体修改单一组件后仅靠聚合任务分数评估的缺陷,Ali Atiah Alzahrani提出基于证据的验证审计协议。该协议不直接给智能体打分,而是为每个结论记录证据及四种裁决(支持、无支持、未解决、未评估)与成立边界。通过三种工具提供证据:用Oracle策略衡量可达改进以区分环境与评估问题;逐一替换组件为完美对应物定位价值损失;单独测试验证器分数是否真实界定目标量。在合成市场受限投资组合智能体上的应用表明,完美信息价值取决于动作集、场景生成器丢弃大量信号且运行时验证器可被绕过而无结果变化。
- AI 摘要arXiv cs.AI
PPO-HRAP融合机制先验优化风险控制交易
针对强化学习交易难以兼顾收益与回撤控制的问题,PPO-HRAP算法将近端策略优化与可解释的机制先验相融合。智能体接收含VIX条件回撤惩罚等复合奖励,执行PPO输出与机制目标暴露的混合动作。在2020至2022年SPY测试中,该算法年化收益8.48%,夏普比率0.6447,最大回撤由买入并持有的34.10%降至18.47%。在QQQ与DIA单次跨资产测试中,其总收益与夏普比率均居首。局限在于换手率高且跨资产稳健性仅限单次验证。
- AI 摘要arXiv cs.AI
TRACE方法解决大模型多轮对话安全问题,35项测试ASR最低
安全对齐大模型常在多轮对话中妥协。TRACE将轨迹风险抑制原理转化为词元级目标:对安全回复,依归因优势加权;对拒绝回复,结合策略替代词构建擦除目标,并以梯度范数惩罚替代保留集。在5个开源模型与7种多轮攻击的35对组合中,该方法均取得最低攻击成功率,且MMLU与HellaSwag的模型能力下降不超过1.23分。代码随附。
- AI 摘要arXiv cs.AI
ProtoFlow结合向量量化与原型先验流匹配用于多变量时序预测
针对多变量时序预测,现有基于扩散的方法推理步数多,而基于VQ的自回归方法存在暴露偏差与训练推理不匹配问题。ProtoFlow框架先通过向量量化自编码将序列映射至离散隐空间,再从已训练码本构建结构化先验,最后用基于DiT的整流流将先验传输至未来隐表征。以学习到的原型先验替代通用高斯噪声初始化,规避了自回归的 rollout 不匹配,加速训练收敛,并在基准数据集上取得更优预测性能与高效推理。