研究揭示世界模型存在后门攻击风险
论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
研究指出预训练世界模型复用存在供应链后门风险。攻击者仅需控制释放的检查点，无需显式触发规则，即可通过重塑潜在区域动力学，诱导下游控制器在触发器存在时自主重定向至目标动作。测试显示，攻击在最强设置下可劫持 100% 的触发步数，且模型在干净数据上仍能保持约 75% 的成功率，常规诊断难以发现。
为什么值得看
揭示世界模型复用中的新型安全漏洞，影响基于模型的控制算法部署。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。