arXiv 论文提出 Pair-aware 优化，混合 ZO-FO 提升 LL…
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇投稿到 arXiv cs.AI 的论文比较了纯零阶（ZO）、纯一阶（FO）、ZO→FO 与 FO→ZO 四种越狱优化策略，并提出 ZO-FO 框架：用 ZO 搜索对抗性前缀，再用 FO 精修对应后缀。为协调两个阶段，作者引入 Pair-aware 优化，保留多个前缀候选，有条件地精修后缀，并在生成的「前缀-后缀」对之间做选择。论文还从随机生成视角出发，在优化与评估阶段统一采用随机解码。在恶意指令与恶意环境两类基准上，混合优化比单一优化器更有效，且优化顺序对结果影响明显。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载四种优化顺序的对比
论文关注 LLM 智能体面对对抗输入时被诱导执行攻击者指定恶意行为的问题，即越狱。已有基于优化的攻击主要分两类：依赖梯度信息的一阶（FO）方法和依赖函数值反馈的零阶（ZO）方法。作者指出，这两类方法的互补性以及优化先后顺序此前研究不足，因此系统比较了纯 ZO、纯 FO、ZO→FO、FO→ZO 四种策略，并据此搭建 ZO-FO 框架：先以 ZO 优化探索对抗性前缀，再以 FO 优化精修这些前缀对应的后缀。
前缀-后缀对的协调机制
为让探索与精修两个阶段衔接，作者提出 Pair-aware 优化：不再只保留单一前缀，而是维护多个前缀候选，对满足条件者才进入后缀精修，最后在得到的若干「前缀-后缀」对中做选择。这样做的目的是避免过早锁定某个前缀而错过更优组合，把探索的广度与精修的深度放在同一流程里协调。
随机解码下的评估设定
论文还把智能体越狱放在更一般的随机生成视角下考察：同一段对抗输入可能引出不同的推理轨迹与动作，单次贪心输出无法覆盖这些差异。因此作者在优化和评估两个环节都采用一致的随机解码。实验覆盖恶意指令与恶意环境两类基准，结果显示混合优化相对单一优化器提升了攻击有效性，同时优化顺序对最终表现有实质影响。
为什么值得看
想了解 LLM 智能体越狱攻击中一阶与零阶优化如何组合、顺序为何重要，这篇给出了可复现的策略对比与框架设计。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。