研究提出针对拉长回复型 LLM 木马的防御方法
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇 arXiv 论文研究了一种新的数据投毒攻击：在被指令微调的大模型中植入木马，当提示中出现触发条件时，模型会输出更长的回复，从而抬高用户的 token 成本。作者指出，部分前沿模型服务商的回复 token 单价是提示 token 的五倍，另一些服务商则对提示 token 提供预填充折扣，因此按 token 计费的成本管理已成问题。论文展示了木马可被语义相近的指令触发，并给出针对该攻击的防御方案。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载攻击针对的是账单
论文把 token 成本管理作为切入点：不同服务商的计价方式并不一致，有的对回复 token 收取远高于提示 token 的费用，有的对提示部分给出预填充折扣。在这种结构下，回复变长会直接放大用户支出。作者设计的攻击并不窃取数据，也不改变答案正确性，而是让模型在特定条件下多说，把成本转移到使用者一侧。
触发条件与隐蔽性
材料显示，这种木马可以做到相当隐蔽：它不必依赖某个显眼的固定字符串，语义相近的指令同样能把它激活。论文以经过指令微调的模型为对象演示了这一效果，说明触发面可能覆盖一类表达方式，而非单一措辞。这也意味着常规的输入过滤难以完全拦住它。
防御与适用边界
作者的核心贡献是给出针对该投毒攻击的防御手段，但摘要未披露防御的具体机制、检测指标或实验规模。材料也没有说明该方法适用于哪些模型规模、是否需要访问训练数据或权重。对使用第三方微调模型或自建指令微调流程的团队而言，这条工作的意义在于提示：成本异常也可能来自模型被投毒，而不只是提示写得啰嗦。
为什么值得看
按 token 计费下，回复被悄悄拉长会直接转化为账单支出，做指令微调与模型供应链安全的团队值得关注。
大模型微调论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。