新方法无需微调即可计算任务向量
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载绕开微调的方向计算
这篇论文关注的是权重空间编辑中的任务向量。以往做法要先得到一个微调后的模型，再把它与预训练初始化版本相减，差值才被当作语义方向。问题在于，发现方向这一步本身就依赖微调，成本高，后训练编辑因此难以普及。作者提出 Training-Free Task Vectors（TFTVs），目标是在完全不进行微调的前提下，算出与任务向量性质相近的方向。其做法是把激活层面的引导向量映射为权重空间的秩一编辑，整个过程只用到前向传播的统计量，不涉及梯度更新或参数再训练。论文给出的方法还要求结果满足若干算术性质，使多个编辑能够按加法组合、按减法抵消，从而支持把不同方向叠加使用。
行为放大与抑制
在实验部分，作者把 TFTVs 用于大语言模型的行为控制任务，观察它能否对目标行为做增强、削弱以及组合。结果显示，这类方向可以稳定地放大指定行为，也能把指定行为压下去，多个编辑还能叠加生效；与此同时，模型的通用知识和解题能力没有明显受损。论文还把 TFTVs 与其它编辑方法和引导方法做了对照，报告其在行为特征控制上更强，同时在效用保持上达到更好或至少相当的水平。需要说明的是，这些结论来自论文自身的评测设置，材料没有给出具体的基准名称、模型规模或量化分数，因此无法在这里展开更细的对比数据。
适用边界与可用资源
从方法描述看，TFTVs 的适用范围是后训练阶段的模型行为调整，它不改变训练流程，只在前向统计的基础上生成权重编辑，因此省去了构造微调模型的环节。限制也同样明显：方法依赖把激活引导向量映射到秩一权重编辑这一形式，论文强调的是行为层面的放大、抑制与组合，并未声称覆盖需要重新学习知识的场景。作者希望这项工作能为后训练模型编辑以及更广泛的免训练模型控制提供新方向，并公开了项目网站上的代码，供读者复现与进一步试验。
为什么值得看
大幅降低模型编辑成本，无需微调即可精准控制大模型行为。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。