研究揭示模型合并对涌现能力的三种影响机制
论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
针对公共仓库中微调产物常采用的权重算术合并操作，该研究探讨了其对涌现能力（非显式训练目标的行为）的作用。跨越三个模型族与两类独立测试床的实验表明：若双亲均具备某涌现能力，合并会保留该能力，如合并两个失准检查点在全混合区间内保留大部分失准；合并无法创造超可加性的涌现能力，单任务预言机的加权合并达不到联合训练预言机的审计水平；若仅单亲具备该能力，合并对其稀释速度快于伴随的训练能力，多数场景下差距显著。结论指出涌现行为与训练能力的组合方式不同。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载研究背景与核心问题
当前公共仓库中充斥着大量微调检查点与适配器，针对这些产物最普遍的操作便是模型合并，即通过权重算术运算低成本地组装出新的能力。然而，这种操作对涌现能力的影响尚不明确。涌现能力指的是模型产物所表现出、却从未作为显式训练目标的行为。该研究旨在探究模型合并这一常见操作究竟会对这类非目标行为产生何种作用。
双亲共有时合并保留涌现能力
研究在激活预言机与涌现失准模型这两个独立测试床上，跨越三个模型族进行了实验。第一个发现是，当参与合并的两个模型均具备某种涌现能力时，合并操作能够保留该能力。例如，将两个涌现失准的检查点进行合并，在整个混合区间内，合并后的模型依然会保留它们绝大部分的广泛失准特性。
合并无法创造超可加涌现能力
第二个发现指出，模型合并无法创造出相对于其双亲呈超可加性的涌现能力。具体而言，即便对两个单任务预言机进行加权合并，所得到的结果也始终无法触及联合训练预言机所具备的审计能力水平。这意味着合并操作在涌现能力的构建上存在上限，不能通过简单叠加产生超越原模型独立能力之和的新涌现行为。
单亲具备时涌现能力被快速稀释
第三个发现关注仅有一个父模型携带涌现能力的情况。此时，合并操作对该涌现能力的稀释速度，会显著快于对伴随它的训练能力的稀释速度。在大多数实验设置中，这种稀释速度上的差距表现得十分显著。总而言之，模型产物的涌现行为与其训练能力在组合方式上存在根本差异，涌现行为并不遵循训练能力的组合规律。
为什么值得看
阐明模型合并对涌现能力的破坏与不可创造特性，为多模型组装与安全对齐提供关键参考。
微调
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。