arXiv 论文提出 VIAS 激活引导方法，提升多价值观对齐合规率

11月3日周二 01:53论文AI 评分 68/100arXiv cs.AI

AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

arXiv 刊出一篇论文，提出 Value-Isolating Activation Steering（VIAS）方法，用于让大语言模型智能体在生成时遵循组织价值观。该方法不修改模型权重，而是在生成过程中向内部激活加入向量。研究指出，用「符合全部价值观」与「违反价值观」的响应做对比，得到的向量在不同价值观之间几乎相同，只反映笼统的合规信号，难以组合使用。VIAS 改为在同一场景下对比两份提示：一份列出全部相关价值观，另一份省略单个目标价值观；只有当目标价值观由合规变为不合规、且其余价值观仍达到最低合规水平时，才保留这一对样本。在 PROTECT 职场合规数据集上，VIAS 降低了各价值观向量之间的重叠，但仅靠它无法独立控制每个价值观；与提示结合后，Qwen2.5-7B、Mistral-7B、Phi-3.5-mini 在全部标注价值观上均合规的场景占比分别为 69.6%、75.2%、72.…

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

方法要解决的问题

组织在部署大语言模型智能体时，要求其遵循组织自身的价值观。论文考察的是激活引导这一手段：在生成过程中向模型内部激活加入向量，不改变模型权重，看它能否比单纯使用提示带来更好的合规表现。由于实际场景往往同时涉及多个价值观，研究聚焦多价值观引导。构造向量的直观做法，是把遵循场景全部相关价值观的响应与违反这些价值观的响应做对比；但这样得到的向量在不同价值观之间几乎一样，捕捉到的是笼统的合规信号，而非各个价值观本身，因此在需要组合多个价值观时作用受限。

VIAS 的构造方式

VIAS 的做法是在同一场景下使用两份提示做对比：一份列出全部相关价值观，另一份省略单个目标价值观。只有当目标价值观从合规变为不合规、并且两份响应在其余价值观上仍达到最低合规水平时，这一对样本才会被保留。这样构造出的向量更贴近单个价值观，而不是笼统的合规倾向。评测使用 PROTECT 职场合规数据集，其中每个场景都按 21 类价值观的分类体系标注了相关项。

实测结果与边界

实验显示，VIAS 降低了不同价值观向量之间的重叠，使其更适合多价值观引导；但论文同时指出，仅靠这一点并不能实现对每个价值观的独立控制。将 VIAS 与提示结合后，场景中全部标注价值观均合规的比例在 Qwen2.5-7B 上为 69.6%，Mistral-7B 为 75.2%，Phi-3.5-mini 为 72.6%，三个模型都高于只用提示的结果。对需要让智能体符合内部规范的组织而言，这提供了一条不重训权重、在推理阶段施加约束的路径，但覆盖比例尚未达到全覆盖。

为什么值得看

想在不重训模型的前提下让智能体遵守企业价值观的团队，可关注这一激活引导方法与三个模型的实测合规率。

MistralQwen智能体对齐论文

信源1 家

[1]arXiv cs.AI一手信源VIAS: Value-Isolating Activation Steering for Multi-Value Alignment and Compliance for Organisations

关键事实

论文提出 VIAS，通过对比「列出全部相关价值观」与「省略单个目标价值观」两份提示下的响应来构造价值观向量[1]
只有当目标价值观由合规变为不合规、且其余价值观仍满足最低合规水平时，才保留该样本对[1]
在 PROTECT 职场合规数据集上，每个场景标注了 21 类价值观中的相关项[1]
与提示结合后，全部标注价值观均合规的场景占比为 Qwen2.5-7B 69.6%、Mistral-7B 75.2%、Phi-3.5-mini 72.6%[1]
VIAS 降低了价值观向量之间的重叠，但仅靠它无法实现对每个价值观的独立控制[1]

arXiv 论文提出 VIAS 激活引导方法，提升多价值观对齐合规率

全文梳理

方法要解决的问题

VIAS 的构造方式

实测结果与边界

为什么值得看

信源1 家

关键事实

相关 · 论文

Axiom Math 融资 16 亿美元，为 AI 数学构建可验证基础

BEAKER：面向自动驾驶化学实验室的具身智能基准发布

FrontierPhysics 基准发布：56 项任务考察智能体端到端物理研究

HALO 人形机器人系统：仿真训练实现零样本真机迁移，成功率 91%