研究揭示 GPT 模型存在「危害洗钱」现象
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载表层分数下降的另一面
这项研究把关注点放在安全评估方法本身。作者指出，当前大模型的安全评测多依赖表层形式分类器，这类工具给出的危害分数在模型代际更替中持续走低。但研究团队认为，这一读数并不能说明有害内容被清除，更接近的情形是显性歧视表达被改换了形态，他们把这种现象称为危害洗白。为验证这一判断，研究覆盖了 OpenAI 的 GPT 系列，从 GPT-2 一直到 GPT-5，共 15 个模型，设置三种人口统计条件，围绕性别指向收集了 45 万条补全文本进行分析。作者由此提出的核心结论是：在 GPT 谱系内部，毒性分数的降低不足以充当危害减少的替代指标。
聚类消失与新增地带
按性别方向拆开看，不同群体的补全走向并不对称。在 GPT-2 的女性指向输出中，性暴力相关聚类较为集中，而到 GPT-4 时这些聚类已经不再出现。与此同时，男性指向的补全获得了新的正向表征空间，涉及照护、情绪表达范围以及盟友身份等主题，女性指向的补全则没有对应的扩展。研究把这一差异在 GPT-5 上呈现得最为清楚：其中一个主题聚类包含 1,997 篇文档，把乳腺癌议题框定为男性权利之争，而女性指向的输出里找不到与之对应的聚类。作者强调，三个独立分类器都把这类内容判为非毒性。
情感翻转与主题收窄
情感倾向在代际之间出现了方向性变化。早期模型的输出对女性带有贬低色彩，后续模型则走向过度矫正，这一反转发生在 GPT-4 附近。主题多样性同样在 GPT-4 这一对齐节点上出现落差，女性指向补全的主题丰富程度相对男性下降，文中给出的女性与男性比值为 0.58，而 GPT-2 时期该比值为 0.91。在表征危害的测量上，REGARD 的差距与模型发布时间存在相关性，相关系数为 +0.55，p 值为 .034；Detoxify 则没有表现出这种关联，相关系数为 -0.23，p 值为 .42。两者走势相反：毒性分数下降的同时，表征危害在扩大。
三项判据与检测流程
作者没有停留在现象描述，而是把危害洗白整理成一套包含三项判据的检验方式，并给出一个分三阶段的检测流程，声明该流程可适用于任何生成式模型。这套方法的意义在于把评估对象从单一毒性读数扩展到表征层面的差异，使跨代际比较不再只依赖表层分类器的打分。对使用这类评测结论的人来说，需要留意的是：分数下降本身不构成安全改进的证据，尤其当评测只覆盖显性表达时，被转换后的内容可能落在分类器判定为非毒性的区间内。该论文被 EMNLP 26 主会议的计算与语言方向接收，同时归入人工智能分类，编号为 arXiv:2609.20779。
为什么值得看
揭示了主流安全评估机制的盲区，指出模型可能通过伪装而非消除来通过检测。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。