Anthropic发报告警告智谱GLM-5.3网络安全能力过强且易去护栏

模型AI 评分 85/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

Anthropic发布报告指出智谱GLM-5.3具备极强漏洞利用能力,在ExploitBench测试中成功50次,接近Claude Mythos Preview的56次;被CAISI评为距美前沿约4个月的最强开源权重模型。其安全护栏易被绕过或拆除,用abliteration技术耗费约4400美元算力即可将拒答率降至约3%,能力几乎无损。Anthropic呼吁对强模型开展独立安全测试,并扩大防御者受信访问。智谱此前已推迟两周开源权重并限制敏感能力访问。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

两份成绩单的差距

在ExploitBench这项测试里,GLM-5.3发起了410次尝试,其中50次取得成果。作为对照,Claude Mythos Preview在同一测试中的成功次数为56次。两个数字放在一起看,差距并不悬殊,但Anthropic在报告中强调的重点并不只是成功率本身,而是这款开源权重模型已经具备持续尝试并突破防线的能力。报告还引用了美国国家标准与技术研究院下属CAISI在9月17日给出的一份评估,该评估认为GLM-5.3是当前网络能力最强的开源权重模型,综合水平与美国前沿模型之间大约相差四个月。这一判断为后续的实测提供了参照坐标:它不是实验室里的理论推演,而是被放在与前沿闭源模型同一标尺上衡量的结果。

从发现漏洞到攻击链

Anthropic的研究人员用GLM-5.3做了一次更贴近真实场景的验证。他们在浏览器中找到了此前未知的漏洞,并在隔离环境中搭建出一条完整的攻击链,最终能够读取测试电脑上的文件。这条链路的意义在于,它覆盖了从发现缺陷到实际利用的全过程,而不是停留在单点检测。五个月前,Anthropic曾发布Claude Mythos Preview,称其为首个能够自主完成端到端漏洞利用的AI模型,但该模型并未对外公开发布,只通过Project Glasswing向经过审核的防御方开放。据称这一项目至今已找出超过一万个漏洞。把两件事并排看,GLM-5.3所展示的能力,正落在同一类任务区间内。

八小时与二十美元

在Chrome漏洞CVE-2026-11645的测试中,研究人员换用了GLM-5.3-Flash。人工处理这一漏洞大约需要20分钟,而模型自行运行约8小时才完成。它最终在ARM64平台上搭建出稳定的攻击链,并绕过了PAC防护机制。按智谱API的价格估算,这次模型调用的费用为20.40美元。这组数字勾勒出当前能力与成本的现实边界:时间开销远高于人工,但费用被压到很低,且过程可以自动推进。对防御方而言,这意味着攻击侧的门槛在下降;对使用方而言,则意味着这类模型在长周期、可并行的安全任务上已经具备实际可用性,同时仍需接受耗时与稳定性的限制。

为什么值得看

头部厂商因开源模型安全能力逼近闭源前沿而发警告,凸显开源与闭源在安全防护机制上的根本差异。

Anthropic智谱Claude安全算力

信源1 家

  1. [1]量子位Anthropic,你是来给智谱打广告的吧!

关键事实

  • ExploitBench测试中尝试410次,GLM-5.3成功50次,Claude Mythos Preview成功56次[1]

  • CAISI评估GLM-5.3为迄今网络能力最强开源权重模型,距美前沿约4个月[1]

  • 用abliteration技术耗约4400美元算力拆护栏,GLM-5.3拒答率可从90%以上降至约3%[1]

  • Anthropic呼吁对足够强的AI模型开展独立安全测试,并尽快将前沿模型开放给防御者[1]

  • 智谱8月发布GLM-5.3时推迟两周开源权重,敏感能力仅通过受信访问计划开放[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。