Snyk 发布 VulnBench 2.0,对比 SAST 与 AI 安全代理…
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载基准如何定义检出
VulnBench 2.0 的漏洞集来自 20 个用 Go、JavaScript/TypeScript、Python 和 Java 写的开源 Web 应用,共 108 个由人工整理、且攻击者能够触达的漏洞,其中 62 个跨越不止一个文件。判定标准较严:一个发现必须同时指出攻击者可控的输入来源和危险汇聚点,且两者各自落在两行范围内,才算命中。这一设计把「报出可疑位置」和「真正定位漏洞链路」区分开,也解释了为何行级定位能力会成为不同配置之间的分水岭。
九种配置的盲测结果
评测在同一盲测协议下覆盖九种产品化配置,包括 Snyk Code 静态分析器、Claude Code 的 /security-review(三种模型与 effort 组合,其中一种接入 Snyk MCP server)、配 GPT-5.6 Luna、Terra、Sol 的 Codex Security,以及带两种模型后端的 DeepSec 扫描器。Snyk Code 的宏平均召回为 82.4%,即 108 个中命中 89 个;Claude Code 在 Opus 5、xhigh effort 下为 79.3%,命中 85 个。两者对 28 个漏洞给出不同结论,分布为 16 比 12,这一差距不足以判定谁更强。单独任一引擎都不够:合并后覆盖 101 个,正好等于七种可比配置全部加总的上限。此外,AI 配置还报出至少 7 个参考集未收录、Snyk Code 也未报告的真实漏洞。
harness 策略影响检出
结果显示出 AI 引擎漏掉什么,与其说取决于模型,不如说同样取决于外层的 harness。去掉 Claude Code 内置的审查策略后,同一个模型在策略排除或限制的漏洞类别中只匹配到 20 个里的 9 个,而带策略时为 16 个;该补充运行覆盖 20 个应用中的 19 个。定位粒度也有差异:Codex Security 配 GPT-5.6 Sol 在文件级找到 80 个漏洞,到行级只剩 34 个。DeepSec 不依赖模型的文件筛选只保留了 108 条漏洞流中的 56 条所涉文件,意味着后续环节从一开始就缺少部分输入。覆盖率与成本之间只存在松散关联。harness、fixtures、参考集与全部运行数据均已公开,论文共 44 页、21 张图、7 张表。
为什么值得看
用同一盲测协议量化确定性 SAST 与 AI 安全代理各自漏掉什么,并指出 harness 策略对结果的影响不亚于模型…
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
