Baseten 联合 Hugging Face 等共建开源模型安全标准
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载三方共建评测监测设施
Baseten 在其 Base Labs 研究部门之外推出一项新的安全基础设施标准，合作方为 Hugging Face 与 Goodfire AI。三方要搭建的是面向开放权重模型的安全评测与监测设施，而非单一工具或一次性报告。从分工看，Baseten 提供发布渠道与研究臂，Hugging Face 是开放模型的主要托管平台，Goodfire AI 参与其中，共同构成从模型托管到评测监测的链路。这一组合的意义在于，安全能力被放进模型分发环节，而不是留给下游使用者自行处理。材料未披露该标准的具体条款、评测指标与上线时间，也未说明三方各自投入的资源规模，因此目前能确认的只是合作框架与目标方向。
六千余个模型被去除防护
这一动作的直接指向是开放权重模型的安全争议。所谓 abliteration，是一种通过移除模型内置防护机制来改变其行为的技术，且使用范围在扩大。Hugging Face 作为开源 AI 模型的托管方，目前列出的被 abliterated 的模型超过 6,000 个。这个数字说明问题不在个别案例，而是已经形成可观的存量：防护被剥离后的模型可以被重新分发、下载和使用，原有发布方设定的限制随之失效。材料没有给出这 6,000 余个模型的来源分布、被修改的具体防护类型，也没有说明其中有多少仍在被活跃使用，因此只能把它理解为托管平台上可见的规模量级，而非全部风险面。
托管环节前置安全能力
与依赖模型发布方自律或事后审查的既有做法相比，这套设施把评测与监测放在托管与分发环节，试图在模型被获取之前形成一道可执行的检查。对开放权重模型而言，权重一旦公开就难以收回，事后补救的空间有限，因此把安全能力前移到平台侧，是这一合作在逻辑上的差异点。适用范围上，材料明确指向开放权重模型，不涉及闭源模型的评测流程；限制也很清楚，abliteration 针对的是模型内置防护，而评测监测能否覆盖已被改造并重新上传的版本，材料未作说明。对读者来说，这意味着今后在托管平台上获取开放权重模型时，可能面对一套来自平台与研究机构共同搭建的评测与监测安排，但具体以何种形式呈现、对下载行为有何影响，目前尚无细节。
为什么值得看
针对开源模型被恶意移除安全防护的泛滥问题，提出基础设施层面的解决方案。
信源1 家
关键事实
相关 · 行业
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。