OpenAI称挫败推理窃取攻击，研究者指Azure仍可窃取
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
本条选题由第三方线索发现；线索方提供的摘要未被采用，本页内容依据下方信源整理。线索来源：AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载被窃取的是隐藏推理
OpenAI 在一篇博客中说明，它识别并终止了一场针对模型受保护推理过程的协同行动。所谓受保护推理，指模型在给出答案之前内部经历的步骤，普通用户通常只能看到最终结果。在蒸馏这种训练方式里，一个模型会学习另一个模型的完整输出，其中包含更强模型的完整思维链，而不只是它的答案。这些中间步骤之所以有价值，是因为它们可能携带被刻意排除在最终答案之外的信息，也能帮助他人复现某个模型的能力。OpenAI 把这类行为称为对抗性蒸馏，并称此次行动针对的正是这部分内容。
请求量在两天内激增
按照 OpenAI 的说法，相关活动在 7 月 1 日以较低的量开始。到 7 月 24 日和 25 日，请求量升至 16000 次，来自 4000 多个用户，全部依赖一种典型的提取模式。进一步查看后，OpenAI 发现了一个由 15000 多个账号组成的网络，这些账号呈现出相关联的特征，并称已在 7 月 28 日将其全部关闭。博客的脚注补充说明，这些属于尝试性提取，未必都成功。OpenAI 把活动背后的一个核心群体与 Moonshot AI 相关人员联系起来，后者是 Kimi 语言模型的开发方，同时表示无法确定观察到的所有行为者是否都出自同一来源。
加密推理包可被搬移
攻击者采用的手法，是把一段对话中的加密推理内容复制出来，再在另一段对话里要求模型将其解密并写出来。研究者 Joachim Schaeffer 及其团队此前已在论文中展示过这种做法的可行性。AI 服务商通常只以加密数据包的形式把推理内容发回给客户，客户在后续请求中会把这些数据包一并带上。研究者发现，由于这些数据包使用共享密钥加密，它们可以在会话之间、用户之间，甚至来自不同厂商的不同模型之间被搬移。OpenAI 称已阻断这场行动，但研究者表示，同样的手法在 Microsoft Azure 等云平台上持续数周仍然有效，涉及 GPT-6 Astra 等模型的推理内容。
为什么值得看
揭示当前AI厂商对模型核心推理过程的加密防护存在跨平台漏洞，直接影响模型知识产权保护策略。
信源1 家
关键事实
相关 · 模型
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。