注册

TUPLE-Bench 发布：类型化决策模型输出字段泄露细粒度原因

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

研究者提出 TUPLE-Bench，用成对的合成案例评测类型化决策模型的隐私与效用权衡：接收方本应只获知粗粒度操作类别，却可能从输出中反推细粒度原因。在九个模型上，要求隐藏原因的指令基本无效，91.88%-99.93% 的回复仍通过直接选择或残余分数暴露原因；即便把原因从候选集中剔除，完整输出在留出案例上的恢复率为 62.85%-75.35%，仅用所选类别时为 51.04%-57.64%（随机为 50%）。完整输出在全部 27 组模型-任务对比中降低了平均下游成本，但置信度字段会增加泄露且未必降本。作者另提出工作流约束的隐私量化方法 WCPQ，在保持指定下游工作流行为与成本的同时减少秘密恢复。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

评测设计与泄露现象

TUPLE-Bench 关注的是类型化决策模型的输出接口：这类模型除了给出选中的类别，还会返回每个候选的概率，有时再附一个独立的置信度分数。这些字段服务于下游决策，却可能让接收方看到超出其授权范围的信息。基准用成对的合成案例构造场景，接收方被允许知道粗粒度的操作类别，但不该知道背后的细粒度原因。在九个模型上的结果显示，仅靠指令要求模型不透露原因几乎不起作用，绝大多数回复仍能从直接选择或残余分数中读出原因，比例落在 91.88% 到 99.93% 之间。

候选集剔除后的恢复率

研究进一步测试了更严格的设定：把原因从候选集合中移除，看接收方还能否在留出案例上还原它。此时完整输出带来的恢复率为 62.85% 至 75.35%，而只使用被选中的类别时恢复率为 51.04% 至 57.64%，随机猜测的基线是 50%。这说明概率分布等附加字段本身携带了可被利用的信息，即使答案不在选项里。与此同时，完整输出在全部 27 组模型-任务对比中都降低了平均下游成本，体现出效用一侧的收益；但置信度字段的表现不同，它增加了泄露，却没有稳定地带来成本下降。

WCPQ 缓解方法与审计建议

针对上述权衡，作者提出工作流约束的隐私量化（WCPQ），目标是在保持指定下游工作流行为与成本的前提下，减少秘密被恢复的程度。这一方法把隐私处理绑定到具体工作流，而不是笼统地削减输出信息。基于评测结果，作者给出的结论是决策接口需要逐字段、逐工作流地审计：哪些字段真正被下游使用，哪些字段只是顺带暴露了额外信息，应当分别评估。论文编号为 arXiv:2610.23668，归入密码学与安全（cs.CR）及人工智能（cs.AI）分类，并提供公开网站。

为什么值得看

揭示决策接口逐字段审计的必要性：多输出的概率与置信度字段可能成为泄露通道，并给出可用的缓解方法。

量化

信源1 家

  1. [1]arXiv cs.AI一手信源TUPLE-Bench: Evaluating and Mitigating Privacy-Utility Trade-offs in Typed Decision Models

关键事实

  • TUPLE-Bench 由成对合成案例构成，接收方可获知粗粒度操作类别但不应获知细粒度原因[1]

  • 在九个模型上，91.88%-99.93% 的回复通过直接选择或残余分数泄露原因[1]

  • 原因被排除出候选集后，完整输出在留出案例上的恢复率为 62.85%-75.35%，仅用所选类别为 51.04%-57.64%，随机为 50%[1]

  • 完整输出在全部 27 组模型-任务对比中降低平均下游成本，置信度字段则增加泄露且未稳定降本[1]

  • 作者提出工作流约束的隐私量化 WCPQ，在保持指定工作流行为与成本的同时减少秘密恢复[1]

相关 · 论文

研究者提出用「逆向博弈论」约束AI智能体行为

11月3日 周二·AI 58

OpenAI 研究：智能体安全评测与生产行为存在差距

11月3日 周二·AI 78

北大孙仲联合IBM等发布综述，重新定义现代模拟计算

11月3日 周二·AI 72

OpenAI 自 GPT-5.6 起部署激活分类器监控模型输出

11月3日 周二·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论