注册

研究揭示临床类别不平衡下不确定性量化失效并提出修正

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇投稿 arXiv cs.AI 的论文指出，选择性预测系统把高置信度病例自动化、把模糊病例交给人类专家，其安全性完全依赖不确定性分数能反映临床模糊程度。在预后任务中，当关注的临床结局属于少数类、类别严重不平衡时，标准不确定性度量不再反映临床模糊性，而变成类别归属的代理指标，系统性地惩罚少数类患者。作者在 56 种合成条件和三个神经退行性疾病队列（多发性硬化、帕金森病、阿尔茨海默病）上验证，其框架在各类轨迹上维持有界且平衡的风险，而全局指标要么使少数类敏感度崩塌，要么以牺牲多数类为代价保护少数类。将 CCR 与标准熵结合在 tau=0.5 时破坏类内单调性，无法保护少数类；CCR 配合阈值感知指标可恢复严格单调性并识别模糊患者。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

选择性预测的安全前提

论文关注临床人工智能中的选择性预测系统：这类系统把高置信度判断自动化，把模糊病例转交人类专家，以此提升安全性。作者指出，这一机制成立的前提是不确定性分数能准确反映临床模糊程度。在预后任务中，当关注的临床结局属于少数类、类别严重不平衡时，该前提不再成立。标准不确定性度量不再刻画与临床对齐的模糊性，转而成为类别归属的代理指标，无论少数类患者个体的预测是否清晰，都会被系统性惩罚。这一偏差被作者描述为一种可修正的结构性缺陷，而非个别模型的偶然误差。

实验设置与对比结果

作者在 56 种合成条件以及三个神经退行性疾病队列上评估，队列分别涉及多发性硬化、帕金森病与阿尔茨海默病，条件跨度从严重类别不平衡到接近平衡。结果显示，其框架在各类轨迹上维持有界且平衡的风险；作为对比，全局指标要么使少数类的敏感度崩塌，要么为保护少数类而牺牲多数类患者。作者进一步检验了 CCR 与不同不确定性度量的组合：CCR 搭配标准熵在 tau=0.5 时无法保护少数类，原因是类内单调性被破坏；CCR 搭配阈值感知指标则恢复严格单调性，能够正确识别模糊患者，并安全地缓解少数类被排除的问题。

对临床部署的建议

论文结论认为，在临床类别不平衡条件下，标准不确定性量化度量的是数据集稀疏程度而非临床模糊性，由此形成系统性的安全错觉。作者建议，在类别不平衡场景中部署选择性预测的临床流程应采用与阈值对齐的不确定性度量，并进行按类别分层的评估，以降低不同类别之间的风险失衡，支撑更安全的选择性预测。这一建议针对的是评估与度量层面的做法，而非具体产品。

为什么值得看

临床 AI 的选择性预测在类别不平衡下可能产生虚假安全感，论文给出可修正的结构性缺陷与评估建议。

RAG量化安全论文

信源1 家

  1. [1]arXiv cs.AI一手信源When uncertainty quantification fails: structural vulnerabilities and corrections for selective prediction under clinical class imbalance

关键事实

  • 论文投稿于 arXiv cs.AI，作者包括 Walter Endrizzi、Flavio Ragni、Raffaele Marchesi、Stefano Bovo、Monica Moroni、Giuseppe Jurman、Venet …[1]

  • 研究覆盖 56 种合成条件与多发性硬化、帕金森病、阿尔茨海默病三个队列，跨度从严重类别不平衡到接近平衡[1]

  • 标准不确定性度量在类别不平衡下成为类别归属的代理，系统性惩罚少数类患者[1]

  • CCR 与标准熵结合在 tau=0.5 时破坏类内单调性，无法保护少数类[1]

  • CCR 配合阈值感知指标可恢复严格单调性，正确识别模糊患者并缓解少数类被排除[1]

相关 · 论文

OpenAI 自 GPT-5.6 起部署激活分类器监控模型输出

11月3日 周二·AI 78

OpenAI 推出 LifeVal 基准，衡量 AI 完成日常事务的能力

11月2日 周一·AI 72

清华姚期智团队提出代数世界模型AWM，ARC-AGI-3全关卡通关

11月1日 周日·AI 78

新芯航途发布X7 Ultra芯片，700TOPS，用Momenta世界模型做评测

10月31日 周六·AI 72

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论