成对差异学习分类器引入不确定性量化方法

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇发表于《Machine Learning》115卷12期的论文为分类任务提出成对差异学习(PDL)版本,并配套元学习技术。PDL不按常规学习从实例到结果的映射,而是学习接收两个实例、预测其结果差异的函数,查询实例的预测由每个训练样本推导后取平均。作者针对PDL分类器预测的不确定性表示与量化问题,基于总不确定性分解为偶然与认知两部分的近期工作,按基学习器表示不确定性的方式提出多种扩展度量,并在大规模实证研究中同时考察预测准确率与不确定性感知能力。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

PDL 的基本思路

常规做法是学习从实例到结果的映射,成对差异学习(PDL)换了一条路径:学习一个以两个实例为输入、输出二者结果差异的函数。得到这样的函数后,对某个查询实例的预测不再来自单一模型输出,而是从每一个训练样本出发分别推导,再把这些结果平均起来。论文为分类任务给出了这一框架的具体版本,并设计了相应的元学习技术来支撑它。这种「以训练样本为参照、逐对比较再聚合」的机制,是后续讨论不确定性如何表示的前提。

不确定性如何拆解

论文关注的是如何忠实表示并量化 PDL 分类器预测的不确定性。作者借助近期关于把总不确定性分解为偶然成分与认知成分的工作,提出若干种把相应度量扩展到 PDL 情形的做法。具体采用哪种扩展,取决于底层基学习器以何种方式、在多大程度上表示不确定性。也就是说,不确定性度量的形式并非唯一,而是随基学习器的表示能力而变,这构成了论文方法层面的主要贡献之一。

实证考察的范围

作者开展了大规模实证研究,同时观察两件事:一是 PDL 分类器的预测准确率,二是它的不确定性感知能力。前者衡量分类本身做得好不好,后者衡量模型给出的不确定性是否与真实错误情况相称。论文共 32 页,是发表在《Machine Learning》115 卷 12 期上的文章的预印本版本,即同行评审前提交的稿件。

为什么值得看

把不确定性拆成偶然与认知两类并适配到成对差异学习,对需要可信度估计的分类场景有直接参考价值。

量化论文

信源1 家

  1. [1]arXiv cs.AI一手信源Uncertainty Quantification in Pairwise Difference Learning for Classification

关键事实

  • 论文提出面向分类任务的成对差异学习(PDL)版本及配套元学习技术[1]

  • PDL学习接收两个实例并预测其结果差异的函数,查询实例预测由各训练样本推导后取平均[1]

  • 作者基于总不确定性分解为偶然与认知成分的工作,提出多种扩展度量,取决于基学习器如何表示不确定性[1]

  • 论文在大型实证研究中同时分析预测准确率与不确定性感知[1]

  • 该文发表于《Machine Learning》115卷12期,共32页[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。