注册

论文提出 oracle 引导微调，改进生成式 ASR 后编辑

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 oracle 引导微调方法，用于生成式 ASR 后编辑。做法是把 N-best 列表整理成三类监督数据：参考结果在列表中但不在首位的样本用于教模型选择，首位已正确的样本作为正则项抑制多余改写，参考结果不在列表中的样本作为难负例压制幻觉。作者称这种监督比随机子集微调更有效，能学到选择与改写兼顾的策略；在专有数据集上约 3B 参数起增益最明显，而在 CommonVoice 上结论不够明确，作者认为公开朗读文本可能与 LLM 预训练数据重叠，掩盖了真实的后编辑增益。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

方法要解决的问题

论文关注的是用大语言模型对 ASR 输出做后编辑：借助语言上下文比较多条候选转写，必要时重写文本，从而在不重新训练识别器的情况下降低词错误率。但仅靠提示词做纠错并不稳定：当首位候选本来就正确时容易过度改写，当参考结果根本不在候选列表中时又容易产生幻觉，而且往往需要非常大的模型才能奏效。作者把这一现象归因于提示方式缺乏对「何时该改、何时不该改」的明确约束。

三类监督池的构造

作者提出的 oracle 引导微调，把 N-best 列表转化为监督信号，具体分成三个经过筛选的数据池。第一类是 corrections，即参考结果出现在列表中但不在首位，用来教模型做选择；第二类是 regularizers，即首位已经正确的样本，用来抑制不必要的改写；第三类是 hard negatives，即参考结果不在列表中的样本，用来压制幻觉。论文称，用这批数据微调，比随机抽取子集微调能提供更有效的监督，学到的是一种选择与改写混合的策略。

结果与数据集分歧

实验显示，在专有数据集上，从约 3B 参数规模开始增益最为清晰；但在 CommonVoice 上结论不够明确。作者对这一分歧给出解释：公开的朗读语音文本可能与 LLM 的预训练数据存在重叠，从而掩盖了后编辑带来的真实增益。论文共 7 页，含 4 张图、2 张表，提交时间为 2026 年 10 月 10 日，编号 arXiv:2610.15056。

为什么值得看

把 N-best 列表转成三类监督信号来约束 LLM 后编辑，思路具体，且给出了公开集与专有集结果分歧的解释。

微调幻觉论文数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Select or Rewrite: Oracle-Guided Fine-Tuning for Generative ASR Post-Editing from N-Best Hypotheses

关键事实

  • 论文标题为 Select or Rewrite: Oracle-Guided Fine-Tuning for Generative ASR Post-Editing from N-Best Hypotheses[1]

  • 方法把 N-best 列表转成三类监督池：corrections、regularizers、hard negatives[1]

  • 在专有数据集上约 3B 参数起增益最明显，CommonVoice 上结果不够明确[1]

  • 作者认为公开朗读文本可能与 LLM 预训练重叠，掩盖真实后编辑增益[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论