arXiv 论文提出规格引导解码框架，让 LLM 输出满足形式化规格
论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
这篇论文指出，现有约束解码主要只能约束语法，无法直接保证输出满足形式化规格。作者提出一种神经符号的规格引导解码框架，把 LLM 生成与符号推理结合：每一步都过滤掉无法再扩展成合规输出的取值。框架给出两个变体：前向变体在构造上保证满足规格；回溯变体在早期可行选择导致下游只剩模型自判不合适取值时，回头修改早先选择。该框架与模型无关、无需重训，建立在已有语法约束解码机制上。配置与约束求解基准实验显示，前向变体稳定产出合规输出，相比拒绝采样减少了重复的 LLM 推理，只带来少量符号推理开销；回溯变体进一步减少了模型被迫选择自判不合适取值的情况。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载语法约束之外的缺口
具体做法是在解码的每一步细化文法：把那些无法再延伸成满足规格的输出的候选取值剔除掉，使搜索空间随生成推进逐步收窄。这一机制建立在已有的语法约束解码之上，属于对现有解码流程的改造，而非另起一套生成方式。
前向与回溯两种变体
框架给出两个变体。前向变体只向前推进，靠构造方式保证最终输出满足规格；回溯变体则允许在发现下游只剩模型自己判定不合适的取值时，回头修改此前看似可行的选择。作者称回溯变体因此减少了模型被迫选择自判不合适取值的情形，提升了输出与模型对提示词理解之间的一致性。
实验表现与适用范围
在配置与约束求解两类基准上，前向变体稳定产出符合规格的输出，与拒绝采样相比减少了重复的 LLM 推理次数，代价是少量符号推理开销。框架与具体模型无关、不需要重新训练，可直接叠加在现有语法约束解码机制上，这是它相对重训方案的主要差别。
为什么值得看
关注结构化输出与约束解码的从业者可看：它把约束从语法层推进到形式化规格层，且无需重训模型。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。