论文提出 Scenario-Actor:按交际场景推断温度调节解码

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿至 AACL-IJCNLP 2026 主会议的论文提出 Scenario-Actor 框架,用于选择大语言模型的采样温度。现有主流做法多依赖固定的启发式全局设定,或按上下文、token 级别做校准,缺少对交际场景的几何化可解释表示。该框架从 Transformer 隐藏状态中提取与场景相关的结构,再由场景嵌入决定温度。在 Llama-3.1-8B-Instruct 上的实验显示,它在交互式社交场景的目标完成、开放式指令跟随上取得提升,多轮对话表现与多个基线相当。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

温度调节的老问题

大语言模型通常靠采样温度控制输出的随机程度。论文指出,目前主流的温度选择方式有两类:一类是固定的、启发式的全局设定,另一类是上下文级或 token 级的校准。这两类做法都没有把「交际场景」本身表示成一种具有几何可解释性的结构,因此温度与场景之间缺少显式的对应关系。论文把这一点作为切入点,试图让解码阶段的随机性随场景特征变化,而不是一刀切。

场景嵌入怎么定温度

Scenario-Actor 的做法是从 Transformer 的隐藏状态中抽取与场景相关的结构,再据此得到场景嵌入,也就是对交际情境的一种结构化几何表示,最后由这个嵌入来确定温度。作者把该框架描述为简单且可解释。与固定全局设定、上下文校准、token 级校准这些基线相比,它不依赖人工设定的启发式规则,而是把场景推断的结果直接接到解码参数上。

在 Llama 上的实验结果

实验使用 Llama-3.1-8B-Instruct。结果显示,在交互式社交场景中,Scenario-Actor 的目标完成表现较强;在开放式指令跟随任务上有明显提升;在多轮对话上则与多个基线相比具有竞争力。论文共 17 页、7 张图,被 AACL-IJCNLP 2026 主会议接收,编号 arXiv:2610.18820,提交日期为 2026 年 10 月 13 日。摘要未给出具体提升幅度、基线清单与消融细节。

为什么值得看

温度选择长期靠经验设定,这篇给出可解释的场景化替代方案,并附开源模型上的对比结果。

Llama论文

信源1 家

  1. [1]arXiv cs.AI一手信源Read the Room Before Your Model Generates

关键事实

  • 论文标题为 Read the Room Before Your Model Generates,作者为 Muyao Kong、Zhihao Lin[1]

  • 提出 Scenario-Actor 温度选择框架,从 Transformer 隐藏状态提取场景相关结构,由场景嵌入决定温度[1]

  • 实验在 Llama-3.1-8B-Instruct 上进行,交互式社交场景目标完成与开放式指令跟随有提升,多轮对话与多个基线相当[1]

  • 论文被 AACL-IJCNLP 2026 主会议接收,共 17 页、7 张图[1]

  • 提交时间为 2026 年 10 月 13 日,编号 arXiv:2610.18820[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。