泰语 Klon Pad 诗歌生成器单样本解码,三项指标接近人类水平

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究者提出一种泰语 Klon Pad 诗歌生成器,以 WangchanBERTa 初始化的掩码语言模型为基础,在固定画布上分声音层与词层两层建模:声音层对押韵、声调和音节数施加硬掩码,词层以整词为单位避免切词。解码逐格提交,温度设为 0.4,每个主题只采样一次,不做筛选、重排或修复。在 78 个开发阶段未使用的留出主题上,由冻结的 LLM 评判器独立运行三次,与主题所依据的人类诗节在同一池中比较,生成诗节在形式、四行词汇干净度与主题契合三项同时通过的比例为 70.5%,人类为 76.9%,相差 -6.4 个百分点,95% 置信区间 [-19.2, +6.4]。干净度与人类持平(85.9% 对 87.2%),形式与干净度两项合计略高于人类(+3.8 个百分点),差距主要在主题契合(84.6% 对 91.0%)。温度偏低很关键,温度升高后同一模型通过率明显下降,因为词汇错误多落在模型的低概率…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

两层画布与硬掩码约束

该生成器把泰语 Klon Pad 诗节建模为固定画布上的填空任务,底层是 WangchanBERTa 初始化的掩码语言模型。画布分两层:声音层以实际发音的音节为单位,押韵、声调和音节数作为硬掩码强制满足;词层以完整单词为单位,避免把词切成书写片段。解码时一次提交一个格子,采样温度固定为 0.4,每个主题只抽一个样本,不进行候选筛选、重排或事后修复。这种设计把格律约束直接写进解码过程,而不是留给生成后再修正。

留出主题上的三项通过率

评测使用 78 个开发阶段从未用过的主题,评判由冻结的 LLM 评判器独立运行三次完成,生成诗节与主题所依据的人类诗节放在同一池中比较。三项指标同时通过的比例为 70.5%,人类为 76.9%,差距 -6.4 个百分点,95% 置信区间 [-19.2, +6.4]。分项看,词汇干净度与人类基本持平,为 85.9% 对 87.2%;形式与干净度两项合计通过率略高于人类,为 +3.8 个百分点,区间 [-6.4, +14.1];差距主要出现在主题契合,84.6% 对 91.0%,且这些主题本身是从人类诗节写出的。

温度与词汇多样性的取舍

低温设置对结果影响明显:同一模型在更高温度下通过同样主题的比例显著下降。作者指出,词汇错误多位于模型的低概率选择中,锐化采样分布能消除其中大部分,但代价是词汇量收窄,稀有词占比降至 7.5%,而人类诗节为 16.5%,多样性也随之下降。预先登记的目标是三项指标与人类差距在 5 个百分点以内,实际差 1.4 个百分点,未达成。

与公开基线的对比

作者称 KlonSuphap-LM 是已知唯一的公开 Klon Pad 生成器。在单独池中与该方法及人类诗节一起评判时,KlonSuphap-LM 在 78 个留出主题上无一通过,形式通过率 19.2%,干净度 3.8%。这一对比给出了该方法相对现有公开方案的位置,但两者评判池不同,作者在文中分别列出结果。

为什么值得看

用硬掩码约束押韵与音节、低温单样本解码,在泰语格律诗上把形式与词汇干净度做到接近人类,并给出与公开基线 KlonSup…

信源1 家

  1. [1]arXiv cs.AI一手信源Single-Sample Decoding of a Two-Layer Sound-Word Canvas Model for Thai Klon Pad

关键事实

  • 生成器以 WangchanBERTa 初始化,画布分声音层与词层,声音层对押韵、声调和音节数施加硬掩码,词层以整词为单位。[1]

  • 解码逐格提交,温度 0.4,每个主题只采样一次,不做筛选、重排或修复。[1]

  • 在 78 个留出主题上,生成诗节三项同时通过率 70.5%,人类 76.9%,相差 -6.4 个百分点,95% 置信区间 [-19.2, +6.4]。[1]

  • 干净度与人类持平(85.9% 对 87.2%),主题契合为 84.6% 对 91.0%。[1]

  • 公开生成器 KlonSuphap-LM 在 78 个留出主题上无一通过,形式 19.2%,干净度 3.8%。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。