ALPS:分层规划让LLM模拟学生保持长期行为一致

论文AI 评分 62/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 ALPS(Align Long-term by Planning Short-term),一种以可观测、环境相关的行为画像为条件的分层模拟学生。它不再逐回合独立选动作,而是在规划与画像一致的任务片段、生成对应动作之间交替。作者在探究式物理游戏和药房模拟两个环境中,用真实学生轨迹或教师 LLM 提供监督,比较 ICL、SFT、RAFT 及 SFT 后接 RAFT 的组合。结果显示 ALPS 在数据充足与稀缺两种设定下均优于逐回合生成,稀缺监督下密度与 LLM 评判通过率可比,但覆盖率仍偏低。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

逐回合生成的漂移问题

论文关注开放-ended 学习环境中的模拟学生。现有基于 LLM 的模拟器多面向较短、以语言为中心的交互;而在开放式环境里,学生行为体现在长程交互轨迹的整体模式上,逐回合提示容易偏离预先指定的行为画像。ALPS 的出发点是把长期一致性拆成短期规划来处理:模型不再每一步独立选择动作,而是先规划出与画像相符的任务片段,再生成该片段内的具体动作,如此交替推进。

两种监督与四类训练方式

作者在数据充足与数据稀缺两种设定下评估 ALPS,监督信号分别来自真实学生轨迹或教师 LLM。训练与对比方式包括上下文学习(ICL)、监督微调(SFT)、奖励排序微调(RAFT),以及先 SFT 再 RAFT 的串行组合。评测环境为探究式物理游戏和药房模拟,指标包括对照留出真实数据的行为密度与覆盖率,以及由与人类对齐的 LLM 评判给出的画像一致性通过率。

结果与局限

两种设定下,ALPS 均稳定优于逐回合生成;在监督稀缺时,其行为密度与评判通过率与充足监督时相当,但覆盖率仍然偏低。作者据此认为,分层规划能在长交互跨度上实现忠实、贴合画像的模拟,即便真实学生数据有限。论文共 33 页、3 幅图、20 张表,归入 cs.AI、cs.CL 与 cs.CY。

为什么值得看

做 AI 教育、学习平台仿真或长程智能体的人可关注:分层规划如何抑制长程交互中的画像漂移。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源To Align Long, Plan Short: Simulating Diverse Profile-Aligned Students by Realizing Short-Term Plans in Long-Horizon Learning Environments

关键事实

  • ALPS 以可观测、环境相关的行为画像为条件,交替进行任务片段规划与动作生成[1]

  • 实验覆盖探究式物理游戏与药房模拟两个环境[1]

  • 监督来源包括真实学生轨迹和教师 LLM 两类[1]

  • 对比方法为 ICL、SFT、RAFT 及 SFT 后接 RAFT 的组合[1]

  • 数据稀缺设定下密度与 LLM 评判通过率可比,覆盖率仍较低[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。