ALPS:分层规划让LLM模拟学生保持长期行为一致
论文AI 评分 62/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
论文提出 ALPS(Align Long-term by Planning Short-term),一种以可观测、环境相关的行为画像为条件的分层模拟学生。它不再逐回合独立选动作,而是在规划与画像一致的任务片段、生成对应动作之间交替。作者在探究式物理游戏和药房模拟两个环境中,用真实学生轨迹或教师 LLM 提供监督,比较 ICL、SFT、RAFT 及 SFT 后接 RAFT 的组合。结果显示 ALPS 在数据充足与稀缺两种设定下均优于逐回合生成,稀缺监督下密度与 LLM 评判通过率可比,但覆盖率仍偏低。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载逐回合生成的漂移问题
论文关注开放-ended 学习环境中的模拟学生。现有基于 LLM 的模拟器多面向较短、以语言为中心的交互;而在开放式环境里,学生行为体现在长程交互轨迹的整体模式上,逐回合提示容易偏离预先指定的行为画像。ALPS 的出发点是把长期一致性拆成短期规划来处理:模型不再每一步独立选择动作,而是先规划出与画像相符的任务片段,再生成该片段内的具体动作,如此交替推进。
两种监督与四类训练方式
作者在数据充足与数据稀缺两种设定下评估 ALPS,监督信号分别来自真实学生轨迹或教师 LLM。训练与对比方式包括上下文学习(ICL)、监督微调(SFT)、奖励排序微调(RAFT),以及先 SFT 再 RAFT 的串行组合。评测环境为探究式物理游戏和药房模拟,指标包括对照留出真实数据的行为密度与覆盖率,以及由与人类对齐的 LLM 评判给出的画像一致性通过率。
结果与局限
两种设定下,ALPS 均稳定优于逐回合生成;在监督稀缺时,其行为密度与评判通过率与充足监督时相当,但覆盖率仍然偏低。作者据此认为,分层规划能在长交互跨度上实现忠实、贴合画像的模拟,即便真实学生数据有限。论文共 33 页、3 幅图、20 张表,归入 cs.AI、cs.CL 与 cs.CY。
为什么值得看
做 AI 教育、学习平台仿真或长程智能体的人可关注:分层规划如何抑制长程交互中的画像漂移。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
