arXiv 论文提出闭环刺激控制 LLM 的新框架
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载从神经刺激借来的思路
论文的出发点是一个类比而非等价假设：大脑与大型语言模型都表现出高维非线性动力学，其行为只能被不完美地建模，因此一旦要干预其动力学，就会遇到同一个难题。控制器若只依赖在某个工作区间内辨识出的模型，系统一旦偏离该区间就可能失效；另一种做法是显式考虑不确定性与内部状态的变化。神经刺激领域长期面对类似问题，固定开环刺激的局限促使研究者转向闭环、依赖状态的方法，即根据神经系统当前状态决定干预方式。作者把这一原则移植到 LLM 引导上，让网络内部状态参与决定系统如何被扰动，而不是只施加一个固定干预。
用鲁棒控制处理模型失配
在具体实现上，作者把可处理的动力学模型与它们所近似的非线性 transformer 之间的差距，交给鲁棒控制来处理。作为该框架的一种有原则的实现，他们开发了基于 H∞ 的引导控制器，其目标是限制控制器对扰动和线性化失配的敏感度。评估覆盖多个引导基准，该控制器在这些基准上的表现超过现有基线；论文特别指出，在分布外条件以及长度复杂度变化的情况下，性能提升更为明显。这一结果对应的是控制方法在偏离训练或标定区间时是否仍然可用的问题。
鲁棒可引导性指标
除控制器本身的表现外，论文还引入了一个部署前指标——鲁棒可引导性 S_rob，用来衡量系统对动力学失配的容忍程度。作者报告，在不同模型与任务的组合上，该指标表现出与任务相关的结构，并且随模型规模发生系统性变化。论文对这一指标的定位超出了单纯的 LLM 引导：它追问的不只是控制是否可行，还包括控制能承受多大不确定性，作者认为这一原则可能同时适用于人工与生物神经系统。材料未给出具体基准名称、模型规模数值或提升幅度。
为什么值得看
把神经刺激的闭环思路迁移到 LLM 引导，并给出可部署前评估失配容忍度的指标，为控制类方法提供新视角。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。