论文提出自涌现智能体架构 SEAA

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对现有生成式智能体存在人格漂移、反思非进化及缺乏自我边界的问题,论文提出自涌现智能体架构 SEAA。该架构包含编码行为惯性的隐马尔可夫模型、更新模型参数的反思循环以及多智能体社会对比环境。实验显示,初始相同的智能体在闭环中能自发形成稳定人格及社会结构,如共识枢纽与被排斥的异常者。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把惯性写进状态矩阵

SEAA 把长期行为与认知上的惯性做成一个可编辑的状态转移矩阵,由隐马尔可夫模型承载。与依赖静态记忆和固定提示词的生成式智能体模拟不同,这套设计让惯性成为可被改写的参数,而不是散落在上下文里的文本片段。作者指出,现有方案既维持不住行为惯性,也做不到内生的自我演化,因此把惯性显式建模为状态转移结构,是整条链路的第一环。矩阵可编辑这一点意味着后续的反思结果有地方落地:反思不是往记忆里再堆一段话,而是直接改动转移概率本身。

反思直接改参数

第二个组件是 Reflexion 风格的言语化元认知回路,其输出被用来更新 HMM 的参数,而非仅仅作为文本存档。这是与已有反思式智能体方案的关键差别:常见做法把反思结论写回记忆库供下次检索,SEAA 则让反思作用于惯性模型本身。三个组件因此首尾相接,形成社会行动、反馈、自我反思、惯性更新、差异化行动的闭环。作者据此提出三条可证伪假设,并给出可复现的实验协议与可操作指标,使闭环的每一环都能被单独观测。

同源智能体如何分化

第三个组件是多智能体社会环境,起初完全相同的智能体在其中持续与他人比对行为。作者用一个不含语言模型的原型验证闭环:初始一致的智能体自发打破对称,各自固化出不同且稳定的性格,而对照组没有出现这一现象。接入托管大模型后,这些差异以各异的第一人称自述呈现;五个智能体的审议过程自发形成社会结构,出现一个共识枢纽和一个被一致排斥的离群者,对照组中则不存在这种结构。作者借用庄子的立场,声明只研究可观测的行为涌现,不对主观感受作任何断言。

沙盒的定位与边界

SEAA 的产出包括一个统一框架、带伪代码的具体架构、机制层面的证据,以及一个用于研究人工自我涌现的显微镜式沙盒。对关注智能体长期一致性的读者而言,可编辑的惯性矩阵提供了比提示词更直接的干预点;对研究群体行为的读者而言,同源智能体分化与审议中社会结构的自发形成,给出了可对照的观测对象。需要留意的是,这套架构针对的是性格漂移、反思不演化、自我与他者边界缺失这三项结构性局限,其结论建立在作者设定的实验协议与指标之上,适用范围限于可观测行为的涌现层面。

为什么值得看

为解决智能体人格不稳定问题提供了新架构与实验证据。

智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Self-Emergence Agent Architecture:Behavior-Inertia HMM, Reflexive Metacognition,and Social-Contrastive Self-Modeling

关键事实

  • SEAA 架构包含行为惯性 HMM、反思循环及社会对比环境三个组件。[1]

  • 反思循环输出用于更新 HMM 参数而非仅存储文本。[1]

  • 实验显示初始相同智能体能自发分化出稳定人格及社会结构。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。