FinAutoRubric:专家引导的金融研究智能体评估框架

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

FinAutoRubric提出一种由专家引导的自动评分规则生成方法,用于评估金融研究智能体。专家提供可复用的评估指导,智能体与代码据此生成、审查并验证针对特定查询的评分规则。在三个金融基准测试中,其生成的规则与专家评分高度一致,内部分析师盲测更偏好该规则。研究同步发布包含100个查询的基准数据集,覆盖78项任务与8个资产类别,揭示早期模型生成的规则对后续模型仍有提升空间。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

专家定规则代理做生成

FinAutoRubric 把评分标准的制定拆成两层。人类专家只负责给出可复用的评估指引,这些指引既作为提示词约束每个代理,也作为代码可以强制执行的规则存在。真正针对具体查询生成评分细则、复核和校验的工作,交给代理与代码完成。为了让这套指引能跨任务延续,研究团队设置了一个任务库,用来存放可重复使用的评判标准,使同一套专家要求不必在每个新任务上重新表述。这种分工与专家逐条审阅的金融基准形成对照:后者依赖固定的、逐项写死的评分细则,扩展成本高,而且无法把某家机构自己的标准编码进去。FinAutoRubric 试图让标准来源从一次性的人工撰写,转为可携带、可复用的专家指引加自动生成流程。

写手查值审稿人复核

在遵循专家指引的长周期循环里,系统安排了两个角色。写手代理负责为每一个预期数值做调研,审稿代理则对这些数值逐一核验,一旦出现无法通过的情况,就升级交由人类处理。这一机制针对的是金融研究评估中的一个具体难点:评分不仅要看表述,还要把数值固定在某个信息截止时点上的正确取值。论文称,在三个由专家撰写的金融基准上,该方法生成的评分细则在贴合专家打分方面,与所评估的最强生成器表现相当,同时在更多评判条目上给出了专家细则所要求的预期值;其评分与人工评阅结果一致,并且在盲评中更受内部分析师青睐。这些结论对应的是评分细则质量,而非代理本身的投研能力。

百题基准与代际差距

研究团队还发布了一个包含 100 个查询的 FinAutoRubric 基准,题目取自内部分析师关注的关键问题,覆盖 78 项任务和八类资产。该基准的一个用途是观察模型代际差异:由较早一代模型生成的评分细则,在面对较晚一代模型时仍留有提升空间。这意味着评分标准本身会随模型能力演进而需要更新,固定不变的细则容易迅速失去区分度。对使用这类评估的人来说,可复用的专家指引加自动生成,降低了为每个新任务重写细则的成本,也便于把机构自身的标准写进流程;但适用范围仍受限于专家指引的质量、信息截止时点的设定,以及失败案例需要人工介入这一环节。

为什么值得看

解决金融智能体评估中固定规则难扩展、成本高的问题,实现兼顾专家标准与机构定制化的自动评分。

智能体基准测试数据集

信源1 家

  1. [1]arXiv cs.AI一手信源FinAutoRubric: Expert-Guided Automatic Rubric Generation for Evaluating Financial Research Agents

关键事实

  • FinAutoRubric框架让专家提供可复用评估指导,由智能体和代码执行特定查询的评分规则生成、审查与验证。[1]

  • 在三个专家编写的金融基准测试中,其评分规则与专家评分高度一致,且内部分析师盲测更偏好该规则。[1]

  • 发布100查询的FinAutoRubric基准数据集,覆盖78项任务和8个资产类别。[1]

  • 基准测试显示,早期模型生成的评分规则对后续模型仍留有提升空间。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。