arXiv 论文提出 ServiceBench 投诉处理基准与 APCS 模拟…

论文AI 评分 68/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 ServiceBench,作者称这是首个专门面向投诉处理的基准,包含 2500 个场景、184 个投诉类别,覆盖五个服务行业。论文同时提出 Asymmetric Progressive Complaint Simulation(APCS)来模拟真实投诉处理过程,并配套一个基于公正性的评估框架。实验显示,能力较强的 LLM 智能体也难以有效处理投诉:它们不善于主动收集信息、策略性地引导对话走向解决,往往过早给出补偿。作者进一步用 SFT 与 DPO 做针对性后训练,使较小模型在若干结果上追平或超过大得多的模型。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

基准的构成

论文把投诉处理单独拎出来做评测对象,理由是这类对话情绪压力大,目前仍主要靠人工坐席。ServiceBench 收录 2500 个场景,横跨 184 个投诉类别与五个服务行业,作者称其为首个专门针对投诉处理的基准。评测不只看问题是否解决,还引入基于公正性的评估框架,把处理过程是否公平纳入考量。

模拟方法与失败模式

为贴近真实对话,作者提出 Asymmetric Progressive Complaint Simulation(APCS),在信息不对称条件下模拟多轮投诉处理。实验结果显示,即便是能力较强的 LLM 智能体也表现不佳:它们缺少主动追问、补齐信息的习惯,也不擅长把对话有策略地推向解决,反而倾向于过早抛出补偿方案。这为客服智能体的能力短板给出了具体指向。

后训练带来的变化

作者进一步尝试用 SFT 与 DPO 做针对性后训练。结果显示,这类训练能明显改善上述能力,使一个较小的模型在若干结果指标上追平甚至超过体量大得多的模型。这说明投诉处理所需的信息收集与对话引导能力,可以通过针对性训练获得,而不必只依赖模型规模。

为什么值得看

投诉处理是客服智能体落地难点,该文给出首个专用基准、模拟方法与评估框架,并验证后训练可补短板。

大模型智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Can LLM Agents Resolve Service Failures? Simulating Multi-Turn Complaint Handling under Information Asymmetry

关键事实

  • ServiceBench 包含 2500 个场景、184 个投诉类别,覆盖五个服务行业[1]

  • 论文提出 Asymmetric Progressive Complaint Simulation(APCS)模拟投诉处理,并配套基于公正性的评估框架[1]

  • 实验显示 LLM 智能体难以主动收集信息、策略性引导对话,常过早给出补偿[1]

  • 用 SFT 与 DPO 做针对性后训练后,较小模型在若干结果上追平或超过更大模型[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。