Sierra 推出 𝜏-Entity 基准,测试语音智能体采集姓名电话等实体…

论文AI 评分 78/100Sierra:Blog(RSS)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

Sierra 发布 𝜏-Entity 基准,用于检验语音智能体能否正确采集姓名、电话、地址、邮箱等实体信息,并在出错时识别并修正。该基准包含 200 个任务、覆盖十类实体,每通电话只针对一个字段,通话多数在两分钟内。评测采用 Pass³ 指标,考察智能体在常规、强噪声、多人说话三种条件下是否都能成功。榜单汇总六种语言:GPT Live 1 常规条件正确率 60.3%,三条件全通过仅 34.0%;Gemini 3.8 Live 与 Grok Voice Think Fast 2.0 常规为 43.8% 和 44.2%,三条件降至 19.5% 和 24.0%。仅英语时 GPT Live 1 达 74.0% 与 47.5%;韩语 Pass³ 低至 3.5–8.5%,普通话为 12.5–24.5%。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

基准测什么

𝜏-Entity 针对语音智能体在通话中采集单一实体信息的环节:每个任务从一个缺失值开始,智能体需要向通话方索取并正确提交,存储值与期望值完全一致才算成功。基准共 200 个任务,覆盖姓名、电话、地址、邮箱等十类实体,每通电话只针对一个字段,通话方配合并在被要求时准确拼读,多数通话不到两分钟。评测还从三个维度改变难度:值本身的难易、通话方行为(如纠正与重来)、以及音频环境。

Pass³ 与榜单成绩

评测使用 Pass³ 指标,即同一任务在常规、强噪声、多人说话三种条件下是否都成功,从而把“能否采到值”和“条件变化下是否稳定”分开。榜单汇总六种语言:GPT Live 1 在常规通话中正确率 60.3%,三条件全通过仅 34.0%;Gemini 3.8 Live 与 Grok Voice Think Fast 2.0 常规为 43.8% 和 44.2%,三条件降至 19.5% 和 24.0%。仅英语时 GPT Live 1 为 74.0% 与 47.5%,西班牙语、葡萄牙语、印地语接近英语,部分模型在这些语言上高于英语;韩语 Pass³ 仅 3.5–8.5%,普通话为 12.5–24.5%。

何时该慢下来

材料指出,人在不确定是否听清时会放慢速度、请对方重复、拼读姓名或确认所听内容;智能体只识别部分需要放慢的理由,另一些则被漏掉。Sierra 在 𝜏-Elicitation 论文中以回读和请求拼读的次数衡量这种核验投入,说明采集实体信息不只是识别准确率问题,还涉及智能体主动核验的行为。

为什么值得看

语音智能体常因一个姓名或号码听错而卡在身份验证,该基准把这一瓶颈量化,并给出多语言、多噪声条件下的可比分数。

GPTGemini智能体语音

信源1 家

  1. [1]Sierra:Blog(RSS)线索来自 AIHOTSierra 发布 𝜏-Entity 基准,检验语音智能体能否准确采集姓名、电话等实体信息

关键事实

  • 𝜏-Entity 包含 200 个任务,覆盖姓名、电话、地址、邮箱等十类实体,每通电话只聚焦一个字段。[1]

  • 评测采用 Pass³,考察智能体在常规、强噪声、多人说话三种条件下是否都能正确完成同一任务。[1]

  • GPT Live 1 在常规通话中正确率 60.3%,三种条件全部通过的比例为 34.0%。[1]

  • Gemini 3.8 Live 与 Grok Voice Think Fast 2.0 常规条件分别为 43.8% 和 44.2%,三条件全通过降至 19.5% 和 24.0%。[1]

  • 仅英语条件下 GPT Live 1 常规正确率 74.0%、三条件 47.5%;韩语 Pass³ 为 3.5–8.5%,普通话为 12.5–24.5%。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。