研究团队推出VoCa语音代理,实现对话中语音与画布协同交互

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

受人类边说边画启发,Yate Ge等研究者开发了VoCa系统,让语音代理在多轮对话中协同语音与画布操作,包括生成视觉对象、添加标注及引导注意力。基于对两人协作模式的观察与设计工坊,该研究确立了语音-画布交互设计空间。为期5天、18人参与的部署测试表明,该交互在学习、工作及日常具应用潜力,但也暴露出代理在协调所说与所展示内容时,用户难以跟进与干预的挑战。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从边说边画出发

论文关注的是人在交谈时常常一边说话一边写画,用这种方式把想法讲清楚、整理出来并共同推进内容。研究由此提出一个问题:语音代理能否在多轮对话中,除了说话之外还使用一块画布。为回答这个问题,作者做了由两部分组成的形成性研究。第一部分是观察性研究,看两人一组如何协调口头表达与板面书写;第二部分是设计工作坊,据此归纳出语音代理与画布交互的设计空间。这两步为后续系统设计提供了依据,也说明画布并非装饰,而是与语音配合的表达通道。

VoCa 的三种动作

在形成性研究的基础上,作者开发了 VoCa。这个语音代理把语音与三类视觉动作协调起来:创建视觉对象、添加标注、以及引导注意力。也就是说,代理不只是用语言描述,还会在画布上生成可见元素,并对已有内容做标记,同时把用户的注意力引向特定位置。论文没有停留在设计层面,而是通过一次为期五天的部署来检验实际使用情况,共有 18 名参与者加入。这次部署考察了可用性、语音与画布交互的体验、使用模式以及参与者希望改进的地方。

体验与待解难题

参与者的反馈显示,语音与画布配合在三个场景中存在机会:学习、工作以及日常生活。与此同时,也暴露出协调上的困难——代理所说的内容与所展示的内容需要让用户跟得上,并且用户要能对二者施加影响。论文共 22 页,含 11 幅图和 5 张表,归入人机交互与人工智能方向。对读者而言,这项工作的意义在于把语音代理的输出从单纯听觉扩展到可看、可标注、可指向的画布,并指出让说与画保持同步、且让用户能够介入,是这类交互需要继续解决的问题。

为什么值得看

为语音代理突破纯语音限制、引入视觉画布协同提供设计空间与实证依据,指明多模态交互的潜力与协调难点。

语音

信源1 家

  1. [1]arXiv cs.AI一手信源VoCa: Designing Speech-Canvas Interaction for Voice-Based Conversational Agents

关键事实

  • Yate Ge等研究者开发了VoCa语音代理,实现语音与画布协同交互[1]

  • VoCa支持在对话中协同语音进行视觉对象创建、标注及注意力引导[1]

  • 通过观察两人协作模式及设计工坊,确立了语音-画布交互设计空间[1]

  • 18名参与者进行了为期5天的部署测试,验证了应用潜力与协调挑战[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。