Jev-Mobile解耦VLM規劃與執行,降低手機GUI代理成本

論文AI 評分 72/100arXiv cs.AI
AI 聚合

本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。

針對現有手機GUI代理因視覺語言模型(VLM)同時負責規劃與動作落地導致的高延遲與高成本問題,Jev-Mobile提出低頻VLM規劃與高頻輕量執行的新範式。VLM設定局部目標,結合無障礙樹構建可執行動作空間,由快速決策模型Jev反覆選擇動作。單次VLM決策可執行多步GUI操作。在AndroidWorld測試中,其任務成功率達79%(SeeAct-V為78%,逐步VLM基線為84%),但成功軌跡的平均端到端執行時間縮短32.7%,模型API成本降低73.4%。

全文梳理

AI 摘要依據下方信源原文自動整理,非原文轉載

解耦規劃與執行範式

當前基於視覺語言模型(VLM)的自主手機GUI代理,通常在幾乎每步交互中都依賴VLM進行規劃與動作落地,引發顯著延遲及模型服務開銷。Jev-Mobile改變了這一機制,轉向低頻VLM規劃搭配高頻輕量執行。具體而言,VLM僅負責設定局部目標,無障礙樹提供結構化可執行動作空間,隨後由快速類型化決策模型Jev在該空間內反覆挑選動作。此設計允許單次VLM決策下執行多步GUI操作,從而減少昂貴的VLM推理頻次,同時保留自適應交互能力。

性能與效率對比數據

在完整的AndroidWorld任務套件評測中,Jev-Mobile取得了79%的任務成功率。作為對比,SeeAct-V的成功率為78%,逐步VLM基線為84%。儘管任務成功率略低於逐步VLM基線,但在成功軌跡中,Jev-Mobile的平均端到端執行時間縮減了32.7%,平均模型API成本大幅下降73.4%。這表明將高層VLM推理與低層動作執行分離,能在維持具備競爭力的任務表現的同時,實質性提升手機GUI代理的運行效率。

為什麼值得看

大幅削減手機GUI代理的執行耗時與API開銷,同時保持任務成功率基本不降,對移動端自動化降本增效極具參考價值。

API

信源1 家

  1. [1]arXiv cs.AI一手信源Jev-Mobile: Jev as an Executor for Mobile GUI Agents

關鍵事實

  • Jev-Mobile將VLM規劃與動作執行解耦,採用低頻VLM規劃與高頻輕量執行範式[1]

  • 在AndroidWorld任務套件中,Jev-Mobile任務成功率為79%[1]

  • 相比逐步VLM基線,Jev-Mobile平均端到端執行時間減少32.7%,模型API成本降低73.4%[1]

相關 · 論文

本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。