AI 圈大事记

VIP-Router实现视觉Token剪枝自适应路由

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

针对多模态大语言模型推理成本高的问题,研究团队提出VIP-Router。该组件能根据输入样本自适应选择最优视觉Token剪枝策略,在VTC-Bench Group A测试中,平均准确率相对提升26.9%,平均效用提升22.0%。该方案即插即用,无需修改底层模型权重,新增参数量仅为主干模型的0.017%。

为什么值得看

大幅降低MLLM推理成本且不损失精度,即插即用方案易于落地。

多模态

信源1

  1. [1]arXiv cs.AI一手信源Beyond One-Size-Fits-All: Sample-Adaptive Strategy Routing for Vision Token Pruning in MLLMs

关键事实

  • VIP-Router在VTC-Bench Group A测试中平均准确率相对提升26.9%,平均效用提升22.0%。[1]

  • 该组件新增可训练参数量仅相当于主干模型的0.017%。[1]

  • 方案以即插即用方式运行,无需修改底层剪枝算法或模型权重。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。