注册

VLCQ：用变长编码做训练后量化，最高压缩12.25倍

论文AI 评分 68/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇发表于 Future Generation Computer Systems 的论文提出 VLCQ，一种训练后量化方法。它不再要求权重用定点整数编码，改用变长编码来探索量化方案，因此无需原始数据集、也无需微调模型。在图像分类、分割与目标检测实验中，逐通道量化下 VLCQ 在多数模型上超过 FP32 与 PWLQ 的精度，相对 FP32 最高压缩 6 倍、相对 PWLQ 最高 1.7 倍；若优先追求压缩，相对 FP32 可达 12.25 倍，性能损失低于 4%。逐张量量化下，VLCQ 与 DFQ 相当，并在不同任务和模型上提供更低的比特率选择空间。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

方法思路

VLCQ 针对的是深度模型在资源受限设备上的部署问题。现有训练后量化方法中，效果接近基线的方案通常依赖 INT8 定点整数；一旦把位宽继续压低以换取更高压缩率，性能往往明显下滑。VLCQ 的做法是不再坚持定点编码这一约束，转而采用变长编码，从而在量化方案上有更灵活的探索空间。它的另一个特点是整个流程不需要原始数据集，也不需要重新训练或微调模型，这使它适用于数据不可得或训练成本高的场景。

实验结果

论文在图像分类、分割和目标检测三类任务上做了实验。逐通道量化设置下，VLCQ 在多数被评估模型上超过了 FP32 以及分段线性量化 PWLQ 的精度，相对 FP32 最高实现 6 倍压缩，相对 PWLQ 最高 1.7 倍。当把目标改为优先压缩、容忍有限精度损失时，VLCQ 相对 FP32 最高可达 12.25 倍压缩，性能下降控制在 4% 以内。逐张量量化设置下，VLCQ 与无数据量化 DFQ 处于同一水平，同时在不同任务和模型上给出更低的比特率选择余地。

发表信息

该论文作者为 Reem Abdel-Salam、Ahmed H. Abdel-Gawad 与 Amr G. Wassal，提交时间为 2026 年 10 月 10 日，发布在 arXiv 的 cs.CV 分类下，同时涉及 cs.AI 与 cs.PF。论文已被 Future Generation Computer Systems 第 166 卷（2025 年）收录，文章编号 107654。arXiv 标识为 arXiv:2610.15092。

为什么值得看

不依赖训练数据与微调就能在低比特下保住精度，对端侧部署和模型压缩方向有直接参考价值。

微调量化论文数据集

信源1 家

  1. [1]arXiv cs.AI一手信源VLCQ: Post-training quantization for deep neural networks using variable length coding

关键事实

  • VLCQ 是一种训练后量化方法，放松了定点编码约束，改用变长编码[1]

  • 该方法不需要访问训练数据，也不需要模型微调[1]

  • 逐通道量化下，VLCQ 相对 FP32 最高压缩 6 倍，相对 PWLQ 最高 1.7 倍[1]

  • 优先压缩时，VLCQ 相对 FP32 最高压缩 12.25 倍，性能损失低于 4%[1]

  • 逐张量量化下，VLCQ 与 DFQ 表现相当，并提供更低的比特率选择[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论