DeepSeek 发布 V4.1-Flash 模型

模型AI 评分 85/100The Decoder:AI News(RSS) 等 2 家待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

DeepSeek 推出 V4.1-Flash 模型,旨在降低长文本处理成本。该模型拥有 5520 亿参数,支持 100 万 token 上下文。通过技术分离,输入处理时仅激活 80 亿参数,输出时为 160 亿参数,使输入计算量减半。与上一代相比,显存中的 KV cache 需求降至四分之一,卸载至 SSD 或内存的部分降至八分之一。该模型在编程任务上表现优异,但在复杂科学任务和图像分析上仍有不足。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

KV cache 压缩到何种程度

V4.1-Flash 的核心改动落在 KV cache 上。这块缓存保存模型已经处理过的上下文片段,使模型在后续每一步不必从头重算;对需要多轮调用工具、反复读取新输入的 agent 来说,它会迅速膨胀,进而占用 GPU 显存、SSD 与数据传输带宽,推高部署开销。按技术报告给出的口径,放在高速 GPU 显存里的这部分缓存,占用空间约为上一代 V4-Flash 的四分之一;长期卸载到 SSD 或主机内存的那部分,则压缩到大约八分之一。若与 V1 相比,每个 token 对应的全局 KV cache 体积缩小了 437 倍。模型本体为 5520 亿参数,可处理最长 100 万 token 的上下文,多模态输入涵盖文本与图像,输出为文本。

读写两段算力不对称

实现上述压缩,靠的是多项技术配合,其中一项是把模型拆成两半:前半段负责处理进入的数据,后半段直接沿用前半段的结果,而不是把全部内容重新计算一遍。读取输入时,每个 token 只激活 80 亿参数;真正生成文本时,激活量升到 160 亿。DeepSeek 称,这让处理输入所需的算力接近减半。这一设计与 agent 的工作方式直接相关——它们通过频繁的工具调用不断送入新输入,输入侧的开销因此被放大。另一项改动是把主要 KV cache 以 FP4 而非 FP8 存储,据报告所述,这使该部分的内存占用接近减半。Baseten 将这种结构称为 Causal Encoder-Decoder,并强调其 prefill 与 decode 算力不对称的特点。

与自家前代的横向对照

在编码与 agent 类基准上,V4.1-Flash 的成绩超过 V4-Pro,而总参数量大约只有后者的三分之一。提升最明显的是长程 agent 任务,达到两位数增幅;单次命令行任务的变化则相对温和。多模态方面,它是 DeepSeek 首个带原生图像输入的非实验性模型,此前的图像能力仅限于 V4-Flash-Vision-Exp。这一代在图表解读和基于图像的逻辑推理上有进步,适合处理截图、仪表盘或 UI 草图。不过 Baseten 提醒,Automation-Bench 上 54.8 的分数意味着约一半的复杂工作流仍会失败,图像推理的 ZeroBench 得分也未到 50,因此关键环节仍需人工复核。

开放权重与获取方式

V4.1-Flash 的开放权重已发布在 HuggingFace 上,同时可通过 Baseten Model API 调用,Loops 支持尚未上线。Baseten 提到,DeepSeek 已在自家平台下线 V4-Flash 系列,并把相关流量转向 V4.1-Flash。对使用方而言,这意味着同一套 agent 流程在长上下文场景下的显存与带宽压力会明显下降,输入侧算力需求也随之减少;但模型在复杂科学任务与图像分析上仍有短板,涉及高风险的自动化流程时,保留人工介入是更稳妥的做法。

为什么值得看

大幅降低长上下文推理的内存与计算成本,利好 AI Agent 部署。

DeepSeek

信源2 家

  1. [1]The Decoder:AI News(RSS)线索来自 AIHOTDeepSeek 发布 V4.1-Flash,大幅降低 AI Agent 的 KV cache 内存需求
  2. [2]Baseten 工程博客(网页)线索来自 AIHOTDeepSeek 开源 V4.1-Flash:CED 架构降低编码 Agent 的 prefill 开销

关键事实

  • 模型拥有 5520 亿参数,支持 100 万 token 上下文。[1]

  • 显存 KV cache 需求降至前代四分之一,卸载部分降至八分之一。[1]

  • 输入处理仅激活 80 亿参数,输出时激活 160 亿参数。[1]

  • 编程任务对标头部闭源模型,科学任务与图像分析存在短板。[1]

相关 · 模型

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。