Prime Intellect 收购 Moondream,创始人加入主导推理与…
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载收购与团队整合
Prime Intellect 已收购 Moondream,其联合创始人 Vik Korrapati 和 Jay Allen 将加入 Prime Intellect,负责领导并扩展推理业务,同时加速多模态模型(包括视觉和计算机使用)的研发。Moondream 曾是 Prime Intellect 最早的客户之一,其小团队打造了开放权重视觉语言模型,月下载量达数百万。此次收购后,Moondream 的模型将获得 Prime 的完整训练栈,而 Photon 推理引擎则能服务于更广泛的模型,Prime 客户将获得一个作为整体系统构建而非拼装的多模态栈。
Photon 推理引擎
Moondream 开发了 Photon 推理引擎,它能将每个模型编译成单一的 GPU 程序,并配有定制 GPU 内核以及背后的 megakernel 编译器。在单张 H100 上,Photon 每秒可运行超过 60 次 Moondream 推理,响应时间在数十毫秒内,通常比调用前沿 API 快 40 倍以上,足以支持实时视频。这一系统级优化是 Moondream 被收购的关键价值之一,因为推理决定了模型的响应速度和运行成本。
模型性能与成本
Moondream 3.1 在物体检测、航拍图像、图表以及货架等拥挤场景中表现领先,达到每秒 34 次请求,比次优的开放模型快约 24 倍。与 Meta 的新前沿模型 Muse Wonder 相比,Moondream 3.1 在照片中指向物体任务上达到其 80% 的准确率,而成本约为其千分之一。Moondream 联合创始人表示,Moondream 证明了小型高效模型在特定任务上可以击败巨型模型,Prime 正在构建同样的未来:企业拥有的众多专用模型。
为什么值得看
收购将高效视觉模型与推理引擎整合,多模态部署速度与成本数据具体,值得关注。
信源1 家
关键事实
Prime Intellect 收购 Moondream,联合创始人 Vik Korrapati 和 Jay Allen 加入并主导推理与多模态工作。[1]
Moondream 曾是最早的客户之一,发布了开放权重视觉语言模型,月下载量达数百万。[1]
Moondream 开发了推理引擎 Photon,将每个模型编译为单一 GPU 程序,并配有定制 GPU 内核和 megakernel 编译器。[1]
Moondream 3.1 在物体检测、航拍图像、图表和拥挤场景中领先,达到每秒 34 次请求,比次优开放模型快约 24 倍。[1]
Photon 在单张 H100 上每秒运行超过 60 次 Moondream 推理,响应时间在数十毫秒内,常比调用前沿 API 快 40 倍以上。[1]
相关 · 行业
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
