Prime Intellect 收购 Moondream,创始人加入主导推理与…

行业AI 评分 78/100Prime Intellect(网页)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

Prime Intellect 宣布收购 Moondream,其联合创始人 Vik Korrapati 与 Jay Allen 将加入 Prime Intellect,负责推理业务的领导与扩展,并推进多模态模型(含视觉与计算机使用)的工作。Moondream 曾是最早的客户之一,以极小团队发布了开放权重视觉语言模型,月下载量达数百万,并开发了将模型编译为单一 GPU 程序的推理引擎 Photon 及配套 GPU 内核与 megakernel 编译器。Moondream 3.1 在物体检测、航拍图像、图表和货架等拥挤场景中领先,达到每秒 34 次请求,比次优开放模型快约 24 倍;与 Meta 的 Muse Wonder 相比,在照片中指向物体任务上达到其 80% 准确率,成本约为其千分之一。Photon 在单张 H100 上每秒运行超过 60 次 Moondream 推理,响应时间在数十…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

收购与团队整合

Prime Intellect 已收购 Moondream,其联合创始人 Vik Korrapati 和 Jay Allen 将加入 Prime Intellect,负责领导并扩展推理业务,同时加速多模态模型(包括视觉和计算机使用)的研发。Moondream 曾是 Prime Intellect 最早的客户之一,其小团队打造了开放权重视觉语言模型,月下载量达数百万。此次收购后,Moondream 的模型将获得 Prime 的完整训练栈,而 Photon 推理引擎则能服务于更广泛的模型,Prime 客户将获得一个作为整体系统构建而非拼装的多模态栈。

Photon 推理引擎

Moondream 开发了 Photon 推理引擎,它能将每个模型编译成单一的 GPU 程序,并配有定制 GPU 内核以及背后的 megakernel 编译器。在单张 H100 上,Photon 每秒可运行超过 60 次 Moondream 推理,响应时间在数十毫秒内,通常比调用前沿 API 快 40 倍以上,足以支持实时视频。这一系统级优化是 Moondream 被收购的关键价值之一,因为推理决定了模型的响应速度和运行成本。

模型性能与成本

Moondream 3.1 在物体检测、航拍图像、图表以及货架等拥挤场景中表现领先,达到每秒 34 次请求,比次优的开放模型快约 24 倍。与 Meta 的新前沿模型 Muse Wonder 相比,Moondream 3.1 在照片中指向物体任务上达到其 80% 的准确率,而成本约为其千分之一。Moondream 联合创始人表示,Moondream 证明了小型高效模型在特定任务上可以击败巨型模型,Prime 正在构建同样的未来:企业拥有的众多专用模型。

为什么值得看

收购将高效视觉模型与推理引擎整合,多模态部署速度与成本数据具体,值得关注。

Meta多模态收购GPUAPI

信源1 家

  1. [1]Prime Intellect(网页)线索来自 AIHOTPrime Intellect 收购 Moondream,联合创始人加入主导推理与多模态

关键事实

  • Prime Intellect 收购 Moondream,联合创始人 Vik Korrapati 和 Jay Allen 加入并主导推理与多模态工作。[1]

  • Moondream 曾是最早的客户之一,发布了开放权重视觉语言模型,月下载量达数百万。[1]

  • Moondream 开发了推理引擎 Photon,将每个模型编译为单一 GPU 程序,并配有定制 GPU 内核和 megakernel 编译器。[1]

  • Moondream 3.1 在物体检测、航拍图像、图表和拥挤场景中领先,达到每秒 34 次请求,比次优开放模型快约 24 倍。[1]

  • Photon 在单张 H100 上每秒运行超过 60 次 Moondream 推理,响应时间在数十毫秒内,常比调用前沿 API 快 40 倍以上。[1]

相关 · 行业

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。