工具:开源项目与开发者工具第 3 页

AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

  1. AI 摘要量子位

    是石科技发布TokenFleet调度框架,首Token延迟最高降71.3%

    是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式调度框架,重点解决请求路由、跨机房容量协同与混合负载治理三类问题。框架由三部分构成:TokenPilot在同一模型池内选点,同时估算KV缓存复用收益与排队代价;FleetMind负责跨机房容量协同,先选执行机房再由本地引擎选实例;SLOMax按租户服务等级做准入、分池排队与容量分配。是石科技给出的GLM5.3调优数据显示,在所测显卡集群与负载条件下,采用预测延迟路由后P95首Token延迟降低32.4%,P50降低71.3%。框架以达标输出吞吐(Goodput)为优化目标,即成功完成且满足服务要求的请求输出Token总量除以测试时长。

  2. AI 摘要Databricks:Blog(RSS)

    Databricks 推出 MemCurrent 持久记忆架构,用于生产级 A…

    Databricks 发布 MemCurrent,一种面向生产环境 Agent 的持久记忆架构,已用于支撑 Agent Bricks Memory 和 Genie。Agent 在工作过程中读写记忆,离线「dreaming」流程负责整合记忆,保持其一致与新鲜。在基于真实企业任务构建的内部基准上,MemCurrent 使 Agent 通过率提升至无记忆时的三倍,同时 token 用量减少 31%、运行速度提升 26%。该架构在通过率与每任务 token 消耗两个维度上均优于 Mem0、PropMem 和 OpenClaw memory。

  3. AI 摘要TechCrunch

    OpenCode 遭入侵,1.4% 用户 AI 账户被刷费

    开源 AI 编程工具 OpenCode 于周六披露,攻击者夜间入侵了一套旧系统,波及 OpenCode Console 在线平台 1.4% 的用户。部分用户在该平台存放访问 AI 服务的 API 密钥,攻击者借此在其 AI 账户上产生费用。OpenCode 团队在应对攻击时一度难以跟上节奏。该事件也暴露出一个问题:无法获得经过审核、安全限制较少的 AI 模型访问权限的公司,在面对大规模 AI 驱动的网络攻击时防御吃力。

  4. AI 摘要Modal 官方工程博客(RSS)

    Modal 推出 Sticky Sessions,会话请求固定路由到同一容器

    Modal 发布 Sticky Sessions,基于其低延迟的 Modal Servers 构建,让同一会话的所有请求始终落到同一个容器上。使用时给类加上 @modal.sessioned() 装饰器,再通过 SDK 或 HTTP API 启动会话,示例中 idle_timeout 设为 600。此前 WebSocket 连接绑定的是 Function 的 input 而非容器,断线重连可能落到别的容器;把 max_containers 设为 1 虽能保证粘性,却牺牲了扩缩容。Modal Servers 原有的 Modal-Affinity-Routing-Key 只是尽力而为的路由,容器仍可能被缩容或替换。该能力面向语音转写解码状态、语音对话代理、多人游戏等需要请求间连续性的负载。

  5. AI 摘要Tessl:产品与工程博客

    Tessl 团队:AI 生成代码量翻四倍后,放弃逐行审查改为验证意图

    Tessl 团队称其合并的 PR 数量是一年前的四倍,且几乎全部代码由 AI 生成、人工辅助。团队先尝试用 AI 审查工具和更严格的检查清单来扩大代码审查规模,均未奏效。真正起作用的做法是完全放弃逐行读代码,围绕「意图」搭建验证层,把人的判断从流程末端前移。团队维护一个名为 offer-skill 的共享技能,用于理解代码改动。其核心观点是:diff 只说明改了什么,不说明改动本应实现什么。

  6. AI 摘要Meta Engineering Blog(RSS)

    Meta 介绍 Thin Orchestrator 模式:1300 行路由层调…

    Meta 工程博客披露其数据管道智能体的重构做法:放弃让单个智能体掌握全部领域知识的方案,改为构建约 1300 行的薄编排层,把 20 多个工作流分发给 14 个专用智能体,编排层自身不承担任何领域推理,只负责排序与可靠性校验。此前单智能体方案在演示中可用,上线后出现幻觉,表现为跨子系统混用字段命名约定、把某个数据源的代码生成模式套用到另一个数据源。Meta 称在上下文超过一定阈值后,追加知识反而使表现下降。

  7. AI 摘要LangChain:Blog(RSS)

    Numan 用 LangGraph 与 LangSmith 构建评测优先的 A…

    英国数字健康公司 Numan 在开发 AI 健康教练 Nu 时,把评测标准的质量视为最关键环节。团队最初采用静态输入输出数据集加 LLM 判分的常规做法,但发现单轮评测无法反映对话式教练行为:同一提示往往没有唯一正确答案,回复是否安全取决于上下文。对全数据集取平均分还会掩盖局部失败,少量差回复几乎不影响总分。团队还发现,一次低分聚集实际源于评测规则本身要求共情、探索与建议在两轮内完成,而人类教练会跨多轮展开。为此他们转向脚本化多轮对话评测,让判分模型对完整对话记录打分。

  8. AI 摘要n8n Blog

    n8n 发布教程:在 NVIDIA DGX Spark 上离线运行全套 AI …

    n8n 发布教程,介绍如何在单台 NVIDIA DGX Spark 上离线运行完整 AI 工作流。DGX Spark 配备 128GB 统一内存,由 CPU 与 GPU 共享,可同时加载多个模型。教程选用 Qwen3.6-35B-A3B 混合专家模型,总参数 35B、激活约 3B,以 NVFP4 格式经 vLLM 部署,单机实测生成速度 120 tokens/秒。所有模型通过一个兼容 OpenAI 的 LiteLLM 端点对外服务,支持按团队分配密钥,n8n 的 OpenAI 节点可直接对接,全程不调用云端 API。

  9. AI 摘要TechCrunch 等 2 家

    AWS 推出 TorchNeuron:Trainium 的原生 PyTorch…

    AWS 宣布开源 TorchNeuron,这是面向 Trainium 芯片的原生 PyTorch 后端,让已有的模型代码、库和工具可直接在 Trainium 上运行。它基于 PyTorch 社区的 PrivateUse1 设备后端与 torch.accelerator 扩展点构建,支持 eager 执行(含性能改进的自适应 eager 模式)、用于生产性能的 torch.compile,以及用于自定义内核的 Neuron Kernel Interface,覆盖 Trainium2 与 Trainium3。配套的 Neuron Explorer 让性能工程师用同一套 torch.profiler 从框架追踪到硬件,把每个事件关联回源码行以定位瓶颈。项目以 Apache 2.0 许可在 github.com/aws-neuron/torch-neuronx 开源,10 月 20 日以公开 B…

  10. AI 摘要The Verge

    LLM 工具催生硬件合成器自定义固件潮

    在 LLM 辅助下,硬件合成器、采样器和 groovebox 的自定义固件数量激增。这类改造在 LLM 出现前极为罕见,给 Korg Volca 增加力度感应这类简单功能往往要花数周甚至数月。如今爱好者能在几天内把廉价合成器改成完整 groovebox。Elektron 的 Model:Cycles、Digitone、Octatrack、Digitakt,Roland SP-404 MKII、Ableton Push 3 与 Move、Akai MPC Live 与 MPC One 及老款 MPC 2000、Novation Circuit、Arturia MicroFreak、Zoom Multistomp 踏板等,近一个月左右都出现了新固件。焦点是约 70 美元的雅马哈 DX-7 克隆 M-Vave FM-1,已有数十个自定义固件,Felucca、Sloop、x0x 等在 GitHu…

  11. AI 摘要量子位

    谷歌开源Harness²,让模型运行时自改脚手架

    谷歌开源了名为Harness²的递归自我改进方案,让模型在运行中自行修改外挂代码、系统提示词、工具链和技能库。它采用任务级与改进级双层递归:任务级用提议-探测-合成机制,在没有标准答案时通过行为对比筛选有效改动;改进级把调试记录交给反思模块写成经验库,供后续任务检索。在WorkBuddy-Bench上,GLM-5单步改进后从64.2升至75.7,反超未改脚手架的Gemini 3.5 Flash。项目已开源,支持OpenCode与Codex。

  12. AI 摘要Browser Use

    Browser Use 发文拆解浏览器智能体的构成与适用边界

    Browser Use 在一篇说明中把浏览器智能体定义为用 AI 模型操作浏览器完成目标的软件:用户描述任务后,智能体自行打开页面、导航、选择动作并核对结果再继续。它由三部分组成——模型负责决定下一步做什么,harness 提供上下文、工具和循环,浏览器承载网站会话。文章建议:任务需要灵活判断时用智能体,有可用 API 时用 API,流程可预测时用脚本。主要短板包括结果不稳定、任务失败、网站拦截、提示注入和成本不可预测。

  13. AI 摘要LMSYS Blog

    SGLang 推出低延迟模式,在 NVIDIA 与 AMD GPU 上降低推理…

    SGLang 发布 Low-Latency Mode,通过插件框架在 NVIDIA 和 AMD 两类 GPU 上降低推理延迟。材料显示,该模式包含针对 NVIDIA 与 AMD 各自的低延迟内核,并分析了时间开销分布与低延迟专属优化。AMD 侧采用每层两次持久化启动、在单次启动内重叠各阶段、把 all-reduce 并入内核等做法。插件系统部分说明了设计与集成方式,后续计划涉及更广的模型支持、CI 与性能验证,以及共享插件接口的演进。

  14. AI 摘要量子位

    清华联合面壁智能开源智能体操作系统PilotDeck 2.0

    清华大学THUNLP实验室联合面壁智能、OpenBMB等团队推出开源智能体操作系统PilotDeck 2.0,以WorkSpace工作舱为基本单位,为每个项目隔离文件系统、记忆库与技能集,减少多项目并行时的记忆串台。记忆做成白盒化,生成、抽取、存储到调用全链路对用户可见,可手动修改、删除或固定;空闲时由Dream模式归纳去重并支持一键回滚。Always-on模式让Agent在关闭窗口后继续后台执行长周期任务。智能路由按任务难度分配模型,复杂决策用强模型、执行润色用轻量模型。Workbuddy Bench上使用Qwen3.6-35B-A3B得分79.1,高于Claude Code的77.3;自媒体运营场景单次费用从12.58美元降至2.83美元。

  15. AI 摘要arXiv cs.AI

    开源智能体 Optimist Deep Research 将文献调研拆成可迭代…

    一篇 arXiv 论文提出开源智能体 Optimist Deep Research,把文献调研从「一次检索加总结」改成围绕可变研究状态的迭代取证过程。研究问题被拆成子问题树,每个子问题对应若干检索意图,再转成面向 arXiv、OpenAlex、Crossref、PubMed、Semantic Scholar 与网页的查询。结果经四级去重合并为保留出处的文档登记库,并通过引文滚雪球扩展至饱和,再筛选排序、轮流分配给子问题。文档并行读取为结构化证据库,记录论断的支持、位置、类型与强度。评审器从八个维度检查状态并返回研究动作,可新增、拆分、改写、降级或关闭子问题。最终报告按节从证据库写出,每条引用都可回溯到已检索文档。案例中约三分半钟读了 237 篇检索文档中的 28 篇,论文也报告了暴露的弱点。

  16. AI 摘要arXiv cs.AI

    Annotrace 发布:面向 Agent 轨迹的逐步标注工作台

    Annotrace 是一个用于对 LLM Agent 执行轨迹做步骤级标注的工作台。它可读取 OpenTelemetry GenAI、LangSmith、Langfuse 等六种轨迹格式,把每次运行拆成有序嵌套的步骤列表。标注者自行编写标注手册,前沿模型基于其轨迹样本提出初始标注集,并与人类回答同样的问题,形成人机联合标注流程。工具还能度量任意两位标注者(人或 AI)之间的一致性。在多智能体问答语料上,它精确复现了此前人工工作的 235 个标注单元;两个模型标注同一批轨迹的一致率为 91%,κ=0.82。论文共 4 页,投稿 AAAI 2027 Demonstration Program,仍在评审中。

  17. AI 摘要量子位

    范式智能联合睿思智联开源生产级AI部署平台模域ModelSphere

    范式智能技术集团与北京睿思智联科技联合推出开源一站式生产级AI部署平台“模域”(ModelSphere),面向企业用户免费开源,已在GitHub上线。平台将算力管理、模型部署与运行优化整合,内置自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡及断流自动续写等能力,并融合EngineX推理引擎,可统一混合调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力。平台采用Apache 2.0协议开源,已适配DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等模型。

  18. AI 摘要vLLM 官方博客(RSS)

    vLLM 上线 Reflection Beam 501B MoE 模型首日支持

    vLLM 官方博客宣布,对 Reflection 的 Beam 模型提供 Day 0 支持。Beam 是 501B 参数 MoE,每 token 激活 23B 参数,在 NVIDIA Blackwell 上完成优化,推理、工具调用与结构化输出开箱可用,支持张量、数据与专家并行。编码智能体自主优化后,batch-1 解码比首个实现快 2.71 倍,prefill 快 1.87 倍。配合 Beam 的 DFlash2 drafter,单请求在 TP8 上达到 708 tokens/s,接受长度 3.7;自适应验证在高并发下再增 10% 吞吐。可通过 Docker 镜像 vllm/vllm-openai:reflection-beam 试用。

  19. AI 摘要Meta Engineering Blog(RSS)

    Meta 用 AI 智能体参与 Forum 应用开发,工程师转为监督角色

    Meta 在开发 Facebook 群组独立应用 Forum 时,把 AI 智能体引入工程流程,而非仅用于代码补全。团队将成功标准定为可验证、可上线的产出,即能构建、通过测试并过审的改动。工作模式从「人在环中」转向「人在环上」:智能体自行完成规划、实现、构建、测试与修正的循环,工程师负责设定目标、观察运行、纠偏并审批结果。Meta 表示部分阶段已可自主运行,另一些仍需工程师参与每次迭代,并强调缺乏验证时 AI 生成代码会带来看似完成实则不可用的问题。

  20. AI 摘要Anthropic:Claude.dev 开发者博客(RSS)

    Claude Code 团队披露代码审查流程:合并量翻倍,回滚率降超四成

    Claude Code 团队在开发者博客中说明其代码审查方式的变化。团队称 Claude 编写了 Claude Code 自身约九成代码,6 月至 9 月该代码库合并的拉取请求数量增加一倍以上,同时需要回滚的比例下降超过四成。在 Anthropic 的单一代码库中,每日落地的变更从 5 月的约 2500 次升至 9 月的 3 万次以上。团队没有取消审查,而是把大部分阅读工作交给机器,让审查像写作时的拼写检查一样持续进行,多数改动在人工查看前已被 Claude 至少审查并修复过一次,从而把人的时间留给只有人能处理的问题。