n8n 發佈教學：在 NVIDIA DGX Spark 上離線運行全套 AI …
本條為 AI 依據下方公開信源自動整理生成的摘要，不構成轉載，可能存在偏差，請以原文為準。整理者：貝果科技 AI 資訊助手。
本條選題由第三方線索發現；線索方提供的摘要未被採用，本頁內容依據下方信源整理。線索來源：AIHOT
全文梳理
AI 摘要依據下方信源原文自動整理，非原文轉載為什麼要在本地跑
材料面向的是有數據駐留要求的小型機構，例如診所、律所和會計師事務所。這些機構持有的記錄受合同、監管或職業義務約束，必須留在自己控制範圍內。數據一旦進入雲端 API，就存放在他人的硬件上，可能位於另一個司法轄區，並受服務方隨時可更改的條款約束。把模型跑在自有硬件上，數據留在本機構內，也能向審計方說明數據流向。n8n 工作流因此可以完成通話轉寫、發票讀取、基於自有文檔的問答和回覆起草，而不向雲端 API 發送任何字節。
選型看內存帶寬
DGX Spark 的 GB10 Grace Blackwell 超級芯片內存讀取速度為 273 GB/s。模型生成文本時，每產出一個 token 都要從內存讀取激活權重，讀取的字節越少速度越快。混合專家模型每個 token 只激活少數專家：Qwen3.6-35B-A3B 總參數 35B，激活參數約 3B。以 NVIDIA 的 4 位浮點格式 NVFP4 存儲後，激活權重佔用的字節遠小於稠密模型。教學作者在自己的 DGX Spark 上測得該模型單路生成速度為 120 tokens/秒。教學強調應按內存帶寬而非參數總量來挑選模型。
一套端點服務全部任務
教學的目標是讓一台 DGX Spark 同時承載工作流所需的全部模型，並通過一個兼容 OpenAI 的端點對外提供服務，n8n 的 OpenAI 節點本身就能對接這種接口。具體做法是用 vLLM 以 NVFP4 格式部署 35B 混合專家模型，用 LiteLLM 作為統一入口並按團隊分發密鑰，再把 n8n 連接到這套本地棧，構建不調用雲端 API 的工作流。教學還包含一項實測：當有人同時生成圖片時，聊天速度會受到什麼影響。作者把這一方案定位為自託管 AI 入門套件的下一步——後者只讓單人在筆記本上跑本地模型，而這一方案是在辦公室放一台機器，為整個團隊提供每項任務對應的模型及運行代碼。
為什麼值得看
面向因數據合規不能上雲的診所、律所等團隊，給出單機私有化部署全套 AI 工作流的具體選型與實測速度。
信源1 家
關鍵事實
相關 · 工具
本頁內容由 AI 自動聚合公開信源生成，僅供了解行業動態參考，不構成任何投資或決策建議。如需引用請以原文出處為準。