Haystack 是什麼、怎麼用：deepset 開源的 RAG 與智能體編排框架

本文根據 Haystack 官方 GitHub 倉庫 README 整理，資料核對於 2026-10-11。開源項目變化快，以官方倉庫為準。

是什麼

Haystack 是 deepset 維護的開源框架，README 的定位是：用於構建「經過上下文工程、可用於生產」的大模型應用的開源 AI 編排框架。它是這個領域的老牌項目之一，最早做問答與檢索，現在覆蓋 RAG 和智能體。倉庫約有 2.67 萬星標，採用 Apache-2.0 許可。

和一些「幫你把一切都包起來」的框架相比，Haystack 的風格是顯式：數據從哪來、怎麼檢索、怎麼排序過濾、交給哪個模型，都由你用組件一段段連起來。

能做什麼

README 列出的特性：

• 模組化組件：檢索、工具調用、記憶、評測等都有現成組件，也可以編寫自定義組件。
• 對上下文的顯式控制：自己決定檢索、排序、過濾和路由的每一步。
• 智能體支持：提供智能體生命週期鉤子，並能跟蹤步數、token 用量和工具調用。
• 異步與流式：原生支持異步，可以逐 token 流式輸出。
• 模型無關：可對接多家模型廠商，也能用本地模型。
• Hayhooks：一個獨立的配套項目，把搭好的流水線發佈成 REST API 或 MCP 服務。

怎麼上手

README 給出的安裝命令：

bash
pip install haystack-ai

想用每日構建的預發佈版本，可以加 --pre 參數。

安裝後的典型路線：先按官方教學搭一條最小的 RAG 流水線（文檔寫入 → 檢索 → 組裝提示詞 → 生成），跑通後再替換檢索器、加入重排和評測；需要對外提供服務時用 Hayhooks 發佈。

免費與付費

框架本身開源免費。deepset 另外提供商業產品：Haystack Enterprise Starter（專家支持、模板和部署指南）和 Haystack Enterprise Platform（託管雲或自託管），價格以官網為準。調用模型的費用由各模型廠商收取。

適合誰 / 不適合誰

適合： 要把 RAG 或智能體做成正式產品、需要對每一步可控可測的工程團隊；看重框架穩定性和企業支持的組織；已有搜尋系統、希望在其上疊加大模型能力的團隊。

不適合： 不寫代碼的用戶（可視化平台如 Dify 更合適）；只想快速拼一個演示的初學者；主要使用 TypeScript 的前端團隊。

注意事項

• 網上的舊教學可能基於早期版本，接口與現在的 haystack-ai 包不一定相同，以官方文檔為準。
• 流水線越長，延遲和成本越高，上線前逐段評測，去掉不帶來提升的環節。
• 檢索質素通常比換更大的模型更關鍵，優先把數據清洗和切塊做好。