AnythingLLM 是什麼、下載與使用教學：在自己電腦上搭本地知識庫問答

本文根據 AnythingLLM 官網與官方 GitHub 倉庫整理，資料核對於 2026-10-11。功能變化快，以官網為準。

是什麼

AnythingLLM 是一款開源的本地 AI 應用，代碼託管在 GitHub 的 Mintplex-Labs 組織下，官網稱星標超過 6.6 萬，採用 MIT 許可。官網的介紹是：一個完全運行在你電腦上的私人 AI 助手，不需要帳號、不需要 API Key、沒有 Token 限制。

它在同類工具裏的定位是「開箱即用的本地知識庫」：模型運行、文檔解析、向量檢索這些原本要分別安裝配置的東西，它裝好就帶齊了。

能做什麼

• 文檔問答：和自己的文件對話，處理過程在本地完成。
• 網頁抓取與搜尋：把網頁內容納入回答。
• 動態模型選擇：既可以用內置的本地模型，也可以連接其他本地或雲端模型服務。
• 智能體與自定義技能：讓助手調用工具完成多步驟任務，支持後台任務。
• 會議助手：在本機轉寫並總結會議，不需要往會議里拉機器人。
• 輸入增強：官網列出了聽寫、自動補全等功能。

怎麼上手

1. 在 anythingllm.com 下載桌面版（Windows / macOS / Linux）。
2. 首次啟動時選擇模型來源——用預設的本地模型最省事，電腦配置一般的話選小一點的模型。
3. 新建一個工作區（Workspace），把 PDF、Word、TXT 等文件拖進去，等待向量化完成。
4. 在工作區裏提問，回答下方會顯示引用的文檔片段。

可以這樣驗證效果：

text
根據我上載的員工手冊，年假是怎麼計算的？請引用原文所在的章節，如果手冊裏沒有寫，就直接說沒有。

需要多人共用時，改用 Docker 部署的版本，它支持多用戶；團隊協作也可以選官方雲端版。手機端目前有安卓版。

免費與付費

• 桌面版 / Docker 自部署：免費、開源（MIT）。
• 雲端版：面向團隊協作的託管服務，價格以官網為準。
• 如果連接的是雲端大模型 API，模型費用由對應廠商收取。

適合誰 / 不適合誰

適合：

• 手裏有一批不方便上載到雲端的資料（合同、內部文檔、研究筆記），想在本地問答的人；
• 想體驗本地 RAG、但不願意自己拼裝組件的非開發者；
• 需要給小團隊搭一個內部文檔助手的技術負責人（用 Docker 版）。

不適合：

• 電腦內存小、沒有獨立顯卡又想要高質素回答的用戶——本地小模型的效果有限；
• 需要處理海量文檔並做精細檢索調優的企業場景；
• 只是日常聊天，不涉及自有文檔的人。

注意事項

• 本地不等於萬無一失：一旦在設定裏接入雲端模型，提問內容和檢索到的文檔片段就會發給對應服務商。
• 回答質素取決於文檔質素：掃描件、複雜表格解析效果較差，重要結論要對照原文核實。
• 硬件佔用：向量化和本地推理會佔用較多內存與磁盤，文檔多時注意空間。
• 會議轉寫的合規：錄音與轉寫前先徵得與會者同意。