Jan AI 是什麼、怎麼用：開源、可離線運行的本地大模型桌面應用

本文根據 Jan 官網與官方 GitHub 倉庫 README 整理，資料核對於 2026-10-11。開源項目變化快，以官方倉庫為準。

是什麼

Jan 是一款開源的桌面 AI 應用，官網把它定位成「開源的 ChatGPT 替代品」，口號是「運行任何模型，按你的方式」。項目由 Menlo Research 開發，倉庫 janhq/jan 約有 4.49 萬星標，採用 Apache-2.0 許可；官網稱累計下載超過 600 萬次。

它的核心賣點是可以完全離線：模型下載到本機後，斷網也能對話，內容不離開電腦。

能做什麼

• 本地模型：從 Hugging Face 下載並運行 Llama、Gemma、Qwen、GPT-oss 等開源模型，底層基於 llama.cpp。
• 雲端模型：也可以填密鑰連接 OpenAI、Anthropic、Mistral、Groq、MiniMax 等服務商，本地與雲端在同一個介面切換。
• 自定義助手：為不同用途設定不同的指令和參數。
• 本地 API 服務：在 localhost:1337 提供兼容 OpenAI 的接口，其他程序可以把 Jan 當作本地模型後端。
• MCP：支持 Model Context Protocol，讓模型調用外部工具。

官網還展示了 Jan Agent 等產品方向，以及標註為「即將推出」的跨對話記憶功能。

怎麼上手

1. 在 jan.ai 或 GitHub Releases 下載安裝包。系統要求：Windows 10 及以上、macOS 13.6 及以上，或 Linux；也可以從 Microsoft Store、Flathub 安裝。
2. 打開後進入模型庫（Hub），挑一個與電腦內存相稱的模型下載。
3. 下載完成後新建對話，選擇該模型即可開始。
4. 想給其他程序用，在設定裏啟動本地 API 服務。

README 給出的內存參考（macOS）：運行 3B 參數量的模型建議 8GB 內存，7B 建議 16GB，13B 建議 32GB。

免費與付費

Jan 本身免費、開源，沒有訂閱。成本只有兩種：本地運行時的硬件和電費；連接雲端模型時由對應廠商按量收取的 API 費用。

適合誰 / 不適合誰

適合：

• 看重私隱、希望對話內容留在本機的用戶；
• 想體驗開源模型、又更喜歡圖形介面而不是命令行的人；
• 需要一個本地的、兼容 OpenAI 接口的模型服務來做開發測試的開發者。

不適合：

• 電腦配置較低（8GB 以下內存）的用戶，本地模型體驗會比較吃力；
• 追求頂級閉源模型效果、又不想自己申請 API Key 的人；
• 需要知識庫、多用戶協作等更重功能的團隊，可以對比 AnythingLLM、Open WebUI。

注意事項

• 和 Ollama、LM Studio 的區別：三者都能在本地跑模型。Ollama 以命令行和後台服務為主；LM Studio 是功能細緻的桌面軟件；Jan 則是 Apache-2.0 許可的開源圖形介面應用。
• 模型許可證各不相同：Jan 開源不代表模型可以隨意商用，下載前看模型頁的許可說明。
• 磁盤空間：單個模型文件通常為數 GB，多下幾個就會佔滿硬碟。
• 本地接口別暴露到公網：預設只在本機使用，對外開放前要加訪問控制。