適用於誰
- 搜「deepseek 本地部署」「deepseek本地部署教學」「deepseek 本地部署硬件要求」「deepseek ollama 本地部署」的人;
- 想離線使用、或者不想把內部資料發到雲端,願意接受效果打折的人。
本文根據 Ollama 官方模型庫頁面、Ollama 官方文檔和 DeepSeek 官方公告整理,資料核對於 2026-10-11。
結論先說
- 個人電腦上能跑的是「蒸餾小模型」,不是官方在線版。Ollama 模型庫裏
deepseek-r1提供 1.5b 到 671b 多個尺寸,小尺寸是用 DeepSeek-R1 的推理數據在其他開源小模型上蒸餾出來的,能力和網頁版差距明顯。 - 選尺寸先看體積:模型文件從 1.1GB 到 404GB 不等,內存或顯存要裝得下模型還得留餘量。
- 三步就能跑起來:裝 Ollama →
ollama run deepseek-r1→ 在終端裏對話。 - 本地部署只解決「離線、不排隊、數據不出本機」,不會帶來聯網搜尋,也不會比在線版更聰明。
先弄清:你下載的是什麼
Ollama 模型頁(2026-10-11 核對)列出的 deepseek-r1 各標籤:
| 標籤 | 文件體積 | 上下文窗口 | 說明 |
|---|---|---|---|
| deepseek-r1:1.5b | 1.1GB | 128K | 最小,能跑但能力有限 |
| deepseek-r1:7b | 4.7GB | 128K | |
| deepseek-r1:8b | 5.2GB | 128K | 預設標籤(latest) |
| deepseek-r1:14b | 9.0GB | 128K | |
| deepseek-r1:32b | 20GB | 128K | |
| deepseek-r1:70b | 43GB | 128K | |
| deepseek-r1:671b | 404GB | 160K | 完整版,個人裝置基本無法運行 |
模型頁說明,預設的 8b 是 DeepSeek-R1-0528-Qwen3-8B,即在 Qwen3 8B 上蒸餾的版本;只有 671b 才是完整的 DeepSeek-R1。
另外兩點容易混淆:
- Ollama 上還能搜到
deepseek-v4.1-flash、deepseek-v4-pro,它們帶的是 cloud 標記,是通過 Ollama 雲端調用的在線模型,不會下載到你的電腦上運行; - DeepSeek 官方 2026-09-10 的公告說 V4.1 Flash 的權重已在 Hugging Face 開源,但那是一個 552B 參數的大模型,面向有大規模算力的機構,不是個人電腦的選項。
硬件怎麼估
Ollama 的模型頁只給了文件體積,沒有給每個尺寸的最低配置表。可以按這個思路估算:
- 模型要整個裝進內存或顯存,所以可用顯存(或沒有獨顯時的內存)要大於文件體積,並給上下文留出餘量;
- 有獨立顯卡時看顯存:比如 8GB 顯存適合 7b / 8b 這一檔,24GB 顯存可以試 32b(20GB);
- 裝不進顯存就會分一部分到 CPU 跑,能用但明顯變慢。運行
ollama ps可以看到PROCESSOR一列,顯示「100% GPU」說明完全在顯卡上; - 硬碟至少留出模型體積的空間。
拿不準就從預設的 8b 開始,夠快再往上換。
步驟
1. 安裝 Ollama
到 Ollama 官網下載頁下載 macOS、Windows 或 Linux 版本並安裝。安裝後可以直接打開桌面應用,也可以在終端裏使用 ollama 命令。
2. 下載並運行模型
bash
ollama run deepseek-r1 # 預設 8b,約 5.2GB
ollama run deepseek-r1:14b # 指定尺寸
第一次運行會自動下載,完成後出現輸入提示符,直接打字提問。輸入 /bye 退出。以後想更新到新版本,運行 ollama pull deepseek-r1。
R1 是推理模型,回答前會先輸出一段思考過程,這是正常現象。
3. 調整上下文長度
Ollama 文檔說明,預設上下文長度按顯存自動決定:顯存小於 24GiB 時是 4k,24–48GiB 時 32k,48GiB 以上 256k。4k 很容易不夠用——長文檔讀一半就「忘了前面」,多半是這個原因。
調整方法:在 Ollama 桌面應用的設定裏拖動上下文長度滑塊,或者啟動服務時設定環境變量:
bash
OLLAMA_CONTEXT_LENGTH=32000 ollama serve
上下文越大佔用顯存越多。官方建議聯網搜尋、Agent、編程工具這類任務至少設到 64000,前提是硬件撐得住。
4. 用本地 API 接到其他工具
Ollama 運行後會在本機 11434 端口提供接口,模型頁給的調用示例:
bash
curl http://localhost:11434/api/chat \
-d '{
"model": "deepseek-r1",
"messages": [{"role": "user", "content": "你好"}]
}'
支持自定義接口地址的聊天客戶端、筆記插件、編程工具,把地址指向本機這個端口即可。
常見問題
Q:本地版和網頁版 DeepSeek 一樣嗎?
不一樣。網頁版 / App 用的是官方在線的最新模型,還帶聯網搜尋和文件解析;本地小尺寸是蒸餾模型,適合簡單問答、改寫、離線場景,複雜推理和長文寫作差距明顯。
Q:沒有獨立顯卡能跑嗎?
能,用 CPU 和內存跑,速度慢。選 1.5b 或 7b / 8b,並確保內存明顯大於模型體積。
Q:下載很慢或中斷怎麼辦?
重新執行同一條 ollama run 或 ollama pull 命令繼續即可;換個時間段或網絡再試。
Q:本地部署能聯網搜尋嗎?
模型本身不能聯網。需要搜尋能力得靠外層工具(帶搜尋功能的客戶端或 Agent 框架)調用,具體看所用工具的說明。
Q:本地模型是不是「沒有限制」?
不是。模型的安全訓練在權重裏,本地運行不會改變這一點;本文也不提供任何規避內容安全機制的方法。
Q:公司想私有化部署完整版怎麼辦?
完整尺寸的模型需要伺服器級的多卡算力,屬於工程項目。先評估是否直接用官方 API 更划算,見《DeepSeek API 怎麼用》。
參考資料
- Ollama 模型庫:deepseek-r1 — https://ollama.com/library/deepseek-r1
- Ollama 模型搜尋:deepseek — https://ollama.com/search?q=deepseek
- Ollama 文檔:Quickstart — https://docs.ollama.com/quickstart
- Ollama 文檔:Context length — https://docs.ollama.com/context-length
- DeepSeek 新聞:DeepSeek-V4.1-Flash 發佈(2026-09-10)— https://api-docs.deepseek.com/zh-cn/news/news260910
0 條評論
還沒有評論,來搶沙發~