適用於誰
- 搜「ollama怎麼用」「ollama 安裝」「ollama 常用命令」,想在自己電腦上跑開源大模型的人;
- 裝好了但只會
ollama run,想知道其他命令是幹什麼的人。
本文根據 Ollama 官方文檔整理,資料核對於 2026-10-11。文中的模型名(如 gemma4)沿用官方文檔示例,換成你想跑的模型即可。只想跑 DeepSeek 的話,可以直接看《DeepSeek本地部署教學》。
結論先說
- Ollama 是在本機下載和運行開源模型的工具,裝完後後台常駐,命令行裏用
ollama操作,同時在http://localhost:11434提供本地 API。 - 一條命令就能開始:
ollama run 模型名,沒下載過會自動下載,然後進入對話,輸入/bye退出。 - 常用命令不到十個:
run、pull、ls、ps、stop、rm、create、serve。 - 跑得快不快先看
ollama ps:PROCESSOR一列顯示100% GPU才是完全跑在顯卡上。 - 官方說明本地運行時不會看到你的提示詞和數據;雲端模型是另一回事,見文末。
步驟
1. 安裝
到 ollama.com/download 下載對應系統的安裝包。官方文檔列出的要求:
| 系統 | 要求 | 安裝方式 |
|---|---|---|
| Windows | Windows 10 22H2 或更新(家庭版、專業版均可);NVIDIA 顯卡需要 551.61 或更新的驅動 | 運行 OllamaSetup.exe,不需要管理員權限,預設裝在用戶目錄 |
| macOS | macOS Sonoma(14)或更新;Apple M 系列芯片支持 CPU 和 GPU,Intel 機型只用 CPU | 打開 ollama.dmg,把應用拖進「應用程式」 |
| Linux | — | 終端執行 curl -fsSL https://ollama.com/install.sh \ |
Windows 版的程序本身至少需要 4GB 空間,模型另算。官方提醒模型體積從幾十 GB 到上百 GB 不等,系統盤不夠的話先看《Ollama 修改模型存儲位置》。
裝好後驗證:
bash
ollama -v
2. 跑第一個模型
bash
ollama run gemma4
第一次會先下載模型,完成後出現 >>> 提示符,直接打字提問。幾個交互技巧:
- 輸入
/bye退出對話; - 多行輸入用三個雙引號包起來:先輸入
""",寫完再輸入"""結束; - 支持圖片的模型,可以把圖片路徑寫進問題裏,例如
ollama run gemma4 "這張圖裏有什麼? /path/to/圖片.png"。
模型名後面可以帶標籤選規格,寫法是 模型名:標籤,例如官方快速開始裏的 gemma4:e2b。有哪些模型和標籤,到 ollama.com/search 查。
3. 常用命令
| 命令 | 作用 |
|---|---|
ollama run 模型名 | 運行模型並進入對話(沒有就先下載) |
ollama pull 模型名 | 只下載或更新模型,不進入對話 |
ollama ls | 列出本機已下載的模型 |
ollama ps | 列出當前加載在內存裏的模型 |
ollama stop 模型名 | 立刻把模型從內存裏卸載 |
ollama rm 模型名 | 刪除本機的模型文件 |
ollama show --modelfile 模型名 | 查看模型的 Modelfile(模板、參數) |
ollama create 名字 -f Modelfile | 用 Modelfile 創建自定義模型 |
ollama serve | 手動啟動服務(桌面應用會自動啟動,一般用不到) |
ollama signin / ollama signout | 登入、退出 Ollama 帳號(用雲端模型時才需要) |
ollama serve --help 可以看到所有可設定的環境變量。
4. 看模型是不是跑在顯卡上
bash
ollama ps
官方文檔給出的輸出示例:
NAME ID SIZE PROCESSOR CONTEXT UNTIL
gemma4:latest c6eb396dbd59 9.6 GB 100% GPU 131072 2 minutes from now
PROCESSOR 一列的含義:
100% GPU:模型完整加載到顯存;100% CPU:完全在內存裏跑,速度會慢很多;48%/52% CPU/GPU:顯存不夠,一部分放在內存。出現這種情況說明模型對你的顯卡來說偏大,換小一檔的規格更實際。
UNTIL 是模型自動卸載的時間:預設在內存裏保留 5 分鐘,方便連續提問。
5. 調上下文長度
上下文長度決定模型一次能「記住」多少內容。官方文檔寫明,預設值按顯存大小自動選:不足 24 GiB 用 4k,24–48 GiB 用 32k,48 GiB 及以上用 256k。並建議聯網搜尋、智能體、編程工具這類任務至少設到 64000。
兩種改法:
- 桌面應用:在設定裏拖動上下文長度的滑塊;
- 命令行啟動服務時指定:
OLLAMA_CONTEXT_LENGTH=64000 ollama serve。
上下文越大佔用顯存越多,改完用 ollama ps 看 CONTEXT 和 PROCESSOR 兩列確認。
6. 升級與卸載
- 升級:macOS 和 Windows 會自動下載更新,點任務欄或選單欄圖標裏的「Restart to update」生效;Linux 重新執行一次安裝腳本。
- 卸載:Windows 在「添加或刪除程序」裏卸載。注意如果你改過模型存放位置,卸載程序不會刪除那裏的模型,需要手動清理。macOS 要刪除的文件夾清單見官方 macOS 文檔。
常見問題
Q:模型下載到哪裏了?
官方 FAQ 給出的預設位置:macOS 在 ~/.ollama/models,Linux 在 /usr/share/ollama/.ollama/models,Windows 在 C:\Users\用戶名\.ollama\models。
Q:Ollama 會把我的對話傳回去嗎?
官方 FAQ 的回答是:本地運行時看不到你的提示詞和數據。使用雲端模型時會處理提示詞和回覆以提供服務,但稱不存儲、不記錄這些內容,也不用於訓練。想完全只在本地用,可以設定環境變量 OLLAMA_NO_CLOUD=1 關閉雲端功能(同時會失去雲端模型和聯網搜尋)。
Q:沒有獨立顯卡能用嗎?
能,只是會用 CPU 和內存跑,速度慢。選參數量小的模型,見《本地大模型怎麼選》。
Q:Windows 終端裏進度條顯示成方塊?
官方說明是舊終端字體不支持進度條用到的 Unicode 字符,換一個終端字體即可,不影響下載。
Q:日誌在哪裏看?
Windows 在 %LOCALAPPDATA%\Ollama(server.log 是服務日誌),macOS 在 ~/.ollama/logs。
Q:怎麼接到 Claude Code、Codex 這類編程工具?
官方提供了 ollama launch 命令,例如 ollama launch claude,按提示選擇模型即可,支持的工具列表見官方 CLI 文檔。
參考資料
- Ollama 文檔:Quickstart — https://docs.ollama.com/quickstart
- CLI Reference — https://docs.ollama.com/cli
- Windows — https://docs.ollama.com/windows
- macOS — https://docs.ollama.com/macos
- Linux — https://docs.ollama.com/linux
- FAQ — https://docs.ollama.com/faq
- Context length — https://docs.ollama.com/context-length
0 條評論
還沒有評論,來搶沙發~