Ollama怎么用:安装、下载模型与常用命令(Windows / macOS / Linux)

Ollama怎么用?本文按 Ollama 官方文档讲清三个系统的安装方式和系统要求、第一条 ollama run 命令、pull / ls / ps / stop / rm 等常用命令的作用,以及怎么看模型是否跑在显卡上、怎么升级和卸载。

NNathaniel bigo··原创首发·AI 辅助撰写
8 分钟读完
资料核对于 2026-10-11 · 依据官方文档与公开资料整理 免费账号 账号

适用于谁

  • 搜「ollama怎么用」「ollama 安装」「ollama 常用命令」,想在自己电脑上跑开源大模型的人;
  • 装好了但只会 ollama run,想知道其他命令是干什么的人。

本文根据 Ollama 官方文档整理,资料核对于 2026-10-11。文中的模型名(如 gemma4)沿用官方文档示例,换成你想跑的模型即可。只想跑 DeepSeek 的话,可以直接看《DeepSeek本地部署教程》。

结论先说

  1. Ollama 是在本机下载和运行开源模型的工具,装完后后台常驻,命令行里用 ollama 操作,同时在 http://localhost:11434 提供本地 API。
  2. 一条命令就能开始:ollama run 模型名,没下载过会自动下载,然后进入对话,输入 /bye 退出。
  3. 常用命令不到十个:run、pull、ls、ps、stop、rm、create、serve。
  4. 跑得快不快先看 ollama ps:PROCESSOR 一列显示 100% GPU 才是完全跑在显卡上。
  5. 官方说明本地运行时不会看到你的提示词和数据;云端模型是另一回事,见文末。

步骤

1. 安装

到 ollama.com/download 下载对应系统的安装包。官方文档列出的要求:

系统要求安装方式
WindowsWindows 10 22H2 或更新(家庭版、专业版均可);NVIDIA 显卡需要 551.61 或更新的驱动运行 OllamaSetup.exe,不需要管理员权限,默认装在用户目录
macOSmacOS Sonoma(14)或更新;Apple M 系列芯片支持 CPU 和 GPU,Intel 机型只用 CPU打开 ollama.dmg,把应用拖进「应用程序」
Linux—终端执行 curl -fsSL https://ollama.com/install.sh \

Windows 版的程序本身至少需要 4GB 空间,模型另算。官方提醒模型体积从几十 GB 到上百 GB 不等,系统盘不够的话先看《Ollama 修改模型存储位置》。

装好后验证:

bash
ollama -v

2. 跑第一个模型

bash
ollama run gemma4

第一次会先下载模型,完成后出现 >>> 提示符,直接打字提问。几个交互技巧:

  • 输入 /bye 退出对话;
  • 多行输入用三个双引号包起来:先输入 """,写完再输入 """ 结束;
  • 支持图片的模型,可以把图片路径写进问题里,例如 ollama run gemma4 "这张图里有什么? /path/to/图片.png"。

模型名后面可以带标签选规格,写法是 模型名:标签,例如官方快速开始里的 gemma4:e2b。有哪些模型和标签,到 ollama.com/search 查。

3. 常用命令

命令作用
ollama run 模型名运行模型并进入对话(没有就先下载)
ollama pull 模型名只下载或更新模型,不进入对话
ollama ls列出本机已下载的模型
ollama ps列出当前加载在内存里的模型
ollama stop 模型名立刻把模型从内存里卸载
ollama rm 模型名删除本机的模型文件
ollama show --modelfile 模型名查看模型的 Modelfile(模板、参数)
ollama create 名字 -f Modelfile用 Modelfile 创建自定义模型
ollama serve手动启动服务(桌面应用会自动启动,一般用不到)
ollama signin / ollama signout登录、退出 Ollama 账号(用云端模型时才需要)

ollama serve --help 可以看到所有可设置的环境变量。

4. 看模型是不是跑在显卡上

bash
ollama ps

官方文档给出的输出示例:

NAME             ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:latest    c6eb396dbd59    9.6 GB    100% GPU     131072     2 minutes from now

PROCESSOR 一列的含义:

  • 100% GPU:模型完整加载到显存;
  • 100% CPU:完全在内存里跑,速度会慢很多;
  • 48%/52% CPU/GPU:显存不够,一部分放在内存。出现这种情况说明模型对你的显卡来说偏大,换小一档的规格更实际。

UNTIL 是模型自动卸载的时间:默认在内存里保留 5 分钟,方便连续提问。

5. 调上下文长度

上下文长度决定模型一次能「记住」多少内容。官方文档写明,默认值按显存大小自动选:不足 24 GiB 用 4k,24–48 GiB 用 32k,48 GiB 及以上用 256k。并建议联网搜索、智能体、编程工具这类任务至少设到 64000。

两种改法:

  • 桌面应用:在设置里拖动上下文长度的滑块;
  • 命令行启动服务时指定:OLLAMA_CONTEXT_LENGTH=64000 ollama serve。

上下文越大占用显存越多,改完用 ollama ps 看 CONTEXT 和 PROCESSOR 两列确认。

6. 升级与卸载

  • 升级:macOS 和 Windows 会自动下载更新,点任务栏或菜单栏图标里的「Restart to update」生效;Linux 重新执行一次安装脚本。
  • 卸载:Windows 在「添加或删除程序」里卸载。注意如果你改过模型存放位置,卸载程序不会删除那里的模型,需要手动清理。macOS 要删除的文件夹清单见官方 macOS 文档。

常见问题

Q:模型下载到哪里了?

官方 FAQ 给出的默认位置:macOS 在 ~/.ollama/models,Linux 在 /usr/share/ollama/.ollama/models,Windows 在 C:\Users\用户名\.ollama\models。

Q:Ollama 会把我的对话传回去吗?

官方 FAQ 的回答是:本地运行时看不到你的提示词和数据。使用云端模型时会处理提示词和回复以提供服务,但称不存储、不记录这些内容,也不用于训练。想完全只在本地用,可以设置环境变量 OLLAMA_NO_CLOUD=1 关闭云端功能(同时会失去云端模型和联网搜索)。

Q:没有独立显卡能用吗?

能,只是会用 CPU 和内存跑,速度慢。选参数量小的模型,见《本地大模型怎么选》。

Q:Windows 终端里进度条显示成方块?

官方说明是旧终端字体不支持进度条用到的 Unicode 字符,换一个终端字体即可,不影响下载。

Q:日志在哪里看?

Windows 在 %LOCALAPPDATA%\Ollama(server.log 是服务日志),macOS 在 ~/.ollama/logs。

Q:怎么接到 Claude Code、Codex 这类编程工具?

官方提供了 ollama launch 命令,例如 ollama launch claude,按提示选择模型即可,支持的工具列表见官方 CLI 文档。

参考资料

  • Ollama 文档:Quickstart — https://docs.ollama.com/quickstart
  • CLI Reference — https://docs.ollama.com/cli
  • Windows — https://docs.ollama.com/windows
  • macOS — https://docs.ollama.com/macos
  • Linux — https://docs.ollama.com/linux
  • FAQ — https://docs.ollama.com/faq
  • Context length — https://docs.ollama.com/context-length

Nathaniel 的更多内容

  1. 01

    promptfoo 使用教程:对比提示词和模型、写断言自动评测(安装与配置)

    promptfoo 是什么、怎么使用?按官方 README 和入门文档讲清它的用途、三种安装方式、用示例项目起步、promptfooconfig.yaml 里提示词、模型和测试用例三部分怎么写、常用断言类型的含义、eval 与 view 两条命令,以及把它放进日常改提示词流程的方法。

    ChatGPT其他 AI 工具0
  2. 02

    Kimi API怎么用:API Key获取、Python调用、K3价格与429报错处理

    Kimi API Key 在哪里获取、怎么用 Python 调用 K3、价格怎么算、429 和 401 报错怎么办?本文按 Kimi API 开放平台官方文档讲清注册认证、创建 Key、base_url 与模型名、计费规则和常见错误排查。

    Kimi0
  3. 03

    Cursor Agent 模式怎么用:Agent、Plan、Ask 三种模式,检查点回滚与消息排队

    Cursor Agent 模式是什么、和 Plan / Ask 模式怎么选?按官方文档讲清 Agent 能调用哪些工具、Shift+Tab 切换模式、Plan 模式先出方案再动手、用检查点撤销改动、任务进行中排队或插话,以及 /goal 长目标。

    Cursor0
  4. 04

    Gemini 聊天记录怎么导出:导出到文档 / 表格、生成 PDF 与用 Takeout 批量导出完整对话

    Gemini 没有「一键导出全部对话」的按钮,但有三条官方路径:单条回答导出到 Google 文档、Gmail、表格;让 Gemini 直接生成 PDF、Word、Markdown 文件;用 Google Takeout 批量下载全部活动记录。本文给出每种方法的步骤和限制。

    Gemini0
  5. 05

    ChatGPT 生成图片中文乱码、文字错误怎么办:7 个按顺序试的办法

    让 ChatGPT 做海报、封面、信息图,中文总是缺笔画、错字、乱码?本文按 OpenAI 官方图像提示指南,给出从写法、字数、局部修改、质量档位到后期排版的 7 个办法,以及什么时候干脆别让 AI 写字。

    ChatGPT0
  6. 06

    OpenCode Skills 使用指南:技能目录、命名规则、权限配置与不加载排查

    OpenCode 的 Skills 放在哪个目录、怎么控制哪些技能能用?按 OpenCode 官方文档讲清六个扫描位置、name 的正则规则、skill 工具的工作方式、在 opencode.json 里用 allow / deny / ask 配置权限、按智能体覆盖,以及技能不出现时的五项检查。

    其他 AI 工具0

同产品的其他教程

  1. 01

    MinerU 是什么、怎么用:把 PDF 等文档解析成 Markdown(4.0 的安装、四档解析与命令)

    MinerU 是什么、怎么安装使用?按官方中文 README 讲清 4.0 版本的定位、支持的输入与输出格式、flash / basic / standard / advanced 四档解析各适合什么、pip 安装命令、mineru-kit 与 mineru 两个命令的分工和常用写法,以及从旧版升级要注意什么。

    其他 AI 工具0
  2. 02

    npx skills add 怎么用:从 GitHub 安装 Skill、skills.sh 是什么与常用命令

    网上的 Skill 安装命令大多是 npx skills add 开头,它是什么、装到哪去了?按官方 README 讲清 skills 命令行工具支持的来源写法、项目与全局两种范围、-a 指定工具、list / find / update / remove 等命令、软链接与复制的区别,以及怎么关掉遥测。

    Claude其他 AI 工具0
  3. 03

    即梦首尾帧怎么用:两张图生成过渡视频(在哪里、提示词、不能用怎么办)

    即梦首尾帧在哪里、怎么用?本文讲清首尾帧入口、哪些模型支持、两张图的比例要求、过渡提示词怎么写,以及「首尾帧不见了 / 不能用了」「画面跳变」的原因和解决办法。

    其他 AI 工具0
  4. 04

    DeepSeek怎么用:网页版与手机App入门(深度思考、智能搜索、上传文件)

    DeepSeek怎么用?本文从官方入口和登录方式讲起,说清输入框里的「深度思考」「智能搜索」和上传附件各管什么,历史对话怎么改名、置顶、分享和导出,以及手机上使用的注意点。

    其他 AI 工具0
  5. 05

    文心一言网页版怎么用:改名「文心」后的入口、对话与工作任务、PPT生成

    文心一言现在叫什么、网页版入口在哪、怎么用?本文按百度文心官网和 App Store 官方页面讲清「文心」的新入口、对话与工作两种模式、图片生成和帮我写作、任务托管与 AIPPT、知识库和定时任务从哪开始。

    其他 AI 工具0
  6. 06

    Trae 规则与 MCP 配置教程:.trae/rules 四种生效方式、导入 AGENTS.md、添加 MCP Server

    Trae rules 怎么配置、Trae 怎么用 MCP?按 TRAE 官方中文文档讲清全局规则与项目规则的位置、四种生效方式、子目录与多层嵌套、导入 AGENTS.md / CLAUDE.md、提交信息规则,以及从市场添加和手动配置 MCP Server、项目级 mcp.json。

    其他 AI 工具0

0 条评论

登录 后参与评论

还没有评论,来抢沙发~