Jan AI 是什么、怎么用:开源、可离线运行的本地大模型桌面应用

Jan 是 Apache-2.0 许可的开源桌面应用,可在电脑上离线运行 Llama、Gemma、Qwen 等开源模型,也能连接 OpenAI、Anthropic 等云端服务,并提供兼容 OpenAI 的本地接口和 MCP 支持。

NNathaniel bigo··原创首发·AI 辅助撰写
3 分钟读完
资料核对于 2026-10-11 · 依据官方文档与公开资料整理
本文根据 Jan 官网与官方 GitHub 仓库 README 整理,资料核对于 2026-10-11。开源项目变化快,以官方仓库为准。

是什么

Jan 是一款开源的桌面 AI 应用,官网把它定位成「开源的 ChatGPT 替代品」,口号是「运行任何模型,按你的方式」。项目由 Menlo Research 开发,仓库 janhq/jan 约有 4.49 万星标,采用 Apache-2.0 许可;官网称累计下载超过 600 万次。

它的核心卖点是可以完全离线:模型下载到本机后,断网也能对话,内容不离开电脑。

能做什么

  • 本地模型:从 Hugging Face 下载并运行 Llama、Gemma、Qwen、GPT-oss 等开源模型,底层基于 llama.cpp。
  • 云端模型:也可以填密钥连接 OpenAI、Anthropic、Mistral、Groq、MiniMax 等服务商,本地与云端在同一个界面切换。
  • 自定义助手:为不同用途设置不同的指令和参数。
  • 本地 API 服务:在 localhost:1337 提供兼容 OpenAI 的接口,其他程序可以把 Jan 当作本地模型后端。
  • MCP:支持 Model Context Protocol,让模型调用外部工具。

官网还展示了 Jan Agent 等产品方向,以及标注为「即将推出」的跨对话记忆功能。

怎么上手

  1. 在 jan.ai 或 GitHub Releases 下载安装包。系统要求:Windows 10 及以上、macOS 13.6 及以上,或 Linux;也可以从 Microsoft Store、Flathub 安装。
  2. 打开后进入模型库(Hub),挑一个与电脑内存相称的模型下载。
  3. 下载完成后新建对话,选择该模型即可开始。
  4. 想给其他程序用,在设置里启动本地 API 服务。

README 给出的内存参考(macOS):运行 3B 参数量的模型建议 8GB 内存,7B 建议 16GB,13B 建议 32GB。

免费与付费

Jan 本身免费、开源,没有订阅。成本只有两种:本地运行时的硬件和电费;连接云端模型时由对应厂商按量收取的 API 费用。

适合谁 / 不适合谁

适合:

  • 看重隐私、希望对话内容留在本机的用户;
  • 想体验开源模型、又更喜欢图形界面而不是命令行的人;
  • 需要一个本地的、兼容 OpenAI 接口的模型服务来做开发测试的开发者。

不适合:

  • 电脑配置较低(8GB 以下内存)的用户,本地模型体验会比较吃力;
  • 追求顶级闭源模型效果、又不想自己申请 API Key 的人;
  • 需要知识库、多用户协作等更重功能的团队,可以对比 AnythingLLM、Open WebUI。

注意事项

  • 和 Ollama、LM Studio 的区别:三者都能在本地跑模型。Ollama 以命令行和后台服务为主;LM Studio 是功能细致的桌面软件;Jan 则是 Apache-2.0 许可的开源图形界面应用。
  • 模型许可证各不相同:Jan 开源不代表模型可以随意商用,下载前看模型页的许可说明。
  • 磁盘空间:单个模型文件通常为数 GB,多下几个就会占满硬盘。
  • 本地接口别暴露到公网:默认只在本机使用,对外开放前要加访问控制。

Nathaniel 的更多内容

  1. 01

    n8n 是什么、怎么用:可自部署的 AI 工作流自动化工具入门与官网定价

    n8n 是可自部署的工作流自动化平台,用节点画布把各种应用、API 和大模型串起来,既能做传统自动化,也能搭多步骤 AI 智能体。社区版可免费自托管,官方也提供云端版。

    其他 AI 工具0
  2. 02

    Opus Clip 是什么、怎么用:长视频一键切成短视频的 AI 工具教学

    OpusClip 是一款 AI 视频切片工具:上传一条长视频或粘贴链接,AI 自动找出精彩片段,切成带动态字幕、自动竖屏重构的短视频,并给出「爆款潜力分」,还能直接排期发布到 YouTube Shorts、TikTok 等平台。

    其他 AI 工具0
  3. 03

    知乎直答怎么用:已升级为知乎「AI看山」,入口与功能说明

    知乎直答是知乎推出的 AI 搜索问答,2026 年 8 月随知乎 11.0 升级为智能助手「AI看山」:基于知乎社区内容回答问题、可连续追问,并帮创作者做选题、查数据、润色文稿。

    其他 AI 工具0
  4. 04

    Brilliant 是什么、怎么用:用互动题和 AI 导师 Koji 学数学、编程与数据

    Brilliant 是数学、计算机、科学和数据分析的互动学习平台,现在主打 AI 导师 Koji:卡住时用语音或文字一对一引导,通过提问和提示帮你自己想出答案,并按掌握情况生成练习。

    其他 AI 工具0
  5. 05

    Arize Phoenix 是什么、怎么用:可自托管的大模型应用追踪与评测平台

    Phoenix 是 Arize 推出的 AI 可观测平台,用于实验、评测和排障:基于 OpenTelemetry 追踪大模型应用,提供评测、带版本的数据集、实验对比、Playground 和提示词管理,可用一条命令在本机启动。

    其他 AI 工具0
  6. 06

    Synthesia 是什么、怎么用:企业 AI 数字人培训视频平台中文介绍

    Synthesia 是 Synthesia 公司的企业级 AI 视频平台:选数字人、贴脚本就能生成讲解视频,支持 140 多种语言与配音翻译、互动视频和测验,常用于员工培训、产品教程和内部沟通。

    其他 AI 工具0

同主题

  1. 01

    ProcessOn AI 是什么、怎么用:国产在线流程图与思维导图工具的 AI 生成功能

    ProcessOn 是国产在线作图工具,支持流程图、泳道图、思维导图、UML、架构图、ER 图等,多人实时协作、云端存储。AI 功能可快速生成思维导图,可选会议提纲、SWOT 分析等类型。

    其他 AI 工具0
  2. 02

    llama.cpp 是什么、怎么用:本地运行 GGUF 大模型的开源推理引擎,llama-server 自带网页界面

    llama.cpp 是用 C/C++ 编写的开源大模型推理引擎,使用 GGUF 模型格式和量化技术,让普通电脑也能跑大模型。自带 llama-cli 和 llama-server(兼容 OpenAI 的接口加内置网页界面)。

    其他 AI 工具0
  3. 03

    Monica AI 是什么、哪个公司的:浏览器 AI 助手插件功能与费用

    Monica 是新加坡 Butterfly Effect 公司的一体化 AI 助手,以浏览器插件起家:按 Ctrl/Cmd+M 呼出侧边栏,聚合多家大模型做聊天、网页总结、翻译、写作,还能生成图片视频、跑 AI Agent。本文讲清各档额度。

    其他 AI 工具0
  4. 04

    Amp(ampcode)是什么、怎么用:能在云端「orb」里持续干活的编程智能体

    Amp 是一款编程智能体兼开发环境:每个对话线程可以分到一台云端机器(orb),发出指令后合上电脑它仍会继续工作,也能用命令行在自己机器上运行。

    其他 AI 工具0
  5. 05

    DeepSeek 是什么、怎么用:官网入口、是否免费与使用教程

    DeepSeek 是杭州深度求索推出的免费 AI 助手,网页和 App 提供快速模式与专家模式,擅长推理、数学和编程;模型开源,另有 Harness 桌面智能体和低价 API。本文讲清官网入口、怎么用和注意事项。

    其他 AI 工具0
  6. 06

    Perplexity 是什么、怎么用:带引用来源的 AI 搜索引擎上手指南

    Perplexity 是一款 AI 搜索引擎:用一句话提问,它联网查资料、整理成带编号引用的答案,还能做深度研究、生成文件和报告。本文讲清免费版能做什么、Pro 和 Max 的区别与注意事项。

    其他 AI 工具0

同产品的其他教程

  1. 01

    Khanmigo 是什么、怎么用:可汗学院的 AI 辅导老师,教师免费,学生与家长价格说明

    Khanmigo 是可汗学院(Khan Academy)推出的 AI 辅导工具:对学生做引导式答疑、写作和辩论练习、编程反馈;对教师提供备课、出题、评分标准等工具。教师免费,学习者和家长每月 4 美元。

    其他 AI 工具0
  2. 02

    有道翻译怎么用:AI 翻译、文档翻译、润色改写与 arXiv 论文翻译功能说明

    有道翻译是网易有道的在线翻译产品,网页版除文本翻译外,还提供 AI 翻译、文档翻译、润色改写、语法纠错、音视频翻译、arXiv 论文翻译、AI 写作和 AI PPT 等功能。

    其他 AI 工具0
  3. 03

    吐司 AI(tusi.cn / TusiArt)是什么、怎么用:可在线生图的 AI 模型分享社区

    吐司(tusi.cn)是一个 AI 绘画模型分享社区,不用自己装显卡和软件,就能在网页上挑选 Checkpoint、LoRA 模型和 ComfyUI 工作流在线生图,并浏览他人的作品与参数。

    其他 AI 工具0
  4. 04

    ComfyUI 官网下载与使用教程:节点式 AI 工作流、桌面版与云端版

    ComfyUI 是开源的节点式 AI 图像与视频工作流工具,用连线搭建生成流程,支持 Stable Diffusion、FLUX、Wan 等开源模型,可本地免费运行,也有官方桌面版和云端版。

    其他 AI 工具0
  5. 05

    OpenRouter 是什么、怎么用:一个 API 调用数百个大模型(价格与免费模型)

    OpenRouter 是一个大模型 API 聚合平台,用一个 OpenAI 兼容接口和一份余额调用 GPT、Claude、Gemini、DeepSeek 等数百个模型。

    其他 AI 工具0
  6. 06

    Salesforce Agentforce 是什么、怎么收费:Salesforce 的企业级 AI 智能体平台

    Agentforce 是 Salesforce 的企业 AI 智能体平台,用于在销售、客服等业务中部署自主处理任务的智能体,计费方式包括 Flex Credits 按动作计费、按对话计费和按用户的附加许可。

    其他 AI 工具0

0 条评论

登录 后参与评论

还没有评论,来抢沙发~