AnythingLLM 是什么、下载与使用教程：在自己电脑上搭本地知识库问答

本文根据 AnythingLLM 官网与官方 GitHub 仓库整理，资料核对于 2026-10-11。功能变化快，以官网为准。

是什么

AnythingLLM 是一款开源的本地 AI 应用，代码托管在 GitHub 的 Mintplex-Labs 组织下，官网称星标超过 6.6 万，采用 MIT 许可。官网的介绍是：一个完全运行在你电脑上的私人 AI 助手，不需要账号、不需要 API Key、没有 Token 限制。

它在同类工具里的定位是「开箱即用的本地知识库」：模型运行、文档解析、向量检索这些原本要分别安装配置的东西，它装好就带齐了。

能做什么

• 文档问答：和自己的文件对话，处理过程在本地完成。
• 网页抓取与搜索：把网页内容纳入回答。
• 动态模型选择：既可以用内置的本地模型，也可以连接其他本地或云端模型服务。
• 智能体与自定义技能：让助手调用工具完成多步骤任务，支持后台任务。
• 会议助手：在本机转写并总结会议，不需要往会议里拉机器人。
• 输入增强：官网列出了听写、自动补全等功能。

怎么上手

1. 在 anythingllm.com 下载桌面版（Windows / macOS / Linux）。
2. 首次启动时选择模型来源——用默认的本地模型最省事，电脑配置一般的话选小一点的模型。
3. 新建一个工作区（Workspace），把 PDF、Word、TXT 等文件拖进去，等待向量化完成。
4. 在工作区里提问，回答下方会显示引用的文档片段。

可以这样验证效果：

text
根据我上传的员工手册，年假是怎么计算的？请引用原文所在的章节，如果手册里没有写，就直接说没有。

需要多人共用时，改用 Docker 部署的版本，它支持多用户；团队协作也可以选官方云端版。手机端目前有安卓版。

免费与付费

• 桌面版 / Docker 自部署：免费、开源（MIT）。
• 云端版：面向团队协作的托管服务，价格以官网为准。
• 如果连接的是云端大模型 API，模型费用由对应厂商收取。

适合谁 / 不适合谁

适合：

• 手里有一批不方便上传到云端的资料（合同、内部文档、研究笔记），想在本地问答的人；
• 想体验本地 RAG、但不愿意自己拼装组件的非开发者；
• 需要给小团队搭一个内部文档助手的技术负责人（用 Docker 版）。

不适合：

• 电脑内存小、没有独立显卡又想要高质量回答的用户——本地小模型的效果有限；
• 需要处理海量文档并做精细检索调优的企业场景；
• 只是日常聊天，不涉及自有文档的人。

注意事项

• 本地不等于万无一失：一旦在设置里接入云端模型，提问内容和检索到的文档片段就会发给对应服务商。
• 回答质量取决于文档质量：扫描件、复杂表格解析效果较差，重要结论要对照原文核实。
• 硬件占用：向量化和本地推理会占用较多内存与磁盘，文档多时注意空间。
• 会议转写的合规：录音与转写前先征得与会者同意。