適用於誰
- 搜「lm studio 怎麼用」「lm studio 中文」「lm studio 下載模型」「lm studio api」的人;
- 不想敲命令行,希望用圖形介面在本機跑開源大模型的人。
本文根據 LM Studio 官方文檔整理,資料核對於 2026-10-11。介面裏的英文名稱(Discover、Chat、Developer 等)沿用官方文檔的寫法,切成中文後對應的名稱以實際介面為準。
結論先說
- LM Studio 是一個帶圖形介面的本地大模型桌面應用:下載模型、聊天、開本地 API 服務都在一個窗口裏完成。
- 三步上手:在 Discover 頁下載模型 → 在 Chat 頁用模型加載器加載 → 開始對話。
- 介面可以切成中文:設定裏的 Preferences → Language。
- 下載時看到的 Q4、Q8 是量化版本,同一個模型的不同壓縮程度。官方建議機器帶得動就選 4-bit 或更高的版本。
- 本地 API 兼容 OpenAI 格式,官方示例地址是
http://localhost:1234/v1。 - 官方說明:聊天、讀文檔、本地服務這些核心功能都不需要聯網,對話內容不會離開你的裝置。
系統要求
官方文檔列出的要求:
| 系統 | 要求 |
|---|---|
| macOS | Apple Silicon 芯片(M 系列),macOS 14.0 或更新;建議 16GB 以上內存,8GB 也能用但只適合小模型和較小的上下文。Intel 芯片的 Mac 目前不支持 |
| Windows | x64 和 ARM(驍龍 X Elite)都支持;x64 的 CPU 需要支持 AVX2 指令集;建議至少 16GB 內存、至少 4GB 獨立顯存 |
| Linux | 以 AppImage 形式分發,支持 x64 和 ARM64;要求 Ubuntu 20.04 或更新 |
步驟
1. 安裝並切換中文
到 lmstudio.ai 下載安裝。裝好後如果想用中文介面:
- 按
Ctrl+,(macOS 是Cmd+,)打開設定; - 在 Preferences 下找到 Language 下拉選單,選擇中文。
官方文檔列出的介面語言包含中文(簡體、繁體都有,由社區貢獻者翻譯)。文檔還註明:要進入設定頁,需要處於 Power User 或更高的模式;如果你在介面上找不到設定,先把應用的模式從 User 切到 Power User(切換位置以實際介面為準)。
2. 下載第一個模型
- 打開 Discover 頁(快捷鍵
Ctrl+2,macOS 是Cmd+2); - 從推薦列表裏挑一個,或者在搜尋框輸入關鍵詞(如
qwen、gemma)。官方說明這裏搜的是 Hugging Face 上的模型,也可以直接粘貼用戶名/模型名,甚至完整的 Hugging Face 連結; - 在右側選擇一個下載選項,點下載。
下載選項怎麼選:同一個模型會列出 Q3_K_S、Q4_K_M、Q8_0 等多個文件。官方的解釋是,它們是同一個模型在不同保真度下的拷貝,Q 代表「量化」,大致就是壓縮文件體積、同時犧牲一部分質素。數字越小文件越小、質素損失越大。官方建議:機器跑得動的話,選 4-bit 或更高。更完整的判斷方法見《本地大模型怎麼選》。
3. 加載模型並聊天
- 切到 Chat 頁;
- 打開模型加載器(快捷鍵
Ctrl+L,macOS 是Cmd+L); - 選一個已下載的模型,可以順便調整加載參數(例如上下文長度、放多少層到顯卡);
- 加載完成後直接提問。
官方對「加載」的解釋是:把模型的權重放進電腦內存。所以加載會佔用相當於模型文件大小的內存或顯存,加載不了通常就是內存不夠,換小一檔的量化版本或更小的模型。
聊天頁的幾個操作:Ctrl + N 新建對話,Ctrl + Shift + N 新建文件夾;對話可以拖進文件夾整理;拖動對話標籤到窗口左右兩側可以分屏並排看兩個對話。
4. 讓模型讀文檔
對話裏可以附加 .docx、.pdf、.txt 文件。官方文檔說明了兩種處理方式:
- 文檔夠短、放得進模型的上下文:全文直接加入對話;
- 文檔很長:自動改用檢索增強(RAG),只挑出和你的問題相關的片段給模型參考。
所以問長文檔時有一個官方給的竅門:問題裏盡量多帶上下文,把你預期原文中會出現的術語、說法寫進問題裏,檢索到正確片段的概率更高。文檔處理全部在本機完成。
5. 開啟本地 API 服務
- 打開 Developer 頁,啟動服務,並加載一個模型;
- 用任何支持 OpenAI 格式的代碼或工具連接。官方示例:
python
from openai import OpenAI
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")
completion = client.chat.completions.create(
model="model-identifier", # 換成 Developer 頁裏顯示的模型標識
messages=[
{"role": "system", "content": "回答使用簡體中文。"},
{"role": "user", "content": "介紹一下你自己。"},
],
temperature=0.7,
)
print(completion.choices[0].message)
api_key 填任意字符串即可。除了 OpenAI 兼容接口,官方還提供自己的 REST API(文檔標註為 beta)和 TypeScript SDK。
也可以用自帶的命令行工具 lms(隨 LM Studio 一起安裝,需要先至少打開過一次應用):
bash
lms server start # 啟動服務,端口沿用上次的設定
lms server start --port 3000
lms ls # 列出已下載的模型
lms ps # 列出已加載的模型
想讓服務常駐,可以在設定裏勾選「登入時啟動 LLM 服務」,之後關閉窗口會最小化到系統托盤,服務繼續在後台運行。
6. 導入在別處下載的模型
已經有 .gguf 文件的話,不用重新下載:
bash
lms import 路徑/模型文件.gguf
官方把這個命令標註為實驗性功能。也可以手動把文件放進模型目錄,按「發佈者 / 模型名 / 文件」的結構存放,例如 ~/.lmstudio/models/發佈者/模型名/文件.gguf。模型目錄的位置可以在 My Models 頁修改,系統盤空間緊張時把它改到別的盤。
常見問題
Q:LM Studio 和 Ollama 有什麼區別?
兩者都是在本機運行開源模型的工具。按各自官方文檔的描述,LM Studio 以圖形介面為主,模型搜尋、聊天、文檔問答和服務開關都在窗口裏;Ollama 以命令行和後台服務為主,預設端口是 11434。兩者都提供 OpenAI 兼容接口,同一個 GGUF 模型兩邊都能用。不熟悉命令行的人從 LM Studio 開始更順手。
Q:下載模型很慢或者搜不到?
官方離線說明裏寫明,搜尋和下載模型需要聯網,請求會發往 huggingface.co。網絡訪問不到時,可以在別處獲取模型文件後用上面的「導入」方式加載。
Q:模型會從我的聊天裏學習嗎?
不會。官方的說法是模型不會從對話中「學習」,它只知道當前對話裏的內容和你通過系統提示詞等配置提供的資訊。
Q:聊天記錄存在哪裏?
在對話上點右鍵選擇在文件管理器中顯示。預設路徑是 ~/.lmstudio/conversations/(Windows 是 %USERPROFILE%\.lmstudio\conversations),JSON 格式,官方不建議手動修改。
Q:完全斷網能用嗎?
能。模型下載到本機後,聊天、讀文檔、本地服務都不需要聯網。需要聯網的只有搜尋和下載模型、下載運行時、檢查更新這幾件事。
參考資料
- LM Studio 文檔首頁 — https://lmstudio.ai/docs/app
- System Requirements — https://lmstudio.ai/docs/app/system-requirements
- Get started with LM Studio — https://lmstudio.ai/docs/app/basics
- Download an LLM — https://lmstudio.ai/docs/app/basics/download-model
- Chat with Documents — https://lmstudio.ai/docs/app/basics/rag
- Offline Operation — https://lmstudio.ai/docs/app/offline
- lms CLI — https://lmstudio.ai/docs/cli
0 條評論
還沒有評論,來搶沙發~