AI 進階 · 好用库編輯 · 更新 2026-10-01
在自己電腦上跑大模型：Ollama、LM Studio 入門
本地大模型把開源模型下載到自己電腦上執行，對話和檔案都不會上傳到雲端，適合處理不便外傳的資料。代價是能力通常不如雲端旗艦模型，而且對記憶體和顯示卡有要求。
先選路線
想要圖形介面、點幾下就能用，選 LM Studio；習慣命令列或想給其他軟體提供介面，選 Ollama，再配 Open WebUI 或 Cherry Studio 當聊天介面；想讓模型讀自己的文件庫，可試 AnythingLLM。先從小引數模型開始。
按你的情況選擇
| 你的情況 | 候選路線 | 為什麼考慮 | 注意什麼 |
|---|---|---|---|
| 零基礎，想先試試 | LM Studio / Jan | 圖形介面下載和執行模型 | 模型檔案較大，注意磁碟空間 |
| 長期使用、接入其他軟體 | Ollama | 一行命令執行，提供本地介面 | 需要基本的命令列操作 |
| 想要好看的聊天介面 | Open WebUI / Cherry Studio | 連線本地或雲端模型 | 從官網或官方倉庫下載 |
| 讓 AI 讀自己的資料 | AnythingLLM | 本地知識庫問答 | 回答質量取決於模型和文件 |
操作與檢查
- 檢視電腦記憶體與顯示卡（Mac 看統一記憶體大小）。
- 從 7B 左右的小模型開始，確認速度可以接受。
- 把常用任務（總結、改寫、翻譯）分別測試一遍。
- 需要更強能力時，再考慮更大的模型或改用雲端 API。
樣本與核驗範圍
資料指南：尚未做效果實測
本文為入門路線整理，未在特定硬體上做速度測試；硬體需求因模型和量化方式而異。
相關分類
各工具的費用、上傳方式以官網為準。本站產品已單獨標註，沒有付費排名。
