AI 进阶 · 好用库编辑 · 更新 2026-10-01
在自己电脑上跑大模型：Ollama、LM Studio 入门
本地大模型把开源模型下载到自己电脑上运行，对话和文件都不会上传到云端，适合处理不便外传的资料。代价是能力通常不如云端旗舰模型，而且对内存和显卡有要求。
先选路线
想要图形界面、点几下就能用，选 LM Studio；习惯命令行或想给其他软件提供接口，选 Ollama，再配 Open WebUI 或 Cherry Studio 当聊天界面；想让模型读自己的文档库，可试 AnythingLLM。先从小参数模型开始。
按你的情况选择
| 你的情况 | 候选路线 | 为什么考虑 | 注意什么 |
|---|---|---|---|
| 零基础，想先试试 | LM Studio / Jan | 图形界面下载和运行模型 | 模型文件较大，注意磁盘空间 |
| 长期使用、接入其他软件 | Ollama | 一行命令运行，提供本地接口 | 需要基本的命令行操作 |
| 想要好看的聊天界面 | Open WebUI / Cherry Studio | 连接本地或云端模型 | 从官网或官方仓库下载 |
| 让 AI 读自己的资料 | AnythingLLM | 本地知识库问答 | 回答质量取决于模型和文档 |
操作与检查
- 查看电脑内存与显卡（Mac 看统一内存大小）。
- 从 7B 左右的小模型开始，确认速度可以接受。
- 把常用任务（总结、改写、翻译）分别测试一遍。
- 需要更强能力时，再考虑更大的模型或改用云端 API。
样本与核验范围
资料指南：尚未做效果实测
本文为入门路线整理，未在特定硬件上做速度测试；硬件需求因模型和量化方式而异。
相关分类
各工具的费用、上传方式以官网为准。本站产品已单独标注，没有付费排名。
