在本地或云端运行开源大模型的工具,支持三大桌面系统
AI训练模型 ollama.com
Ollama 是什么
Ollama 是在自己电脑上运行开源大模型的工具,一条命令就能下载并启动模型,支持 macOS、Windows 和 Linux,也提供官方 Docker 镜像。官方仓库介绍支持 Kimi、GLM、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等模型。代码按 MIT 协议开源,GitHub 上有 18 万多星,是最常用的本地大模型运行工具之一。
能做什么
- 本地运行模型:一条命令下载并运行,模型在本机推理,数据不出电脑
- 本地 API:启动后在本机提供接口,Open WebUI、Chatbox、Cherry Studio 等很多客户端都能直接接入
- 云端模型:电脑跑不动的大模型,可以用 Ollama 的云端服务按 token 付费调用
- 社区围绕它做了大量集成,比如搜索引擎、代码助手、知识库问答
价格
在自己的电脑上运行永远免费、不限量。 云端模型的官方方案:
- 按量付费:0 元起,按每百万 token 计价,无订阅
- Pro:每月 20 美元(按年付 200 美元),每月含 60 美元用量
- Max:每月 100 美元,每月含 300 美元用量
- Team:每月 500 美元起,团队共享每月 1000 美元用量,不限人数
适合谁
- 想离线用 AI、处理敏感资料、不想把数据传到云端的人
- 想免费试用各种开源模型的开发者
- 想给自己的应用接一个本地模型后端的人
使用前要知道
- 本地运行速度取决于你的显卡和内存,大模型可能跑不动或者很慢,可以先从小参数量的模型试起。
- 各模型有自己的许可证,商用前看清楚。
同类工具
可以对比 Jan、Chatbox AI;下载模型可以去 Hugging Face。本站有一篇更详细的 Ollama 介绍文章,以及「如何在本地运行大模型」。