AI訓練模型38
如何挑選AI訓練模型
这里收录大模型本身以及获取、运行模型的平台:开源模型、模型社区、本地运行工具和模型托管服务。适合想自己部署模型、比较不同模型,或者在本地离线使用 AI 的人。
本页收录的类型
- 模型社区和下载:Hugging Face(全球最大的模型和数据集社区)、魔搭社区 ModelScope(阿里的中文模型社区)。
- 开源模型:Meta 的 LLaMA、Google 的 Gemma 等,可以免费下载、在自己的硬件上运行和微调。
- 本地运行工具:Ollama 一条命令就能在本机运行开源大模型;Chatbox AI、Cherry Studio、AnythingLLM 是可以接入本地模型和各家 API 的桌面客户端。
- 在线运行:Replicate 可以通过 API 在云端运行开源模型,不需要自己的显卡。
本地还是云端
本地运行的好处是数据不出电脑、没有调用费用,缺点是需要足够的显存,大模型跑不动或者很慢。日常使用、处理敏感资料可以本地跑小模型;需要最强能力时用云端 API。
延伸阅读
本站有「如何在本地运行大模型」以及 Ollama、Gemma、vLLM 的详细介绍。
繼續探索 AI 的更多可能瀏覽全部工具