是什么

Gemma 是 Google 推出的一系列轻量级开放模型，它基于 Google 打造 Gemini 模型时所用的研究成果和技术构建。和只能通过 API 调用的 Gemini 不同，Gemma 的模型权重是公开发布的，开发者可以下载到自己的设备上运行、微调，甚至集成进手机和物联网设备。

Google 对 Gemma 的定位是「让 AI 应用运行在用户需要的任何地方」——从云服务器、笔记本电脑，一直到手机。因此 Gemma 家族格外重视「每个参数能带来多少智能」和计算、显存效率，而不是一味追求参数规模。

Gemma 自发布以来已经迭代多代。根据 Google DeepMind 的 Gemma 页面，2026 年 4 月发布的 Gemma 4 被官方称为「按字节计算能力最强的开放模型」，专为高级推理和智能体工作流设计；此后又陆续推出了 Gemma 4 12B、量化感知训练版本 Gemma 4 QAT，以及基于 Gemma 4 和 Gemini Diffusion 研究的文本扩散模型 DiffusionGemma。

主要功能

多种尺寸。 Gemma 4 提供 E2B、E4B 两个面向手机和物联网设备的小尺寸版本，以及 12B、26B、31B 等面向个人电脑和服务器的版本，便于按硬件条件选择。

多模态与智能体能力。 以 Ollama 模型库中的 gemma4 为例，标注的能力包括视觉理解、工具调用、思考模式和音频；小尺寸版本支持 128K 上下文，12B 及以上版本支持 256K 上下文。官方介绍 Gemma 4 12B 是一个统一的、无需独立编码器的多模态模型。

丰富的专用变体。 围绕主干模型，Google 还发布了一系列针对特定任务的变体，例如：

  • MedGemma：面向医疗文本和医学影像理解；
  • TranslateGemma：翻译模型合集，覆盖 55 种语言；
  • EmbeddingGemma：适合端侧运行的文本嵌入模型；
  • FunctionGemma：把定制化的函数调用能力带到边缘设备；
  • ShieldGemma 2：用于检测违反政策内容的安全分类器；
  • T5Gemma：编码器—解码器结构的 Gemma 模型；
  • VaultGemma：采用差分隐私训练的模型；
  • Gemma Scope 2：帮助研究者理解语言模型内部行为的可解释性工具。

广泛的生态支持。 Gemma 可以通过 Kaggle、Hugging Face 获取，并支持 Keras、PyTorch、JAX、Gemma.cpp、Ollama、LM Studio、Unsloth、Google AI Edge、Google Cloud、Android 等平台和工具。社区基于 Gemma 衍生出的大量模型被官方统称为「Gemmaverse」。

技术原理

与 Gemini 同源。 Gemma 系列和 Gemini 共享研究与技术基础，属于基于 Transformer 的生成式语言模型，并在规模上做了精简，使其能够在单卡甚至端侧设备上运行。

为效率而设计。 Gemma 家族在多个层面优化效率：

  • 小尺寸版本的「有效参数」设计。 E2B、E4B 中的「E」表示有效参数规模，这类版本针对手机等资源受限的设备，力求在较小的运行开销下提供尽量高的能力。
  • 量化感知训练（QAT）。 普通的量化是在训练完成后把权重压缩为低精度，往往会损失一些效果；量化感知训练则在训练过程中就模拟低精度运算，让模型提前适应，从而在压缩后更好地保持质量。Gemma 4 QAT 就是面向手机和笔记本的压缩版本。
  • 多 token 预测草稿模型。 Google 为 Gemma 4 推出了基于多 token 预测的「草稿模型」，用于推测解码：先由草稿模型快速猜出后续若干个 token，再由主模型一次性验证，从而加快推理速度。

扩散式文本生成。 DiffusionGemma 采用了与常规「逐个 token 生成」不同的扩散式生成方式，官方介绍其设计目标是最大化生成速度。

开放权重带来的灵活性。 由于权重公开，开发者可以对 Gemma 做很多闭源模型做不到的事：用自己的数据做全量或 LoRA 微调，让模型适应特定行业术语；把模型量化成更小的格式，塞进内存有限的设备；把它部署在完全隔离的内网环境里；或者像 Gemma Scope 2 那样深入模型内部，研究它的激活与行为。社区里大量基于 Gemma 微调出的模型，正是这种开放性的直接产物。

如何使用

最快的体验方式： 在 Google AI Studio 中直接试用 Gemma 模型，无需任何本地配置。

本地运行： 借助 Ollama，一条命令即可下载并运行：

ollama run gemma4

需要特定尺寸时可以指定标签，例如 ollama run gemma4:e4b 或 ollama run gemma4:31b。运行后也可以通过本地 API 调用：

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{"role": "user", "content": "用三句话介绍你自己"}]
}'

开发与微调： 从 Hugging Face 或 Kaggle 下载权重，用 Transformers、Keras、JAX 等框架加载；需要微调时，可以使用 Unsloth 等工具降低显存需求。面向移动端的部署可以参考 Google AI Edge 和 Android 的相关文档。

下载和使用模型前，请先阅读模型页面上的使用条款。

项目地址

应用场景

  • 端侧与离线应用：在手机、笔记本上运行小尺寸模型，实现无需联网的智能功能。
  • 私有化部署：在自有服务器上部署大尺寸版本，用于企业内部问答、文档处理和智能体任务。
  • 专业领域研究：基于 MedGemma 等变体开展医疗 AI 研发，或用 TranslateGemma 做多语言翻译。
  • 检索与搜索：用 EmbeddingGemma 在设备端生成向量，构建本地 RAG。
  • 内容安全：用 ShieldGemma 2 对生成内容进行安全审核。
  • AI 安全与可解释性研究：借助 Gemma Scope 2 分析模型内部机制。

常见问题

Gemma 和 Gemini 有什么区别？ Gemini 是 Google 的旗舰模型，主要通过 Gemini 应用和 API 使用，权重不公开；Gemma 是基于同源技术打造的轻量级开放模型，权重可以下载，适合本地部署和二次开发。

我的电脑适合跑哪个尺寸？ 可以参考 Ollama 模型库中标注的体积：E2B、E4B 只需数 GB，31B 版本接近 20GB。显存或内存有限时先从小尺寸试起。

Gemma 可以商用吗？ Gemma 的使用受其模型页面上发布的条款约束，不同变体可能有不同要求，商用前请仔细阅读官方条款。

模型会输出错误信息吗？ 会。Google 在 Gemma 页面上特别提醒，大模型可能给出不准确或冒犯性的内容，不应依赖它提供医疗、法律、金融等专业建议。