Ollama 本地部署 Gemma 4 完全指南

Google DeepMind于2025年4月正式发布了Gemma 4系列开源模型，这是其迄今为止推出的能力最强的开放权重模型家族。值得注意的是，Ollama在v0.20.0版本中第一时间提供了对Gemma 4全系列的支持，使得本地部署变得更加简单。对于希望在个人设备上运行强大AI模型的开发者和爱好者来说，这无疑是一个值得关注的重要里程碑。

Gemma 4模型系列详解

Ollama是一个开源的本地大语言模型运行框架，其底层基于llama.cpp构建，将模型下载、量化、推理、API服务等一系列复杂操作封装成简单的命令行工具。用户只需一条命令即可运行各种开源LLM，如ollama run llama3就能自动下载并启动模型。Ollama支持Windows、macOS、Linux全平台原生支持，并针对Apple Silicon和NVIDIA GPU进行了深度优化。更为重要的是，所有推理运算都在本地完成，数据不经过任何外部服务器，这对于注重隐私的企业和个人开发者来说具有极大吸引力。

版本选择与硬件匹配

Gemma 4提供四个尺寸版本，每个版本均有预训练和指令微调两个变体。E2B采用创新的Per-Layer Embeddings架构，有效参数量约2B，支持128K上下文窗口和多模态输入，最低仅需4GB显存即可运行，非常适合低配设备或边缘计算场景。E4B是性价比最高的版本，有效参数量约4.5B，在基准测试中性能超越了Gemma 3的27B模型，而活跃参数量仅为后者的约六分之一，默认推荐给大多数用户。26B MoE版本采用混合专家架构，总参数26B但每次推理仅激活约3.8B，在速度和知识储备间取得出色平衡。31B Dense是家族中能力最强的版本，所有参数在每次推理中均参与计算，适合对推理质量要求极高的专业场景。

本地部署实战步骤

部署Gemma 4的步骤非常简洁。首先在macOS/Linux系统上执行安装脚本，或在Windows上下载安装包完成安装。安装完成后，使用ollama pull命令拉取模型，可根据硬件情况选择具体版本：ollama pull gemma4拉取默认的E4B版本（9.6GB），ollama pull gemma4:e2b拉取轻量版（7.2GB），ollama pull gemma4:26b拉取进阶版（18GB，需16GB显存），ollama pull gemma4:31b拉取旗舰版（20GB，需24GB显存）。下载完成后，使用ollama run gemma4即可进入交互对话模式，或直接执行单次查询。Gemma 4全系列支持图像输入，可通过指定图片路径进行视觉理解任务。所有模型均内置可配置的推理（Thinking）模式，通过在系统提示中加入特定标记即可启用，适合复杂逻辑任务。

API调用与集成

Ollama在本地11434端口提供REST API，完美兼容OpenAI接口规范。开发者可以通过curl命令、OpenAI SDK或Ollama官方Python/JavaScript库进行调用。这意味着现有的AI应用可以轻松切换到本地部署的Gemma 4模型，无需大幅修改代码。API支持文本生成、多轮对话、图像输入等多种功能。对于希望构建更友好界面的用户，可以搭配Open WebUI使用，它提供了类ChatGPT的Web界面，支持多模型切换、对话历史和图像上传等功能。

如有侵权，请联系删除。