Instalando Gemma 4 (26B A4B) en tu hardware, stack de agentes en marcha, listo para producción en 14 días
Google hizo dos cosas bien con Gemma 4. Primero, cambiaron a Apache 2.0.
- Paso a producción en 14 días
- Stack de agentes de programación + investigación incluido
- 26B total / 3.8B activos (MoE) Parámetros
- 256K tokens Ventana de contexto
- 14 d Cambio a producción
Gemma 4 (26B A4B) de un vistazo
Las especificaciones que importan al elegir el modelo y el hardware.
Parámetros
25.2B total, 3.8B activos por token (MoE)
Expertos
128 totales, 8 activos + 1 compartido por token
Ventana de contexto
256K tokens
Arquitectura
Atención híbrida local deslizante + global, Per-Layer Embeddings, p-RoPE
Modalidades
Entrada de texto + imagen, salida de texto
Idiomas
35+ de caja, preentrenado en 140+
Licencia
Apache 2.0 (uso comercial completo, redistribución permitida)
VRAM Q4_K_M
~18 GB (modelo) + ~5 GB KV cache en 256K
VRAM BF16
~52 GB
Fecha de publicación
2026-04-09
Lo que dijeron los clientes después del lanzamiento
Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
We had compliance docs in four different folders and two people who "knew where things were." Now everything is in one place with automatic expiry alerts.
Hardware que ejecuta Gemma 4 (26B A4B) en producción
Tres niveles, SKUs reales, números de rendimiento reales.
-
Nivel básico: RTX 4090 24 GB, RTX 5080 16 GB en Q4 (ajustado), Mac Studio M3 Ultra 96 GB
Rendimiento: 40 a 80 tok/s en Q4_K_M en RTX 4090. Mejor para: Desarrollador individual, RAG local sobre documentos largos, extracción multimodal.
-
Nivel medio: 1x A6000 48 GB en Q5 o BF16, 1x H100 80 GB en BF16 con contexto completo de 256K
Rendimiento: 100 a 200 tok/s flujo único, 500+ tok/s en batch. Mejor para: Equipo pequeño self-hosted, flujos de trabajo agénticos, asistentes multimodales internos.
-
Nivel empresarial: 2x a 4x H100 con paralelismo tensorial vLLM, servicio en batch
Rendimiento: 1000+ tok/s en batch en FP8. Mejor para: Servicio de API multi-tenant, pipelines de comprensión de documentos, plataformas de agentes.
Opciones de cuantización para este modelo
GGUF, AWQ, FP8, INT4.
Cuantización recomendada
Q4_K_M para GPUs de consumo de 24 GB. El UD-Q4_K_XL de Unsloth es el mejor objetivo para 24 GB. BF16 si tienes 48 GB+.
Compromisos
Los modelos MoE son ligeramente más sensibles a la cuantización agresiva que los modelos densos porque los expertos son más pequeños. Q4_K_M es el punto óptimo. Q3 degrada notablemente las tareas agénticas y de uso de herramientas. Q5_K_M es la elección segura si tienes VRAM de sobra.
BF16
Tamaño de archivo: no especificado.
Q8_0
Tamaño de archivo: no especificado.
Q5_K_M
Tamaño de archivo: no especificado.
Q4_K_M
Tamaño de archivo: no especificado.
Agentes de codificación que conectamos a Gemma 4 (26B A4B)
Gemma 4 26B A4B MoE es el mejor modelo de agente de un solo GPU en el grupo de código abierto en 2026.
Aider
Ajuste sólido. Aider Polyglot alrededor del 52 al 58% en Gemma 4 26B (verificar en el leaderboard de aider.chat). El contexto de 256K significa que el mapa de repositorio más el historial de diff caben con espacio de sobra. El formato diff edit funciona de forma confiable.
Continue.dev
Soporte de Ollama desde el primer día. Usar como tabAutocompleteModel y como modelo de chat en una tarjeta de 24 GB. La velocidad efectiva de 4B parámetros activos hace que la latencia de autocompletado sea genuinamente viable, primer token de 80 a 150 milisegundos.
Cline
El llamado de funciones nativo hace que la orquestación multi-paso de Cline funcione sin monkey-patches. El contexto de 256K absorbe el verbose prompt de sistema de Cline sin problema. Mejor agente de codificación autónomo en tienda pequeña con Gemma 4.
Cursor (BYOK via proxy Ollama)
Funciona a través de un proxy local compatible con OpenAI. El Composer de primera parte de Cursor es más rápido, pero Gemma 4 más Cursor BYOK es la opción de privacidad para compradores regulados.
Roo Code
Fork de Cline con separación de modos. El modo Architect más el modo Code funcionan en Gemma 4. La licencia Apache 2.0 es más simple que la Llama Community License para consultoras pequeñas que redistribuyen el stack de agentes.
smolagents
El modo CodeAgent se combina bien con el razonamiento de Gemma 4. Ligero, sin dependencia de LangChain, se distribuye rápido. Buen ajuste para agentes de codificación puntuales en un Jupyter notebook.
Casos de uso de agentes de codificación
Donde este modelo + stack de agentes genera trabajo real.
Agentes de investigación que desplegamos en Gemma 4 (26B A4B)
El contexto de 256K más el llamado de herramientas nativo más Apache 2.0 más la eficiencia de un solo GPU hacen de Gemma 4 26B A4B el predeterminado de agentes de investigación de código abierto para equipos pequeños.
GPT Researcher
Plug-in via endpoint compatible con OpenAI de Ollama. El contexto de 256K maneja informes de investigación de 100K tokens sin RAG. La calidad en síntesis es genuinamente competitiva con GPT-4o y Sonnet 4 en temas STEM.
STORM (Stanford)
Generación de artículos estilo Wikipedia. La profundidad de razonamiento de Gemma 4 maneja bien la fase de generación de preguntas multi-perspectiva. Funciona de forma limpia.
LangGraph deep-research
La plantilla de investigación profunda de referencia corre localmente en un GPU de 24 GB. El llamado de herramientas nativo elimina el impuesto de ingeniería de prompts para los nodos de grafo planificador-investigador-escritor.
CrewAI
Equipo de agentes investigador-escritor-crítico en un solo backend Ollama. El proxy LiteLLM maneja el enrutamiento. Apache 2.0 simplifica la redistribución si distribuyes el equipo como producto.
Open Deep Research (HuggingFace)
Clon basado en smolagents de OpenAI Deep Research. Gemma 4 más este stack es el agente de investigación profunda más económico y creíble en el grupo de código abierto hoy.
Pydantic AI deep research
Runtime de agente tipado con validación estricta de esquema. El llamado de funciones nativo de Gemma 4 significa que las llamadas de herramientas se validan limpiamente a través de Pydantic V2. Buen ajuste para pipelines de investigación en producción.
Casos de uso de agentes de investigación
Donde este modelo + stack de agentes de investigación entrega informes que tu equipo realmente usa.
Frameworks que instalamos para flujos de trabajo de agentes en producción
Elige el framework según la forma del flujo de trabajo.
CrewAI
AutoGen
DSPy
Pydantic AI
LlamaIndex
Quién elige Gemma 4 (26B A4B)
Tres perfiles de comprador donde este modelo es la respuesta correcta.
-
Analista de documentos de contexto largo
Tarea: Leer PDFs de 200 páginas, revisión de contratos, consulta de base de código en miles de archivos. Resultado: El contexto de 256K más atención híbrida más entrada de imágenes maneja cargas de trabajo reales de documentos en un solo GPU de 24 GB.
-
Plataforma de agentes en dispositivo
Tarea: Llamadas de herramientas multi-paso con salidas de función y anclaje de imágenes. Resultado: Llamado de funciones nativo, inferencia rápida de 3.8B-activo y licencia Apache 2.0 hacen que sea el backend agéntico más limpio en su clase.
-
PyME regulada con self-hosting
Tarea: Reemplazar la API de OpenAI para equipos de legal, salud o finanzas que no pueden enviar datos fuera. Resultado: Apache 2.0 significa sin revisión legal de términos personalizados, la eficiencia MoE significa que una sola estación de trabajo maneja la carga de un equipo pequeño.
Gemma 4 (26B A4B) vs los rivales más cercanos
Dónde gana este modelo, dónde pierde.
vs Mistral Small 22B (Mistral Small 3)
Mistral Small es denso, más simple de servir y también tiene licencia permisiva Apache 2.0. Gemma 4 26B A4B gana en matemáticas y razonamiento científico, contexto largo (256K vs 32K) y entrada multimodal de imágenes, que Mistral Small no tiene. Mistral gana en velocidad de flujo único bruto a batch pequeño y en la simplicidad de servir un modelo denso. Elige Mistral si nunca tocas imágenes ni documentos largos, de lo contrario Gemma 4 es el predeterminado de estación de trabajo más fuerte.
vs Qwen3 32B
Qwen3 32B es denso, tiene mayor cobertura de chino y gana ligeramente en algunos benchmarks de código. Gemma 4 26B A4B gana en eficiencia de inferencia (3.8B activo vs 32B denso), claridad de licencia Apache 2.0 y soporte multimodal.
vs Gemma 3 27B
Gemma 4 26B A4B supera a Gemma 3 27B por grandes márgenes en código (LiveCodeBench v6 sube del 29.1 al 77.1%), recuperación de contexto largo (RULER 128K del 13.5 al 66.4%), matemáticas y uso agéntico de herramientas, mientras corre mucho más rápido gracias a la dispersión MoE y abandona la licencia personalizada de Gemma por Apache 2.0. No hay razón para desplegar Gemma 3 27B sobre Gemma 4 26B A4B en 2026.
Cómo Pineido configura agentes en Gemma 4 26B A4B
Sprint de dos semanas.
Día 1
Decisión de hardware. RTX 5090 32 GB (Q4 cabe con margen de KV cache), RTX Pro 6000 96 GB (FP16 con contexto de 256K), o Mac Studio M3 Ultra 128 GB. Revisión de licencia Apache 2.0 (no requerida, pero documentar para el cliente).
Día 3
Ollama más Gemma 4 26B instalados. Llamado de funciones nativo probado via /api/chat con esquemas de herramientas. Latencia base: 30 a 50 tok/s de decodificación, primer token de 80 a 150 ms.
Día 6
Framework de agentes elegido. LangGraph para flujos de trabajo estructurados en grafo, Pydantic AI para extracción tipada de herramientas, CrewAI para patrones de delegación. Llamado de herramientas nativo conectado sin hacks de plantilla de prompt.
Día 8
Plan de utilización del contexto de 256K. Tamaño de mapa de repositorio ajustado, umbrales de recuperación RAG configurados para que el contexto se mantenga por debajo de 200K (margen de seguridad). Embeddings de recuperación de contexto largo indexados (BGE-M3 o similar).
Día 10
Arnés de evaluación en el conjunto de tareas del cliente congelado. Tasa de éxito de tool-call, tasa de conformidad de esquema, tasa de aprobación de tarea de extremo a extremo. SLA: 95% de éxito en tool-call, 99% de conformidad de esquema.
Día 14
Cambio a producción. SSO y registro de auditoría al frente. Atribución de Apache 2.0 distribuida (archivo NOTICE). El despliegue en una sola máquina significa un solo punto de fallo, documentar el plan de recuperación.
Cómo desplegamos Gemma 4 (26B A4B) en 14 días
Tarifa fija.
-
Día 1
Obtener el GGUF Unsloth UD-Q4_K_XL en Hugging Face. Verificar que tu GPU tiene 24 GB+ de VRAM. Ejecutar una prueba de humo a través de llama.cpp con -ngl 99.
-
Día 2
Pasar a Ollama o vLLM para servicio en producción. Configurar contexto de 256K solo si tu carga de trabajo lo necesita (el KV cache escala linealmente), de lo contrario limitar a 32K a 64K para margen de memoria.
-
Días 3 a 5
Probar multimodal: pasar imágenes a través del codificador de visión, validar salidas OCR y de bounding box. Conectar el llamado de funciones nativo para tu esquema de herramientas.
-
Semana 2
Comparar contra tu modelo anterior. Medir costo por millón de tokens, calidad en tu conjunto de evaluación y tasa de éxito de tool-call. Pasar a producción con un canario del 10%.
Las preguntas que deciden si somos los indicados
¿Espera, es 27B o 26B A4B?
Gemma 3 era 27B denso. El nivel de estación de trabajo de Gemma 4 viene como 26B A4B (MoE) y 31B denso. El 26B A4B es el objetivo más cercano para GPU único de 24 GB. No hay Gemma 4 27B.
¿Qué cambió con el cambio a Apache 2.0?
Gemma 3 usaba una licencia personalizada de Google con una 'Política de Uso Prohibido' que Google podía actualizar unilateralmente. Gemma 4 viene bajo Apache 2.0 estándar. Sin cláusulas personalizadas, sin excepciones de uso aceptable, sin carga de revisión para equipos legales. Este es el cambio práctico más grande en la versión.
¿La arquitectura MoE hace más difícil el despliegue?
Ligeramente. Los 25.2B de parámetros totales deben caber en memoria, pero solo 3.8B se activan por token, así que pagas el costo de memoria denso y el costo de cómputo disperso. llama.cpp, vLLM, SGLang y Ollama manejan el MoE de Gemma 4 de forma nativa a mediados de 2026. Un detalle real: en tarjetas de generación Ada como la RTX 4090, vLLM puede auto-seleccionar un backend TRITON_ATTN lento porque Gemma 4 usa dimensiones heterogéneas de cabezas de atención, lo que estrangula el rendimiento. Sirve via Ollama o una build parcheada de vLLM, y activa Multi-Token Prediction (añadido a los GGUFs en junio de 2026) para una aceleración de decodificación de 1.4 a 2.2x sin pérdida de precisión.
¿Debo elegir Gemma 4 sobre Mistral Small o Qwen3?
Sí para contexto largo, multimodal y cargas de trabajo en inglés occidental. Mistral Small gana en simplicidad si no necesitas 256K o imágenes. Qwen3 gana para trabajo en idioma chino o si quieres una arquitectura completamente densa para latencia predecible.
¿Gemma 4 26B A4B soporta realmente el llamado de funciones nativo desde la caja?
Sí. Gemma 4 introdujo soporte de tool-calling nativo en la plantilla de chat, distinto de las generaciones anteriores de Gemma que requerían ingeniería de prompts para el llamado de funciones estilo ReAct. El endpoint /api/chat de Ollama devuelve bloques estructurados tool_calls, los wrappers ChatLlamaCpp y ChatOllama de LangChain exponen bind_tools nativo, y los patrones de herramientas tipadas de Pydantic AI funcionan sin adaptadores personalizados. La tasa de acierto ronda el 96 al 99% en esquemas de herramientas simples, cae al 88 al 92% en argumentos profundamente anidados.
¿Debemos desplegar Gemma 4 26B A4B o 31B Dense para nuestro flujo de trabajo de agentes?
26B A4B para el 90% de las cargas de trabajo de agentes. La arquitectura MoE activa 3.8B parámetros por token, ofreciendo calidad cercana al 31B a una decodificación aproximadamente 8x más rápida. Esa ventaja de velocidad se compone en las 10 a 50 llamadas LLM por tarea de un agente. Elige 31B Dense solo para flujos de trabajo de ajuste fino o para las tareas de razonamiento más exigentes donde la pequeña brecha en Arena Elo importa. Gemma 4 26B A4B es el predeterminado de producción.
26B total / 3.8B activos (MoE) Parámetros
Reserva la llamada de alcance de 30 minutos. Te decimos si Gemma 4 (26B A4B) más nuestro stack de agentes es la elección correcta antes de que firmes.
Tarifa fija.
El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los costos exactos y la postura de cumplimiento exacta.
Te llevas
- Día 0 (esta semana): Llamada de alcance de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costos en tu bandeja de entrada antes del viernes
- Día 1: Obtener el GGUF Unsloth UD-Q4_K_XL en Hugging Face. Verificar que tu GPU tiene 24 GB+ de VRAM. Ejecutar una prueba de humo a través de llama.cpp con -ngl 99.
PorKostadin StambolievFundador e Imaginator
Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.
Publicado Actualizado