Instalando Mistral Large 3 en tu hardware, stack de agentes en marcha, listo para producción en 14 días

Mistral Large 3 es el modelo de código abierto más potente de un laboratorio occidental en 2026. Publicado el 2 de diciembre de 2025 bajo Apache 2.0, viene como un MoE granular de 675 mil millones de parámetros con 41 mil millones activos por token, más un codificador de visión de 2.5 mil millones de parámetros, más 256K de contexto.

  • Paso a producción en 14 días
  • Stack de agentes de programación + investigación incluido
  • 675B total, 41B activos por token (MoE), codificador de visión de 2.5B Parámetros
  • 256K tokens Ventana de contexto
  • 14 d Cambio a producción

Mistral Large 3 de un vistazo

Las especificaciones que importan al elegir el modelo y el hardware.

Parámetros

675B total, 41B activos por token, más codificador de visión de 2.5B

Arquitectura

MoE granular, multimodal (texto + visión)

Ventana de contexto

256K tokens

Licencia

Apache 2.0

Publicación

2 de diciembre de 2025

Cómputo de entrenamiento

3,000 GPUs NVIDIA H200

MMLU-Pro

73.1 (evaluación independiente)

MATH-500

93.6

Velocidad de salida (Artificial Analysis)

~38 tok/s

VRAM mínima (NVFP4)

~340 GB, 8x A100/H100/B200

VRAM mínima (FP8)

~675 GB, nodo 8x H200

VRAM mínima (Q3_K_S)

244 GB

Hardware que ejecuta Mistral Large 3 en producción

Tres niveles, SKUs reales, números de rendimiento reales.

Nivel básico: 4x RTX 4090/5090 con Ollama GGUF Q4

Rendimiento: 10-25 tokens/seg. Mejor para: Trabajo de laboratorio y piloto únicamente, no para servicio en producción. Mejor usar variantes Mistral 3 14B u 8B en una sola GPU para PyMEs.

Nivel medio: 8x A100 80 GB o 8x H100 con NVFP4 ($150-200K)

Rendimiento: 60-120 tokens/seg. Mejor para: Empresas de 20-50 usuarios que ejecutan visión más texto hasta 64K de contexto, vLLM con --tensor-parallel-size 4 y el parser de herramientas Mistral. En A100/H100, NVFP4 corre mediante el fallback Marlin FP4 (ganancia de memoria, sin aceleración sobre FP8).

Nivel empresarial: 8x H200 SXM 141 GB ($250-300K) u 8x B200 ($300K+)

Rendimiento: 150-300 tokens/seg. Mejor para: Producción con contexto completo de 256K, despliegue multi-tenant, flujos de trabajo agénticos con visión.

Opciones de cuantización para este modelo

GGUF, AWQ, FP8, INT4.

Cuantización recomendada

NVFP4 para producción con contexto inferior a 64K en H100 o A100 (casi sin pérdidas en texto, la mitad de memoria que FP8, tensor-parallel-size 4). FP8 para el contexto completo de 256K en un nodo 8x H200, y FP8 cuando planeas hacer ajuste fino. GGUF Q4 solo para trabajo de laboratorio y batch offline.

Compromisos

NVFP4 está calibrado principalmente sobre texto, así que espera una regresión menor en datasets de visión y una caída de calidad más allá de 64K de contexto, que es exactamente donde cambias a FP8. En A100 o H100, vLLM recurre a Marlin FP4: conservas la ganancia de memoria pero no la aceleración sobre FP8, y solo B200 tiene la ruta de aceleración NVFP4 nativa. FP8 también es la opción más precisa para el ajuste fino. GGUF Q4 funciona pero el rendimiento está limitado por el ancho de banda en GPUs de consumo y el parser de tool-calling necesita configuración específica de Mistral. El codificador de visión de 2.5B corre en FP16 independientemente de la cuantización del LLM.

NVFP4

Tamaño de archivo: ~340 GB.

FP8

Tamaño de archivo: ~675 GB.

GGUF Q3_K_S

Tamaño de archivo: 244 GB.

GGUF Q4

Tamaño de archivo: 370 GB.

Agentes de codificación que conectamos a Mistral Large 3

Publicado el 2 de diciembre de 2025 bajo Apache 2.0, 41B activos / 675B totales MoE, 256K de contexto, llamado de funciones nativo y salida JSON.

Mistral Vibe CLI

CLI de agente oficial de Mistral: npm install -g @mistralai/vibe-cli. Nativo al formato de herramientas de Mistral. Disponible como extensión de Zed. Usa esto para la experiencia de primera parte más fluida, especialmente cuando el comprador ya está en el nivel empresarial de Mistral.

Cline

Mistral es un proveedor de primera clase en Cline. La configuración compatible con OpenAI funciona contra tu endpoint de vLLM. Cline respaldó la confiabilidad del tool-calling de Devstral 2, y Mistral Large 3 hereda la misma plantilla de chat. Modo Plan y Acción funcional.

Aider

Mistral Large 3 funciona de forma nativa: aider --model mistralai/mistral-large-3 --api-key $MISTRAL_API_KEY para hosted, o --openai-api-base http://tu-vllm:8000/v1 para self-hosted. El formato de edición aplica limpiamente en Python, TypeScript, Go.

Continue.dev

config.yaml con provider: mistral o openai (apiBase personalizado). Declarar capabilities: [tool_use, image_input] para el modelo multimodal insignia. Los roles chat y edit funcionan; combinar con un modelo más pequeño y rápido para el rol de autocompletado.

Roo Code

Fork de Cline. Misma configuración compatible con OpenAI. Multi-modo (Code, Architect, Ask, Debug) funcional. El contexto de 256K de Mistral Large 3 desbloquea el plan completo de contexto de repositorio del modo Architect.

OpenHands

Funciona pero Devstral 2 es el mejor modelo Mistral para autonomía de repositorios. Usar Mistral Large 3 solo cuando el despliegue se consolida en un modelo. Configurar LLM_BASE_URL a vLLM, esperar un rango de aprobación en SWE-bench Verified del 35 al 45%.

Mistral Code

Paquete empresarial de codificación de Mistral: asistente en IDE, modelos, despliegue local, soporte. Incluye Mistral Large 3 más Devstral 2 más herramientas. Se usa cuando el comprador quiere un paquete con soporte del proveedor y no un stack ensamblado.

Casos de uso de agentes de codificación

Donde este modelo + stack de agentes genera trabajo real.

Agentes de investigación que desplegamos en Mistral Large 3

El contexto de 256K maneja síntesis profunda de documentos.

GPT Researcher

Anulación estándar de OPENAI_BASE_URL. El seguimiento de instrucciones de Mistral Large 3 es sólido, el patrón plan-y-ejecuta de GPT Researcher funciona sin ajustes de prompt. Los informes tardan entre 4 y 7 minutos para 5 a 10 fuentes.

AnythingLLM

El proveedor genérico OpenAI funciona. El indicador parallel_tool_calls de Mistral significa que el modo @agent puede llamar múltiples herramientas por turno, lo que acelera los flujos de investigación multi-herramienta.

Open WebUI

Carga de documentos, búsqueda web, llamado de funciones: todo funciona. El contexto de 256K es lo destacado para chats de investigación multi-documento. Combinar con la decodificación especulativa EAGLE de Mistral para streaming más rápido.

LangGraph

Orquestación de investigación en producción. El contexto de 256K de Mistral Large 3 permite a LangGraph mantener un estado de agente más largo sin compresión de checkpoint. langchain-mistral o langchain-openai con anulación de apiBase ambos funcionan.

CrewAI

Equipos basados en roles. El sólido seguimiento de instrucciones y las llamadas paralelas de herramientas de Mistral Large 3 se adaptan al patrón secuencial de CrewAI. Configurar llm en la config del agente.

AutoGen / AG2

GroupChat funciona. El contexto de 256K absorbe más historial de debate que los 128K de DeepSeek V3.2. La velocidad de salida más lenta de Mistral (~38 t/s) es el cuello de botella en debates multi-agente.

LlamaIndex

Stack híbrido: motores de consulta de LlamaIndex como herramientas dentro de un flujo de trabajo LangGraph o AutoGen. El modo estricto de llamado de funciones de Mistral se combina limpiamente con las definiciones de herramientas estructuradas de LlamaIndex.

Casos de uso de agentes de investigación

Donde este modelo + stack de agentes de investigación entrega informes que tu equipo realmente usa.

Frameworks que instalamos para flujos de trabajo de agentes en producción

Elige el framework según la forma del flujo de trabajo.

LangGraph

Orquestación en producción. El contexto de 256K más los checkpoints de LangGraph manejan flujos de trabajo muy largos.

CrewAI

Equipos secuenciales con llamadas paralelas de herramientas habilitadas.

AutoGen / AG2

GroupChat. La velocidad de salida más lenta de Mistral es el cuello de botella en patrones con muchos debates.

DSPy

Compilación de prompts. Sólido con el seguimiento estricto de formato de Mistral.

Pydantic AI

Agentes tipados. Mistral Guidance (gramática lark) y Pydantic AI ambos apuntan a salida estructurada.

LlamaIndex

Capa de recuperación. Stack híbrido con orquestación de LangGraph.

Quién elige Mistral Large 3

Tres perfiles de comprador donde este modelo es la respuesta correcta.

Firma de abogados europea, 60 abogados, práctica multilingüe en la UE

Tarea: Revisión de contratos multilingüe, incorporación de documentos basada en visión (PDFs escaneados, exhibiciones), descubrimiento agéntico. Resultado: Apache 2.0 más la procedencia europea de Mistral simplifica la postura GDPR. Visión más texto en un solo modelo elimina una capa de conexión en el pipeline.

Consultoría de imágenes médicas, 15 radiólogos

Tarea: Redacción de informes condicionados por imágenes, Q&A de visión-texto sobre exportaciones DICOM desidentificadas. Resultado: Multimodal de primera clase en un modelo de código abierto con self-host compatible con HIPAA. El contexto de 256K maneja casos longitudinales largos.

Plataforma de servicios financieros, equipo de ingeniería de 90 personas

Tarea: Incorporación de documentos (OCR de visión más razonamiento), KYC multilingüe, flujos de trabajo agénticos con llamado de herramientas nativo. Resultado: La redistribución Apache 2.0 permite a la firma distribuir el modelo integrado en productos orientados al cliente sin fricciones de licencias por asiento.

Mistral Large 3 vs los rivales más cercanos

Dónde gana este modelo, dónde pierde.

  1. vs DeepSeek V3.2

    DeepSeek V3.2 gana en razonamiento más difícil y demostración de teoremas. Mistral Large 3 gana en multimodal (visión es nativa), simplicidad de Apache 2.0 (DeepSeek es MIT, comparable pero Mistral tiene mayor familiaridad en empresas occidentales), y 256K de contexto vs 128K.

  2. vs Qwen3 235B A22B

    Qwen3 235B gana en suelo de hardware (143 GB vs 370 GB en Q4) y benchmarks puros de razonamiento. Mistral Large 3 gana en visión multimodal y en procedencia de entrenamiento (3,000 H200, completamente divulgado), útil para compradores adversos al riesgo.

  3. vs Llama 3.3 70B

    Clase diferente. Llama 3.3 70B se puede desplegar en una sola máquina por $7K en Mac. Mistral Large 3 necesita un nodo 8x H200. Elige Llama para self-host en PyMEs, Mistral Large 3 cuando se requieren calidad frontier más visión más Apache 2.0.

Cómo Pineido configura agentes en Mistral Large 3

Día 4 vLLM sirve Mistral Large 3 con el parser de tool-call mistral y las tres banderas obligatorias de mistral.

Día 4

vLLM sirve Mistral Large 3 con --tokenizer_mode mistral, --config_format mistral, --load_format mistral, --enable-auto-tool-choice, --tool-call-parser mistral, --max-model-len 32768 (aumentar después de validar margen de memoria), --tensor-parallel-size 8. mistral_common >= 1.8.6 obligatorio o el llamado de herramientas se rompe. NVFP4 para inferencia, FP8 para ajuste fino.

Día 5

Decodificación especulativa EAGLE conectada con el modelo complementario mistralai/Mistral-Large-3-675B-Instruct-2512-Eagle y num_speculative_tokens: 3. El rendimiento mejora sin cambiar la calidad de salida.

Día 6

Agentes de editor conectados. Aider via --model mistralai/mistral-large-3, Cline como proveedor Mistral, Continue.dev con provider: mistral, Roo Code compatible con OpenAI. Llamado de función estricto habilitado según la versión 1.10.0 de Mistral.

Día 8

Open WebUI más AnythingLLM en marcha. La carga de documentos soporta multimodalidad de imágenes. Los espacios de trabajo aíslan conjuntos de documentos sensibles.

Día 10

Flujos de trabajo LangGraph. Tres flujos enviados: deep-research, code-review, customer-intake. Validación de esquemas con gramática lark de Mistral Guidance conectada a los nodos de salida estructurada.

Día 12

Mistral Code (paquete con soporte del proveedor) u OpenHands para autonomía de repositorios. Para compradores con mucho código, añadimos Devstral 2 junto a Mistral Large 3 porque Devstral 2 domina la codificación (72.2% SWE-bench Verified).

Día 14

Dashboard de métricas Prometheus (vllm:num_requests_waiting, gpu_cache_usage_perc, time_to_first_token_seconds), paquete de evidencias, runbook e inventario de agentes entregados.

Lo que dijeron los clientes después del lanzamiento

Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
The Firebase-to-Supabase migration sounded terrifying. They moved 200k users without a single support ticket. We were live in 19 days.
Aisha, Engineering LeadToronto

Cómo desplegamos Mistral Large 3 en 14 días

Tarifa fija.

Día 1

Auditoría de hardware. Confirmar nodo 8x H100/H200/B200. Elegir NVFP4 vs FP8 según necesidad de longitud de contexto. Ejecutar prompts reales incluyendo tareas de visión si aplica.

Día 4

Servir mediante vLLM con formatos de tokenizador/configuración/carga de Mistral. Activar el parser de tool-call ('mistral'). Prompt de sistema con descripciones de herramientas. Temperatura 0.1 para producción.

Día 9

RAG con recuperación multimodal si es necesario. SSO, auditoría, RBAC. Ajustar max-model-len a 32K o 64K si no se necesita el contexto completo de 256K (ahorra memoria KV-cache significativa).

Día 14

Pentest aprobado. NOTICE de Apache 2.0 archivado. Cambio a producción. Residencia en la UE confirmada si aplica para postura GDPR.

Las preguntas que deciden si somos los indicados

¿Qué licencia tiene Mistral Large 3?

Apache 2.0, incluidas las versiones base y las ajustadas a instrucciones. Sin restricciones de uso, sin cláusulas de obras derivadas, sin límites por ingresos. El buque insignia de pesos abiertos más permisivo de 2026. Pineido recomienda Mistral Large 3 en concreto cuando el comprador exige Apache 2.0 o MIT (algunos compradores reacios al riesgo rechazan la Acceptable Use Policy de Llama o les preocupa el MIT con jurisdicción china de DeepSeek).

¿Cuál es el hardware mínimo realista para Mistral Large 3 en producción?

8x A100 80 GB u 8x H100 con pesos NVFP4 es el suelo práctico, de $150K a $200K de capex. Por debajo de eso, corres GGUF Q4 en tarjetas multi-GPU de consumo (4x RTX 5090 o similar) con compromiso significativo de rendimiento. Para una empresa de menos de 30 usuarios que no necesita los 675B completos, los modelos más pequeños (Mistral 3 14B, 8B, 3B) en un solo GPU suelen ser la respuesta correcta.

¿Mistral Large 3 realmente hace bien la visión?

Sí. El codificador de visión de 2.5 mil millones de parámetros está integrado, no añadido. Maneja PDFs escaneados, gráficos, diagramas, fotos y casos longitudinales de múltiples imágenes. Para mejores resultados, mantén las relaciones de aspecto cerca de 1:1 y corre el codificador de visión en FP16 independientemente de la cuantización del LLM. Es uno de los primeros modelos frontier de código abierto con visión y multilingüe todo en uno.

¿Debemos desplegar Mistral Large 3 o DeepSeek V3.2?

Ambos son MoE de clase 670B en hardware empresarial. Elige Mistral Large 3 si necesitas visión, contexto más largo (256K vs 128K), o Apache 2.0 más procedencia de entrenamiento occidental. Elige DeepSeek V3.2 si necesitas máximo razonamiento y rendimiento en demostración de teoremas y puedes prescindir de la visión.

¿Debemos usar Mistral Large 3 o Devstral 2 para agentes de codificación?

Devstral 2 para despliegues solo de codificación. Mistral Large 3 para despliegues de un-modelo-muchos-trabajos. Devstral 2 alcanza 72.2% SWE-bench Verified, corre en 4 H100s y Cline respaldó oficialmente su confiabilidad en tool-calling. Mistral Large 3 es el generalista (675B total / 41B activo) para equipos que quieren codificación más investigación más consulta de documentos bajo una licencia. Pineido a menudo corre ambos: Mistral Large 3 como endpoint predeterminado, Devstral 2 añadido en la vía de codificación cuando el volumen lo justifica.

¿Qué banderas de vLLM requiere Mistral Large 3?

Tres banderas específicas de Mistral son obligatorias: --tokenizer_mode mistral, --config_format mistral, --load_format mistral. Más --enable-auto-tool-choice y --tool-call-parser mistral para el llamado de funciones. Sin --tool-call-parser mistral, vLLM usa el parser predeterminado y las llamadas de herramientas devuelven vacío. Verifica que mistral_common >= 1.8.6 esté instalado o la tokenización regresa al predeterminado de HuggingFace y se rompe. Fijar vLLM >= 0.17.0.

675B total, 41B activos por token (MoE), codificador de visión de 2.5B Parámetros

Reserva la llamada de alcance de 30 minutos. Te decimos si Mistral Large 3 más nuestro stack de agentes es la elección correcta antes de que firmes.

Tarifa fija.

El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los costos exactos y la postura de cumplimiento exacta.

Te llevas

  1. Día 0 (esta semana): Llamada de alcance de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costos en tu bandeja de entrada antes del viernes
  2. Día 1: Auditoría de hardware. Confirmar nodo 8x H100/H200/B200. Elegir NVFP4 vs FP8 según necesidad de longitud de contexto. Ejecutar prompts reales incluyendo tareas de visión si aplica.

PorFundador e Imaginator

Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.

Publicado Actualizado