Configurar Qwen3 235B A22B en tu hardware, stack de agentes activo, en producción en 14 días

Qwen3 235B A22B es el modelo open-weight que cierra la brecha con los laboratorios propietarios de frontera. Publicado el 28 de abril de 2025 por el equipo Qwen de Alibaba, se distribuye bajo Apache 2.0 sin restricciones comerciales.

  • Cutover a producción en 14 días
  • Stack de agentes de código + investigación incluido
  • 235B total, 22B activos por token (MoE) Parámetros
  • 128K nativo, 262K en variante Instruct-2507 Ventana de contexto
  • 14 d Cutover a producción

Qwen3 235B A22B de un vistazo

Especificaciones que importan al elegir el modelo y el hardware.

Parámetros

235B total, 22B activos por token

Arquitectura

MoE, 128 expertos, 8 activos por token

Ventana de contexto

128K nativo, 262K en Instruct-2507

Licencia

Apache 2.0

Publicación

28 de abril de 2025 (Instruct-2507 en julio de 2025)

Idiomas

119 idiomas y dialectos

Modos

Thinking e Non-Thinking híbrido

RAM mínima (Q4_K_M)

143GB

RAM mínima (IQ4_XS para Macs de 128GB)

112GB

Tokens/seg en Mac Studio M3 Ultra 256GB Q4

15-22

Tokens/seg en 4x H200 FP8 (vLLM)

120-180 con batching

Hardware que ejecuta Qwen3 235B A22B en producción

Tres niveles, SKUs reales, números de rendimiento reales.

  1. Nivel básico: Mac Studio M3 Ultra 256GB o 512GB ($9.499-14.999)

    Rendimiento: 15-22 tokens/seg. Mejor para: flujos de trabajo de un solo usuario de alta potencia, generación de código, razonamiento profundo sobre documentos privados.

  2. Nivel medio: 2x RTX Pro 6000 Blackwell 96GB ($20-28K) o 4x RTX 5090

    Rendimiento: 40-70 tokens/seg. Mejor para: firmas de 10-30 usuarios, serving con batching en vLLM, descarga de expertos MoE.

  3. Nivel enterprise: 4x H200 SXM 141GB u 8x H100 80GB FP8 ($150-300K)

    Rendimiento: 120-300 tokens/seg. Mejor para: más de 100 usuarios concurrentes, operaciones multilingües, flujos de trabajo agentivos.

Opciones de cuantización para este modelo

GGUF, AWQ, FP8, INT4.

Cuantización recomendada

IQ4_XS para Macs de 128GB (calidad cercana a Q4_K_M, cabe con contexto de 40K), Q4_K_M para Macs de 256GB+, FP8 para H100 y H200, AWQ INT4 para tarjetas de consumo Blackwell

Compensaciones

Los modelos MoE toleran la cuantización ligeramente mejor que los modelos densos porque el enrutamiento de expertos diluye el error por peso. IQ4_XS pierde alrededor de 3 por ciento en MMLU-Pro frente a FP16. FP8 es el punto óptimo de producción en Hopper y Blackwell, casi sin pérdidas y con 2x más rendimiento frente a FP16.

GGUF IQ4_XS

Tamaño del archivo: 112GB.

GGUF Q4_K_M

Tamaño del archivo: 143GB.

AWQ INT4

Tamaño del archivo: 118GB.

FP8

Tamaño del archivo: 235GB.

Agentes de código que conectamos a Qwen3 235B A22B

Tool calling nativo con la fiabilidad más alta de cualquier modelo abierto en 2026.

Qwen-Agent

Opción nativa de Alibaba: pip install -U qwen-agent[gui,rag,code_interpreter,mcp]. Encapsula plantillas y analizadores de tool-calling internamente. Pasa model_server como la URL /v1 de vLLM. Incluye MCP, intérprete de código, RAG y extensión de Chrome.

Cline

Proveedor compatible con OpenAI. El tool calling en Qwen3 es el más estable de la clase de modelos abiertos, raramente alucina llamadas o descarta parámetros. Los modos Plan y Act funcionan. La variante Thinking-2507 añade pasos de razonamiento para planes más profundos, Instruct-2507 es más rápida para trabajo rutinario.

Aider

El leaderboard Polyglot de Aider sitúa a Qwen3 235B A22B en 65,3 por ciento, cerca de la cima de los modelos abiertos auto-hospedables. Configura --openai-api-base al endpoint de vLLM. El modo de formato de edición funciona limpiamente en Python, TypeScript, Go, Rust y Java.

Continue.dev

Añade a config.yaml con provider: openai y apiBase a tu vLLM. Declara capabilities: [tool_use]. El modo agente detecta automáticamente el tool calling nativo. El contexto de 256K en la variante Thinking desbloquea el modo de contexto completo de repositorio de Continue.

OpenHands

Encaje fuerte. Un checkpoint RFT 235B de la base Instruct-2507 alcanzó 61,7 por ciento Pass@1 (74,3 por ciento Pass@5 a 500 turnos) en SWE-bench Verified usando trayectorias OpenHands según Nebius, superando al especialista de código 30B (50,3 por ciento) con la mitad de los parámetros de Qwen3-Coder-480B. Establece LLM_BASE_URL a vLLM. Mejor rendimiento en bucle autónomo de cualquier modelo de este grupo.

Roo Code

Fork de Cline. Multi-modo (Code, Architect, Ask, Debug). El modo Architect más la variante Thinking-2507 es una combinación fuerte porque la traza de razonamiento de Qwen3 expone los compromisos arquitectónicos con claridad. Misma configuración compatible con OpenAI.

Claude Code (con endpoint personalizado)

Claude Code acepta anulación de OPENAI_BASE_URL según las guías no oficiales. Qwen3 235B A22B es el modelo abierto que más se acerca a Claude Sonnet en la propia evaluación SWE-bench de Claude Code. Verifica la compatibilidad del formato de herramientas, algunas herramientas internas de Claude Code asumen llamadas de función con sabor Anthropic.

Casos de uso de agentes de código

Donde este modelo más el stack de agentes entrega trabajo real.

Agentes de investigación que desplegamos en Qwen3 235B A22B

El contexto de 256K (variante Thinking-2507) convierte a Qwen3 235B A22B en uno de los modelos abiertos más potentes para investigación profunda.

Qwen-Agent

RAG, código intérprete y MCP integrados. Un solo pip install proporciona un stack de agentes funcional. Mejor punto de partida de investigación si el comprador está comprometido con la línea Qwen.

GPT Researcher

Apunta OPENAI_BASE_URL a vLLM. El seguimiento de instrucciones de Qwen3 (Qwen 3.5 alcanza IFEval 92,6) significa que los prompts de planificación de GPT Researcher se siguen con precisión. Los informes tardan 3 a 5 minutos para 5 a 10 fuentes.

AnythingLLM

El proveedor Generic OpenAI funciona. RAG en espacio de trabajo más el modo @agent cubre el 80 por ciento de los casos de uso de compradores. La fiabilidad de herramientas de Qwen3 hace que @agent raramente falle en secuencias de múltiples herramientas.

Open WebUI

UI de chat predeterminada. El interruptor de thinking híbrido de Qwen3 se expone bien mediante los ajustes por conversación de Open WebUI (chat_template_kwargs.enable_thinking). Los compradores pueden activar el razonamiento para preguntas difíciles y desactivarlo para chat rápido.

LangGraph

Orquestación de investigación en producción. El tool calling fiable de Qwen3 es el diferenciador: las transiciones de estado de LangGraph se activan correctamente sin lógica de reintento. Combina con trazabilidad LangSmith.

CrewAI

Equipos de investigación basados en roles. El sólido seguimiento de instrucciones de Qwen3 235B A22B hace que el texto de rol y objetivo de CrewAI se respete sin sobrecarga de ingeniería de prompts.

LlamaIndex

Mejor combinación de recuperación. Usa los motores de consulta de LlamaIndex como herramientas dentro de un flujo de trabajo Qwen-Agent o LangGraph. El contexto de 256K permite mantener una ventana de fragmentos recuperados mucho mayor que el RAG típico.

DSPy

Optimización de prompts. El paso de compilación de DSPy es inusualmente efectivo en Qwen3 porque el modelo sigue patrones estructurados few-shot con precisión. Usa DSPy para optimizar el prompt de descomposición de preguntas, luego despliega mediante LangGraph.

Casos de uso de agentes de investigación

Donde este modelo más el stack de agentes de investigación entrega informes que tu equipo realmente usa.

Frameworks que instalamos para flujos de trabajo de agentes en producción

Elige el framework según la forma del flujo de trabajo.

Qwen-Agent

Framework nativo de agentes Qwen con MCP, RAG, intérprete de código e interfaz Gradio.

LangGraph

Orquestación con estado en producción. Mejor combinado con el tool calling fiable de Qwen3.

CrewAI

Equipos basados en roles. El más rápido para demo con el seguimiento de instrucciones de Qwen3.

AutoGen / AG2

Conversaciones GroupChat. Útil para patrones de debate en modo híbrido de Qwen3.

DSPy

Compilación de prompts. Fuerte con la adherencia al formato estructurado de Qwen3.

Pydantic AI

Agentes tipados. La fiabilidad de salida estructurada de Qwen3 es un encaje limpio.

LlamaIndex

Capa de recuperación. Combina con el contexto de 256K de Qwen3 para fragmentos recuperados de gran tamaño.

Quién elige Qwen3 235B A22B

Tres perfiles de comprador donde este modelo es la respuesta correcta.

  1. Firma de abogados internacional, 80 letrados, 5 oficinas

    Tarea: Revisión de contratos transfronterizos en inglés, francés, alemán, mandarín más discovery. Resultado: La cobertura de 119 idiomas reemplaza tres herramientas de traducción separadas. Apache 2.0 significa que la redistribución a portales de clientes es limpia.

  2. Consultora de software, 40 ingenieros

    Tarea: Generación de código, revisión de código, refactorización agentiva en múltiples idiomas y frameworks. Resultado: 70,7 LiveCodeBench v5 y 2.056 CodeForces superan a cualquier modelo denso abierto. Modo Thinking para bugs difíciles, Non-Thinking para autocompletado.

  3. Organización de investigación farmacéutica, 12 científicos

    Tarea: Síntesis de literatura, generación de hipótesis, consultas GPQA-class STEM en documentos internos. Resultado: Liderazgo en SuperGPQA sobre DeepSeek-V3 y Llama-4 en STEM experto. El contexto de 256K gestiona dossieres completos de ensayos clínicos.

Lo que dijeron los clientes después del lanzamiento

Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
James, Fleet ManagerDallas
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney

Qwen3 235B A22B frente a sus rivales más cercanos

Dónde gana este modelo, dónde pierde.

vs DeepSeek V3.2

DeepSeek V3.2 (671B MoE, 37B activos) gana en matemáticas y código en el extremo absoluto. Qwen3 235B gana en huella de memoria (143GB Q4 frente a 376GB Q4) y en accesibilidad de hardware para cualquier firma sin presupuesto para 8x H100.

vs Llama 3.3 70B

Qwen3 235B gana en razonamiento, codificación, multilingüe y benchmarks en general. Llama 3.3 70B gana en simplicidad de serving, suelo de hardware y madurez del ecosistema. Elige Llama para firmas de 8 a 15 personas, Qwen3 235B para más de 30 cuando la calidad es la restricción.

vs Mistral Large 3 (675B MoE)

Mistral Large 3 gana en Apache 2.0 más visión multimodal de primera clase. Qwen3 235B gana en huella de hardware (143GB frente a 370GB en Q4) y en el tamaño de empresa que puede auto-hospedarlo sin un nodo GPU enterprise.

Cómo Pineido configura agentes en Qwen3 235B A22B

El día 4 vLLM (o SGLang) sirve el modelo con tool calling y el analizador de razonamiento.

Día 4

vLLM sirve Qwen3-235B-A22B-Instruct-2507 con tensor-parallel-size 8, max-model-len 131072 (o 256K en Thinking-2507), --enable-reasoning --reasoning-parser deepseek_r1 para la variante Thinking. La variante FP8 cabe en 8xH100.

Día 6

Agentes de editor (Aider, Cline, Continue.dev, Roo Code) conectados a /v1. Configuración compatible con OpenAI en todos. El tool calling es el más estable de cualquier modelo abierto, por lo que apenas se necesita lógica de reintento.

Día 8

Open WebUI más AnythingLLM activos. El interruptor de thinking híbrido expuesto por conversación mediante chat_template_kwargs.enable_thinking. Los espacios de trabajo aíslan conjuntos de documentos sensibles.

Día 9

Qwen-Agent instalado (pip install -U qwen-agent[gui,rag,code_interpreter,mcp]). Servidores MCP conectados para sistema de archivos, tiempo, fetch y tus APIs internas.

Día 10

Flujos de trabajo LangGraph para investigación en producción. Tres flujos entregados: investigación profunda, revisión de código, intake de clientes. Trazabilidad con LangSmith activada.

Día 12

Autonomía de repositorio OpenHands demostrada contra tres tareas reales. Tasa de paso esperada en clase SWE-bench alrededor del 60 por ciento dado la base Instruct 235B.

Día 14

Paquete de evidencia con tasas de éxito de tool-call, números de rendimiento, verificaciones puntuales de precisión, runbook e inventario de agentes entregado.

Cómo desplegamos Qwen3 235B A22B en 14 días

Precio fijo.

Día 1

Confirmar el nivel de hardware. Un Mac de 128GB está en el límite (solo IQ4_XS). Un Mac de 256GB+ o multi-GPU es el suelo real. Benchmark de Thinking frente a Non-Thinking en la carga de trabajo real.

Día 4

Servir mediante vLLM con FP8 (GPU) o MLX con Q4 (Mac). Conectar la API compatible con OpenAI. Configurar el interruptor de modo thinking por ruta o por rol de usuario.

Día 9

RAG con embeddings multilingües BGE-M3, Qdrant. SSO, logging de auditoría, RBAC, telemetría de enrutamiento de expertos para monitoreo de costes.

Día 14

Pentest superado. Archivo NOTICE Apache 2.0 presentado. Cutover. No se requiere cadena de atribución en la UI del producto.

235B total, 22B activos por token (MoE) Parámetros

Reserva la llamada de scoping de 30 minutos. Te decimos si Qwen3 235B A22B más nuestro stack de agentes es la elección correcta antes de que firmes.

Precio fijo.

El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los cálculos de coste exactos y la postura de cumplimiento exacta.

Te llevas

  1. Día 0 (esta semana): Llamada de scoping de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costes en tu bandeja antes del viernes
  2. Día 1: Confirmar el nivel de hardware. Un Mac de 128GB está en el límite (solo IQ4_XS). Un Mac de 256GB+ o multi-GPU es el suelo real. Benchmark de Thinking frente a Non-Thinking en la carga de trabajo real.

Las preguntas que deciden si somos los indicados

¿Es Qwen3 235B realmente gratuito para uso comercial?

Sí. Apache 2.0, sin límite de MAU, sin requisito de atribución en el producto, sin nivel de pago. Puedes hacer fine-tuning, redistribuir, distribuir en productos comerciales e integrar en entregables a clientes sin contactar a Alibaba. El único requisito es conservar el archivo NOTICE Apache 2.0 en las distribuciones de código fuente, que es una tarea legal de una línea.

¿Qué hardware ejecuta realmente Qwen3 235B a una velocidad usable?

Mac Studio M3 Ultra 256GB en Q4_K_M es el camino más barato viable, con 15 a 22 tokens por segundo de decodificación para un usuario. Un Mac de 128GB requiere IQ4_XS y se queda sin margen por encima de 40K de contexto. Para producción multi-usuario, apunta a 2x RTX Pro 6000 Blackwell 96GB o un nodo de 4x H200 con FP8.

¿Qué es el modo Thinking frente a Non-Thinking y cuándo uso cada uno?

El modo Thinking ejecuta una cadena de pensamiento interna antes de responder, más lento pero más potente en matemáticas, código y razonamiento de múltiples pasos. Non-Thinking es respuesta directa, más rápida, adecuada para chat, redacción y tool calls. La variante Instruct-2507 es Non-Thinking por defecto. Enruta problemas difíciles a Thinking y tareas estándar a Non-Thinking y tu relación tokens-por-dólar mejora entre 3 y 5 veces.

¿Debemos desplegar Qwen3 235B o DeepSeek V3.2?

DeepSeek V3.2 gana en razonamiento más difícil y matemáticas IMO. Qwen3 235B gana en suelo de hardware (143GB frente a 376GB en Q4), amplitud multilingüe y simplicidad de serving. Para cualquier firma sin un cluster de 8x H100 inactivo, Qwen3 235B es la elección práctica.

¿Por qué se considera el tool calling de Qwen3 235B A22B la opción abierta más fiable?

El pipeline de post-entrenamiento de Qwen3 incluyó RL en más de 20 tareas de dominio general específicamente para fortalecer las capacidades de agente, el seguimiento de instrucciones y el seguimiento de formato. El resultado es la tasa más baja de alucinaciones de tool-call de cualquier modelo abierto en los benchmarks de 2026, y la plantilla de chat codifica nativamente el formato de herramienta compatible con OpenAI más MCP. En sprints Pineido vemos significativamente menos bugs de bucle de reintento en Qwen3 frente a Llama o Mistral.

¿Debemos usar Qwen3-235B-A22B-Instruct-2507 o Thinking-2507?

Ambos. Pineido despliega Instruct-2507 como endpoint predeterminado porque es más rápido y omite los tokens de thinking. Desplegamos Thinking-2507 en un segundo puerto para problemas difíciles. Los dos modelos comparten la arquitectura, así que vLLM los sirve en paralelo. Cline, Roo Code y Open WebUI pueden enrutar por tarea. La variante Thinking puntúa entre 7 y 12 puntos más alto en benchmarks de razonamiento difícil pero es aproximadamente 3 veces más lenta por respuesta.

PorFundador e Imaginator

Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.

Publicado Actualizado