Instalando Qwen2.5-Coder 32B en tu hardware, stack de agentes en marcha, listo para producción en 14 días

Qwen2.5-Coder 32B es el modelo de código de código abierto que aterrizó dentro del nivel GPT-4o en cada benchmark público de codificación. Publicado el 11 de noviembre de 2024 bajo Apache 2.0, entrenado en 5.5 billones de tokens que abarcan 92 lenguajes de programación.

  • Paso a producción en 14 días
  • Stack de agentes de programación + investigación incluido
  • 32.5B denso (31.0B sin embeddings) Parámetros
  • 128K tokens Ventana de contexto
  • 14 d Cambio a producción

Qwen2.5-Coder 32B de un vistazo

Las especificaciones que importan al elegir el modelo y el hardware.

Parámetros

32.5B denso (31.0B sin embeddings)

Ventana de contexto

128K tokens

Licencia

Apache 2.0

Publicación

11 de noviembre de 2024

Datos de entrenamiento

5.5T tokens, 92 lenguajes de programación

HumanEval

92.7

MBPP

90.2

Aider (reparación de código)

73.7

VRAM mínima (Q4_K_M)

19 GB

VRAM mínima (Q5_K_M)

22 GB

VRAM mínima (Q8_0)

34 GB

Tokens/seg en RTX 4090 Q4

42

Tokens/seg en RTX 5090 Q4

55-70

Tokens/seg en M3 Max Q4

18

Hardware que ejecuta Qwen2.5-Coder 32B en producción

Tres niveles, SKUs reales, números de rendimiento reales.

  1. Nivel básico: Mac Mini M4 Pro 24 GB ($1,599) o RTX 4090 ($1,800) en Q4_K_M

    Rendimiento: 18-42 tokens/seg. Mejor para: Desarrolladores individuales, equipos pequeños, autocompletado en IDE, revisión de código.

  2. Nivel medio: RTX 5090 32 GB ($2,500) o 2x RTX 4090 ($3,600)

    Rendimiento: 55-90 tokens/seg. Mejor para: Equipos de 5-15 ingenieros, servicio vLLM para autocompletado compartido, calidad Q5/Q6, servidor de generación de código.

  3. Nivel empresarial: RTX Pro 6000 Blackwell 96 GB ($10-14K) o A100/H100

    Rendimiento: 120-200 tokens/seg. Mejor para: Organización de 30+ ingenieros, plataforma de código multi-tenant, ciclo de ajuste fino, reemplazo interno de Copilot.

Lo que dijeron los clientes después del lanzamiento

Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Crew scheduling was a nightmare. Guys would show up at the wrong site or not at all. The automated dispatch board fixed that in week two.
Tom, Landscaping OwnerAtlanta
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
James, Fleet ManagerDallas

Opciones de cuantización para este modelo

GGUF, AWQ, FP8, INT4.

Cuantización recomendada

Q4_K_M para usuario único y GPU de consumo. Q5_K_M o Q6_K cuando el VRAM lo permite (RTX 5090 o mayor), mejor calidad de código en casos límite. AWQ INT4 para servicio vLLM. FP8 en H100 solo si ejecutas una flota.

Compromisos

Los modelos de código son sensibles a la cuantización en generación de formato largo. Q4 funciona bien para autocompletado en IDE y tareas de edición. Q5_K_M y Q6_K son notablemente mejores al escribir funciones desde cero o refactorizaciones multi-archivo. Q8_0 fuerza offload en RTX 4090 (~34 GB), baja el rendimiento de 42 a 22 tokens por segundo.

GGUF Q4_K_M

Tamaño de archivo: 19 GB.

GGUF Q5_K_M

Tamaño de archivo: 22 GB.

GGUF Q8_0

Tamaño de archivo: 34 GB.

AWQ INT4

Tamaño de archivo: 18 GB.

Agentes de codificación que conectamos a Qwen2.5-Coder 32B

El mejor codificador agéntico 'económico' en 2026: iguala a GPT-4o en HumanEval, corre en un solo RTX 4090 en Q4_K_M.

Aider

Mejor ajuste. El formato diff-edit de Aider no depende de bucles agresivos de herramientas multi-turno, así que las peculiaridades de tool-call de Qwen2.5-Coder 32B no causan problemas. 73.7% en el benchmark de reparación de código Aider, comparable a GPT-4o. Ejecutar aider --openai-api-base http://tu-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct.

Continue.dev

Ajuste sólido. config.yaml con provider: openai o vllm, apiBase hacia tu endpoint. El autocompletado por tabs funciona en Q4_K_M en un solo RTX 4090. Usar como rol de autocompletado y edición; combinar con un modelo más pequeño y rápido para completado en línea si la latencia importa.

Cline (con solución alternativa)

Qwen2.5-Coder 32B vanilla puede entrar en bucle en tareas de Cline (releyendo archivos sin avanzar). Solución: usa el modelo Ollama comunitario mychen76/qwen2.5_cline_roocode:32b con un prompt de sistema personalizado que impone el formato XML estricto <tool><param>valor</param></tool>, exactamente una herramienta por turno. O actualiza a Qwen3-Coder.

Roo Code (con solución alternativa)

Misma advertencia que Cline. El prompt personalizado mychen76/qwen2.5_cline_roocode:32b apunta explícitamente tanto a Cline como a Roo Code. El modo Architect tiende a ser más tolerante que el modo Code porque descarga el paso de planificación.

Qwen-Agent

Framework de agentes nativo de Qwen con plantilla de tool-call incorporada para Qwen2.5. Incluye llamado de funciones, MCP, intérprete de código, RAG. La ruta con mejor soporte para tool-calling en Qwen2.5-Coder 32B vanilla ya que usa la plantilla de chat oficial.

OpenHands (limitado)

Funciona pero rinde menos que Qwen3-Coder 30B-A3B en SWE-bench. Qwen2.5-Coder no fue entrenado con RL en bucles agénticos como Qwen3-Coder. Usar solo si Qwen2.5-Coder 32B es el único modelo que puedes correr en la GPU de 24 GB disponible.

Cursor (solo en la nube)

Disponible via OpenRouter o APIs de nube pero no mediante endpoint local personalizado. Cursor enruta a través de su backend, rompiendo el argumento de localidad de datos que hace atractivo a Qwen2.5-Coder 32B. Cline es la mejor elección de Pineido.

Casos de uso de agentes de codificación

Donde este modelo + stack de agentes genera trabajo real.

Agentes de investigación que desplegamos en Qwen2.5-Coder 32B

Modelo especializado en código.

Qwen-Agent

RAG, MCP, intérprete de código integrado. Mejor stack de investigación para Qwen2.5-Coder 32B porque la alineación de la plantilla de chat es exacta: pip install -U qwen-agent[gui,rag,code_interpreter,mcp].

AnythingLLM

RAG consciente del código sobre documentación de repositorios. Espacio de trabajo por proyecto. El modo @agent es usable para preguntas de investigación de código sobre tu base de código privada más documentación de SDK.

Open WebUI

Interfaz de chat predeterminada. Funciona para consultas de código ad-hoc y búsqueda de documentación. La carga de documentos cubre manuales SDK en PDF, RFCs y documentación de librerías.

GPT Researcher

Usable para investigación adyacente al código (comparaciones de librerías, benchmarks de frameworks). Para investigación pura no-código, un modelo general es mejor opción. La anulación de OPENAI_BASE_URL funciona.

LlamaIndex

Mejor combinación de recuperación para RAG de código y documentación. El resumidor de árbol y el seguimiento de citas de LlamaIndex manejan bien los documentos SDK. Combinar con una capa de orquestación Qwen-Agent o LangGraph encima.

LangGraph

Orquestación en producción. Útil cuando quieres un flujo de trabajo de investigación de código en múltiples pasos (analizar stack trace, buscar documentos, redactar solución). Las peculiaridades de tool-call de Qwen2.5-Coder significan que puedes necesitar lógica de reintento explícita en el grafo.

CrewAI

Equipos secuenciales. Útil para pares de investigación-y-escritura (el investigador lee documentos, el escritor redacta un registro de decisión de arquitectura). Más rápido de demostrar que LangGraph.

Casos de uso de agentes de investigación

Donde este modelo + stack de agentes de investigación entrega informes que tu equipo realmente usa.

Frameworks que instalamos para flujos de trabajo de agentes en producción

Elige el framework según la forma del flujo de trabajo.

Qwen-Agent

Framework nativo de Qwen. Mejor alineación de tool-call para Qwen2.5-Coder 32B.

LangGraph

Orquestación en producción con lógica de reintento explícita para peculiaridades de tool-call.

CrewAI

Equipos secuenciales de investigación-y-escritura.

DSPy

Compilación de prompts. Útil para ajustar los prompts de tool-call de Qwen2.5-Coder.

Quién elige Qwen2.5-Coder 32B

Tres perfiles de comprador donde este modelo es la respuesta correcta.

  1. Empresa de software, 12 ingenieros

    Tarea: Autocompletado en IDE, revisión de código, refactorización, herramientas internas. Resultado: Reemplaza el licenciamiento de Copilot o Cursor a $24-40 por asiento por mes. Un solo RTX 5090 sirve a todo el equipo. ROI en 3 meses. El código nunca sale de la empresa.

  2. Fintech, 25 ingenieros bajo SOC 2

    Tarea: Generación de código contra sistemas de trading privados y algoritmos propietarios. Resultado: Apache 2.0 más despliegue en las instalaciones pasa la revisión de SOC 2 limpiamente. Sin exfiltración de fragmentos de código a APIs de terceros. Ajustable en la base de código propietaria.

  3. Contratista de defensa, 8 ingenieros en alcance ITAR

    Tarea: Revisión y generación de código en software controlado por exportación. Resultado: El despliegue air-gapped satisface ITAR. Q5_K_M en una sola estación de trabajo por ingeniero. Ninguna API de terceros toca la base de código.

Qwen2.5-Coder 32B vs los rivales más cercanos

Dónde gana este modelo, dónde pierde.

vs Llama 3.3 70B

Qwen2.5-Coder 32B supera a Llama 3.3 70B en cada benchmark de código por 3 a 8 puntos, y corre en hardware a un tercio del costo. Llama 3.3 70B gana en razonamiento general y tareas que no son código. Usa Qwen2.5-Coder para código, Llama 3.3 para todo lo demás, o corre ambos.

vs GPT-4o

Qwen2.5-Coder 32B iguala a GPT-4o en HumanEval y MBPP, comparable en Aider. GPT-4o gana en el razonamiento más difícil. Para el 90% del trabajo de desarrollo (autocompletado, refactorización, escribir pruebas, revisar PRs) la diferencia es invisible.

vs DeepSeek-Coder V2

Qwen2.5-Coder 32B supera a DeepSeek-Coder V2 en EvalPlus, el benchmark de código más resistente a la saturación. Qwen2.5-Coder también gana en simplicidad de servicio denso vs MoE (32B único vs complejidad MoE de DSCv2).

Cómo Pineido configura agentes en Qwen2.5-Coder 32B

Día 4 Ollama o vLLM sirve Qwen2.5-Coder 32B Instruct en un solo GPU de 24 GB.

Día 4

Ollama corre qwen2.5-coder:32b en Q4_K_M (~22 GB en un GPU de 24 GB). Para mayor rendimiento, vLLM sirve Qwen2.5-Coder-32B-Instruct con --tensor-parallel-size 1 --max-model-len 32768. La ventana completa de 128K requiere más margen de VRAM.

Día 5

Elegimos la ruta del agente. Qwen2.5-Coder vanilla funciona para Aider y Continue.dev. Para Cline o Roo Code, instalamos mychen76/qwen2.5_cline_roocode:32b con el prompt de sistema de herramienta XML personalizado, o recomendamos actualizar al comprador a Qwen3-Coder 30B-A3B.

Día 6

Aider via --openai-api-base, Continue.dev via config.yaml provider: openai o vllm. Autocompletado por tabs habilitado en Continue.

Día 8

Open WebUI más AnythingLLM en marcha. RAG consciente del código sobre repositorio más documentación de SDK.

Día 10

Qwen-Agent instalado (pip install -U qwen-agent[gui,rag,code_interpreter,mcp]). Servidores MCP conectados para sistema de archivos y GitHub.

Día 12

Flujo de trabajo LangGraph para pipeline de investigación-de-código-y-escritura. Lógica de reintento explícita en nodos de tool-call dadas las peculiaridades de formato de herramientas del modelo.

Día 14

Paquete de evidencias con reproducción de puntuación Aider, números de rendimiento, inventario de agentes, y una recomendación escrita sobre si actualizar a Qwen3-Coder.

Cómo desplegamos Qwen2.5-Coder 32B en 14 días

Tarifa fija.

Día 1

Prueba comparativa contra tu base de código real. Elige Q4_K_M o Q5_K_M según VRAM. Verifica que la cobertura de lenguajes coincide con tu stack (92 lenguajes, pero la calidad varía).

Día 4

Servir mediante vLLM (RTX 5090 o Pro 6000) u Ollama (Mac, estación de trabajo individual de desarrollador). Conectar endpoint compatible con OpenAI. Conectar al plugin IDE de Continue.dev o Cline.

Día 9

Opcional: ajuste fino en base de código privada con QLoRA. Búsqueda de embeddings via BGE-M3 sobre tu repositorio. RBAC, registro de auditoría, regla de firewall sin egreso.

Día 14

Pentest aprobado. NOTICE de Apache 2.0 archivado. Cambio a producción. Reemplazar asientos de Copilot/Cursor.

Las preguntas que deciden si somos los indicados

¿Podemos distribuir Qwen2.5-Coder 32B dentro de nuestro producto comercial?

Sí. Apache 2.0, sin límite de MAU, sin atribución en el producto, sin restricción comercial. Puedes ajustar en tu base de código, redistribuir los pesos ajustados e integrar en productos comerciales. Conserva el archivo NOTICE en distribuciones de fuente y estás limpio.

¿Cuál es el hardware más económico que ejecuta Qwen2.5-Coder 32B para un desarrollador en activo?

Mac Mini M4 Pro 24 GB a $1,599 corre Q4_K_M desde la caja con Ollama, alrededor de 14 a 18 tokens por segundo de decodificación. Bien para el autocompletado en IDE de un desarrollador. RTX 4090 alcanza 42 tokens por segundo en el mismo nivel de cuantización por un precio similar. RTX 5090 sube eso a 55-70 con margen para Q5 o Q6.

¿Qwen2.5-Coder 32B reemplaza a GitHub Copilot o Cursor?

Para autocompletado, refactorización y revisión de código en la mayoría de los stacks, sí. HumanEval 92.7 es de clase GPT-4o. La diferencia se nota en el razonamiento más difícil y en lenguajes de nicho. La mayoría de equipos encuentra que Qwen2.5-Coder más un buen plugin de IDE (Continue, Cline) cubre el 90% de los casos de uso de Copilot a costo por asiento cero.

¿Debemos esperar a Qwen3-Coder?

Los modelos base Qwen3 existen, la familia Qwen3-Coder sigue el mismo ciclo de publicación. Si tienes un stack funcional, Qwen2.5-Coder 32B está maduro, soportado por el ecosistema y tiene buenos benchmarks por encima de cualquier modelo que corriera en $2K de hardware hace un año. Migra cuando Qwen3-Coder llegue y muestre un delta real en benchmarks. No esperes para empezar.

¿Qwen2.5-Coder 32B funciona con Cline?

Con advertencias. Qwen2.5-Coder 32B vanilla tiene un problema conocido donde Cline entra en bucle en tareas multi-turno (issue #1429 de Cline), releyendo archivos sin avanzar. Dos soluciones funcionan. Primero, instala la variante Ollama comunitaria mychen76/qwen2.5_cline_roocode:32b con un prompt de herramienta estilo XML personalizado. Segundo, actualiza a Qwen3-Coder 30B-A3B que fue entrenado con RL para bucles de agente estilo Cline. Pineido prueba ambos durante el sprint y recomienda Qwen3-Coder para compradores cuyo caso de uso principal son los bucles de agente autónomos. Qwen2.5-Coder sigue siendo excelente para flujos de trabajo de edición explícita al estilo Aider.

¿Cuál es la puntuación Aider de Qwen2.5-Coder 32B?

73.7% en el benchmark de reparación de código Aider según el blog oficial de QwenLM. Comparable a GPT-4o. El patrón diff-edit de Aider no activa las peculiaridades de tool-call que afectan a Cline, así que Qwen2.5-Coder 32B es genuinamente usable para refactorizaciones multi-archivo impulsadas por Aider. Ejecutar aider --openai-api-base http://tu-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct.

32.5B denso (31.0B sin embeddings) Parámetros

Reserva la llamada de alcance de 30 minutos. Te decimos si Qwen2.5-Coder 32B más nuestro stack de agentes es la elección correcta antes de que firmes.

Tarifa fija.

El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los costos exactos y la postura de cumplimiento exacta.

Te llevas

  1. Día 0 (esta semana): Llamada de alcance de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costos en tu bandeja de entrada antes del viernes
  2. Día 1: Prueba comparativa contra tu base de código real. Elige Q4_K_M o Q5_K_M según VRAM. Verifica que la cobertura de lenguajes coincide con tu stack (92 lenguajes, pero la calidad varía).

PorFundador e Imaginator

Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.

Publicado Actualizado