Instalando DeepSeek Coder V2 en tu hardware, stack de agentes en marcha, listo para producción en 14 días

DeepSeek Coder V2 fue el primer modelo de codificación de pesos abiertos en amenazar seriamente a GPT-4 Turbo en benchmarks reales. 90.2 en HumanEval, 76.2 en MBPP+, 43.4 en LiveCodeBench, y el número que marcó un hito: 12.7 en SWE-Bench, el primer modelo abierto en superar los dos dígitos.

  • Paso a producción en 14 días
  • Stack de agentes de programación + investigación incluido
  • 236B total / 21B activos (MoE) Parámetros
  • 128K tokens Ventana de contexto
  • 14 d Cambio a producción

DeepSeek Coder V2 de un vistazo

Las especificaciones que importan al elegir el modelo y el hardware.

Parámetros

236B total, 21B activos por token

Variante Lite

16B total, 2.4B activos por token

Ventana de contexto

128K tokens

Arquitectura

DeepSeekMoE + Multi-head Latent Attention (MLA)

Lenguajes soportados

338 lenguajes de programación

Tokens de entrenamiento

10.2T total (6T de preentrenamiento continuo para código+matemáticas)

Licencia

DeepSeek License Agreement (uso comercial permitido)

VRAM FP16 (completo)

~472 GB

VRAM FP8 (completo)

~240 GB

Fecha de publicación

2024-06-17

Hardware que ejecuta DeepSeek Coder V2 en producción

Tres niveles, SKUs reales, números de rendimiento reales.

  1. Nivel básico: DeepSeek Coder V2 Lite (16B / 2.4B activos) en un solo RTX 4090 24 GB en Q4

    Rendimiento: 60 a 120 tok/s en Lite. Mejor para: Desarrollador individual, autocompletado en IDE, servidor local de completado de código.

  2. Nivel medio: Full 236B en INT4 en 4x A100 80 GB o 4x H100 80 GB

    Rendimiento: 30 a 60 tok/s flujo único, 200+ tok/s en batch. Mejor para: Reemplazo de Copilot self-hosted para todo el equipo, bot de revisión de código, agente de codificación interno.

  3. Nivel empresarial: 8x H100 SXM en FP8, o 8x H200 en BF16 nodo único

    Rendimiento: 100 a 200 tok/s flujo único, 1000+ tok/s en batch. Mejor para: API de código multi-tenant, hosting de producto de clase Cursor, plataformas empresariales de SWE-agent.

Opciones de cuantización para este modelo

GGUF, AWQ, FP8, INT4.

Cuantización recomendada

Full 236B en FP8 en H100/H200. Lite 16B en Q4_K_M para un solo GPU. INT4 (AWQ) en el modelo completo para despliegues de 4 GPUs.

Compromisos

La arquitectura MoE es más sensible a la cuantización que la densa. FP8 es esencialmente sin pérdidas. INT4 AWQ pierde 1 a 3 puntos en HumanEval y MBPP. Por debajo de INT4 el modelo se degrada marcadamente en código multi-lenguaje.

BF16 (full 236B)

Unos 472 GB de pesos. Necesita un nodo de 8x 80 GB (H100 o A100). Calidad de referencia sin pérdidas, mayor costo de memoria.

FP8 (full 236B)

Unos 240 GB de pesos. Cabe en un nodo de 8x H100 80 GB con KV cache en FP8 via SGLang o vLLM. Prácticamente sin pérdidas en los benchmarks de código.

INT4 AWQ (full 236B)

Unos 120 GB de pesos. Apunta a 4x GPUs de 80 GB. Pierde 1 a 3 puntos en HumanEval y MBPP frente a FP8.

Q4_K_M (Lite 16B)

Unos 10.4 GB en GGUF, aproximadamente 9 a 11 GB de VRAM con KV cache. Un solo RTX 4090 o 5090, con margen cómodo para 32K de contexto.

Lo que dijeron los clientes después del lanzamiento

Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Crew scheduling was a nightmare. Guys would show up at the wrong site or not at all. The automated dispatch board fixed that in week two.
Tom, Landscaping OwnerAtlanta
Our food cost was a mystery until they wired the POS to the inventory system. Now I know the actual margin on every plate before the week ends.
Miguel, Restaurant OwnerMiami

Agentes de codificación que conectamos a DeepSeek Coder V2

DeepSeek Coder V2 236B (21B activos, MoE) fue el modelo insignia de codificación de pesos abiertos en su lanzamiento y el primer modelo abierto en superar los dos dígitos en SWE-Bench cuando se combina con el scaffolding de SWE-Agent y OpenHands.

Aider

Tasa de éxito en diff-apply de primera clase. Aider 73.7% en el benchmark original de Python, alrededor del 65% en Aider Polyglot para V2 (verificar en el leaderboard). El formato diff edit funciona de forma confiable, menos errores de 'fallo al aplicar' que Llama o Codestral.

OpenHands

Tasa de aprobación SWE-bench Lite más alta en el grupo de pesos abiertos, alrededor del 38 al 42%. El par DeepSeek-OpenHands produjo el hito original de código abierto en SWE-bench. Scaffolding predeterminado para corrección autónoma de bugs en V2.

Cline

Ajuste sólido via API de DeepSeek o variante Lite de Ollama. El contexto de 128K absorbe el verbose prompt de sistema de Cline más contexto multi-archivo. El costo de tokens en la API de nube es el más bajo en el grupo de proveedores principales, $0.14/M de entrada en caché.

Continue.dev

Combinación ideal. Lite 16B (2.4B activos) corre en una tarjeta de estación de trabajo de 24 GB a 60+ tok/s, alcanza el presupuesto de latencia de autocompletado. Full 236B via API para chat y edición. La configuración estándar DeepSeek-más-Continue es uno de los stacks de código abierto más desplegados.

Cursor (BYOK)

Cursor acepta DeepSeek como modelo personalizado via la configuración BYOK. V2 Instruct funciona para chat y edición. El Composer de primera parte de Cursor es más rápido en iteración, V2 gana en costo por tarea.

SWE-Agent

Scaffolding autónomo de corrección de bugs de Princeton. V2 fue el primer modelo de código abierto en romper los dos dígitos en SWE-bench, la elección del equipo de Princeton para la ejecución de referencia de código abierto.

Roo Code

Fork de Cline. V2 maneja bien la iteración en modo Code, menos ideal en el modo Architect (V2 está ajustado para codificación, más débil en razonamiento amplio). Combina Architect=DeepSeek V3.2 más Code=DeepSeek Coder V2 para la división más limpia.

Casos de uso de agentes de codificación

Donde este modelo + stack de agentes genera trabajo real.

Agentes de investigación que desplegamos en DeepSeek Coder V2

Menos adecuado.

GPT Researcher

Funciona para investigación técnica donde las fuentes son repositorios GitHub o documentación de API. La investigación de prosa pura (informes legales, reportes de mercado) sufre del sesgo de codificación de V2. Enrutar a DeepSeek V3 o V3.2 en su lugar.

Open Deep Research (HuggingFace)

Ajuste nicho para investigación solo técnica. El framework smolagents mantiene el bucle ajustado, la fortaleza de codificación de V2 ayuda con subtareas de búsqueda de código. Evitar para investigación general.

LangGraph deep-research

Usar V2 solo para los nodos de análisis de código en un grafo mixto. Los nodos de síntesis y escritura deben enrutar a DeepSeek V3.2 o Llama 3.3 70B.

Pydantic AI

Ajuste sólido para agentes de extracción de código tipados. Leer archivos fuente, extraer firmas de funciones, emitir esquemas JSON, V2 lo maneja limpiamente. No la elección correcta para salidas de investigación con mucha prosa.

LlamaIndex code-search

Recuperación de repositorios GitHub y respuesta a preguntas sobre código. V2 más LlamaIndex es el predeterminado de RAG de código de código abierto. Para investigación sobre artículos y PDFs, usar un modelo de propósito general.

Casos de uso de agentes de investigación

Donde este modelo + stack de agentes de investigación entrega informes que tu equipo realmente usa.

Frameworks que instalamos para flujos de trabajo de agentes en producción

Elige el framework según la forma del flujo de trabajo.

Quién elige DeepSeek Coder V2

Tres perfiles de comprador donde este modelo es la respuesta correcta.

  1. Copilot self-hosted para una organización de ingeniería

    Tarea: Autocompletado en IDE y chat en 50 a 500 desarrolladores. Resultado: Full 236B en FP8 en 4x H100 se amortiza bien en muchos asientos, y los 21B activos significan que la latencia se mantiene competitiva con Codex.

  2. Cobertura de lenguajes de cola larga

    Tarea: Generación de código en Rust, Zig, Elixir, OCaml, Solidity. Resultado: 338 lenguajes soportados vs la cobertura más estrecha de Qwen da a DeepSeek Coder V2 la ventaja en stacks de nicho.

  3. Backend de SWE-agent

    Tarea: Resolución de issues, generación de PRs, razonamiento a nivel de repositorio. Resultado: Primer modelo de código abierto en superar el 10% en SWE-Bench (12.7%), convirtiéndolo en una base creíble para productos de codificación agéntica.

DeepSeek Coder V2 vs los rivales más cercanos

Dónde gana este modelo, dónde pierde.

vs Qwen2.5-Coder 32B

Qwen 32B es denso, cabe en un solo GPU de 48 GB en BF16, alcanza 92.7 en HumanEval (vs 90.2) y es Apache 2.0. DeepSeek Coder V2 gana en costo de servicio a batch alto via MoE, en cobertura de lenguajes de cola larga y en SWE-Bench. Qwen gana para despliegue en un solo GPU y simplicidad de licencia.

vs Codestral 22B

Codestral es más rápido para autocompletado FIM y tiene contexto de 256K, pero la Mistral Non-Production License bloquea el uso comercial sin un acuerdo separado. La licencia permisiva comercialmente de DeepSeek Coder V2 y el razonamiento multi-paso más sólido ganan para equipos de producción.

vs DeepSeek Coder V2 Lite (16B / 2.4B)

La variante Lite corre en un solo GPU de 24 GB y es la elección práctica para la mayoría de equipos. El 236B completo vale el gasto de hardware 5x solo cuando necesitas la ventaja de SWE-Bench o escala multi-tenant.

Cómo Pineido configura agentes en DeepSeek Coder V2

Sprint de dos semanas.

  1. Día 1

    Decisión de variante. Lite 16B para autocompletado local en un solo GPU, full 236B via API de nube de DeepSeek para orquestación. Confirmar si el comprador está pidiendo V2 específicamente o si V3.2 es el mejor ajuste.

  2. Día 3

    Despliegue local de Lite via Ollama en un GPU de 24 GB. Continue.dev conectado con Lite como tabAutocompleteModel y full 236B como modelo de chat. Latencia base, proyección de costo de tokens.

  3. Día 6

    Ejecuciones de prueba Aider más OpenHands más Cline contra la base de código del cliente. Tasa de éxito en diff-apply, tasa de aprobación de tarea estilo SWE-bench, gasto de tokens por tarea, todo registrado.

  4. Día 8

    Conexión del framework de agentes. LangGraph para flujos de trabajo en grafo, Pydantic AI para extracción tipada. Tool-calling nativo probado, validación de esquema bloqueada.

  5. Día 11

    Arnés de evaluación en tareas del cliente congeladas. Objetivo de éxito en diff-apply 95%+, conformidad de esquema 99%, presupuesto de tokens por tarea acordado.

  6. Día 14

    Cambio a producción. SSO, registro de auditoría, límites de velocidad por desarrollador. Política de rotación de clave API de DeepSeek. Atribución de licencia MIT distribuida en documentos del producto.

Cómo desplegamos DeepSeek Coder V2 en 14 días

Tarifa fija.

Día 1

Decidir entre Lite (16B) y Full (236B). La mayoría de equipos debe empezar con Lite en un RTX 4090 para validar la UX y la calidad antes de comprometerse con multi-GPU.

Días 2 a 4

Instalar vLLM con el modelo elegido. Para Full, configurar paralelismo tensorial en 4 a 8 GPUs y habilitar batching continuo. Para Lite, llama.cpp u Ollama es suficiente.

Semana 2

Conectar a Continue.dev, Cline o tu plugin IDE interno. Configurar endpoint FIM para autocompletado y endpoint de chat para explicaciones. Probar en tu base de código real, no solo HumanEval.

Semanas 3 a 4

Añadir arnés de agentes si quieres resolución de issues al estilo SWE-bench. Agregar ejecución en sandbox, recuperación sobre el repositorio y un bucle de verificación. Comparar contra el rendimiento real de PRs de tu equipo.

236B total / 21B activos (MoE) Parámetros

Reserva la llamada de alcance de 30 minutos. Te decimos si DeepSeek Coder V2 más nuestro stack de agentes es la elección correcta antes de que firmes.

Tarifa fija.

El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los costos exactos y la postura de cumplimiento exacta.

Te llevas

  1. Día 0 (esta semana): Llamada de alcance de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costos en tu bandeja de entrada antes del viernes
  2. Día 1: Decidir entre Lite (16B) y Full (236B). La mayoría de equipos debe empezar con Lite en un RTX 4090 para validar la UX y la calidad antes de comprometerse con multi-GPU.

Todo lo que preguntaría en la primera reunión

¿Debo correr el Lite de 16B o el full de 236B?

Lite para casi todos. Corre en un solo GPU de consumo, alcanza 81 en HumanEval y es más rápido por token que el modelo completo en hardware equivalente. Elige el full 236B solo si necesitas específicamente la ventaja en SWE-Bench o estás amortizando en cientos de asientos.

¿Puedo usarlo comercialmente?

Sí. El DeepSeek License Agreement permite uso comercial, incluidos servicios alojados. Incluye algunas restricciones de casos de uso (militar, contenido ilegal) pero sin límite de MAU ni regalías. La mayoría de los despliegues en producción están cubiertos.

¿Por qué elegir DeepSeek sobre Qwen2.5-Coder?

Tres razones. Primera, economía de servicio MoE a batch alto. Segunda, cobertura más amplia de lenguajes (338 vs el conjunto más ajustado de Qwen). Tercera, mejores números en SWE-Bench para flujos de trabajo agénticos. Si ninguno de esos importa, Qwen2.5-Coder 32B es una elección más simple e igualmente sólida.

¿Funciona el contexto de 128K para razonamiento a nivel de repositorio completo?

En su mayoría. El recall se mantiene sólido hasta 64K pero se degrada en la cola larga de 128K. Para tareas a nivel de repositorio, combina contexto de 128K con recuperación sobre un índice de embeddings de código en lugar de relleno crudo.

¿Debemos desplegar DeepSeek Coder V2 o DeepSeek V3.2 para nuestro agente de codificación?

V3.2 a menos que V2 sea un requisito difícil. DeepSeek V3.2-Exp anota 74.5% en Aider Polyglot y 67.8% en SWE-bench Verified, a una fracción del costo de GPT-5. V2 ronda el 65% en el mismo benchmark de Aider. V3.2 también es más sólido en seguimiento de instrucciones, la brecha que los autores de V2 señalaron como el cuello de botella clave en SWE-bench. Elige V2 solo cuando el comprador necesita la forma MoE de 21B parámetros activos para self-hosting en un nodo de 8x H100, o cuando el análisis de costos apunta específicamente al nivel de precios de la API de V2.

¿Puede DeepSeek Coder V2 Lite (16B) correr un agente de codificación local en un GPU de 24 GB?

Sí, esta es la configuración correcta para equipos pequeños. Lite tiene 16B parámetros totales con 2.4B activos por token. En Q4_K_M, corre en un solo RTX 4090 o RTX 5090 a 60-90 tokens por segundo de decodificación. Continue.dev más Lite es la configuración estándar de programación en par para desarrolladores individuales y consultorías de 2 a 5 personas. Usar el 236B completo via la API de nube de DeepSeek para tareas de orquestación donde 21B activos supera a 2.4B activos.

PorFundador e Imaginator

Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.

Publicado Actualizado