Instalando Phi-4 en tu hardware, stack de agentes en marcha, listo para producción en 14 días

Phi-4 es el modelo que eliges cuando necesitas razonamiento real en un solo GPU. 14.7 mil millones de parámetros, licencia MIT, arquitectura de decoder denso, y una receta de entrenamiento que se inclina fuertemente hacia datos sintéticos con respuestas verificables.

  • Paso a producción en 14 días
  • Stack de agentes de programación + investigación incluido
  • 14B denso Parámetros
  • 16K tokens Ventana de contexto
  • 14 d Cambio a producción

Phi-4 de un vistazo

Las especificaciones que importan al elegir el modelo y el hardware.

Parámetros

14B (denso)

Ventana de contexto

16K tokens

Arquitectura

Transformer solo-decoder

Tokens de entrenamiento

~10T (mezcla con datos sintéticos intensivos)

Licencia

MIT (uso comercial completo)

VRAM FP16

~28 GB

VRAM Q4_K_M

~9 GB

Variantes de razonamiento

Phi-4-reasoning, Phi-4-reasoning-plus

Fecha de publicación

2024-12-12

Disponible en

Hugging Face, Azure AI Foundry, Ollama, llama.cpp

Hardware que ejecuta Phi-4 en producción

Tres niveles, SKUs reales, números de rendimiento reales.

Nivel básico: Mac Mini M4 24 GB de memoria unificada, RTX 3090 24 GB, RTX 4070 Ti 16 GB en Q4

Rendimiento: 10 a 30 tok/s en Mac Mini M4, 40 a 70 tok/s en RTX 3090. Mejor para: Desarrolladores individuales, agentes locales, flujos de trabajo de razonamiento offline.

Nivel medio: RTX 4090 24 GB o A6000 individual de 48 GB en Q5 o BF16

Rendimiento: 60 a 120 tok/s, BF16 en calidad completa. Mejor para: Equipo pequeño self-hosted, RAG interno con razonamiento, bots de revisión de código.

Nivel empresarial: 1x H100 80 GB o 2x L40S para servicio en batch con vLLM

Rendimiento: 200 a 600 tok/s en batch. Mejor para: API multi-tenant de producción para matemáticas, extracción estructurada o backends de agentes.

Opciones de cuantización para este modelo

GGUF, AWQ, FP8, INT4.

Cuantización recomendada

Q4_K_M para uso local. BF16 si tienes 28 GB+ de VRAM. Phi-4 es inusualmente tolerante a la cuantización porque los datos de entrenamiento sintéticos están bien distribuidos.

Compromisos

Q4_K_M pierde aproximadamente 1 a 2 puntos en MATH y GPQA vs BF16, que es la brecha más pequeña en su clase de tamaño. Q3 comienza a romper cadenas de razonamiento. Q5_K_M es la opción segura intermedia si tienes 12 GB+.

BF16

Tamaño de archivo: no especificado.

Q8_0

Tamaño de archivo: no especificado.

Q5_K_M

Tamaño de archivo: no especificado.

Q4_K_M

Tamaño de archivo: no especificado.

Agentes de codificación que conectamos a Phi-4

Phi-4 14B es un modelo denso pequeño que supera en matemáticas y razonamiento estructurado, pero choca contra una pared en trabajo de repositorios multi-archivo.

Aider

Funciona con formato whole edit en repositorios pequeños. Aider Polyglot alrededor del 28 al 35% en Phi-4. El presupuesto de contexto de 16K fuerza aider --map-tokens 4096 y la fijación agresiva de archivos. Las refactorizaciones multi-archivo fallan predeciblemente una vez que el historial de diff desborda la ventana.

Continue.dev

Sólido para ediciones en línea y chat sobre el archivo abierto. Configurar como modelo de chat, no como modelo de autocompletado, el conteo de 14B parámetros hace que la latencia del primer token sea demasiado lenta para sugerencias a nivel de pulsación de tecla. Mejor combinado con un modelo más pequeño (DeepSeek Coder V2 Lite o Qwen2.5 Coder 7B) para autocompletado.

Cline

Choca contra el límite de 16K rápidamente. Cline emite un prompt de sistema de 6K a 9K tokens en el primer turno solo. Para el turno 3, te quedas sin contexto. Funciona solo en tareas de archivo único muy pequeñas o con el modo experimental de recorte de prompt de Cline.

Cursor (BYOK via proxy local)

Phi-4 via llama.cpp local detrás de un proxy compatible con OpenAI funciona para chat. El relleno de contexto agresivo de Cursor en 2026 satura la ventana de 16K en cualquier archivo no trivial. Ajuste nicho solamente.

Claude Code (ruta BYOK)

El puente compatible con Anthropic más Phi-4 es teóricamente posible. En la práctica, el protocolo de uso de herramientas de Claude Code asume la confiabilidad de llamadas de herramientas de clase Anthropic. Las variantes comunitarias de herramientas de Phi-4 descartan llamadas de herramientas del 5 al 12% del tiempo. Omitir.

smolagents

El pequeño framework de agentes de HuggingFace es el ajuste correcto. El modo CodeAgent donde el LLM emite Python directamente se adapta a las fortalezas de razonamiento de Phi-4. Usamos smolagents más Phi-4 para agentes de extracción estructurada en pipelines de clientes.

Casos de uso de agentes de codificación

Donde este modelo + stack de agentes genera trabajo real.

Agentes de investigación que desplegamos en Phi-4

El contexto de 16K es la restricción principal.

GPT Researcher

Funciona con alcance más pequeño. Limitar URLs de fuentes a 5-8, resumir cada una antes de la síntesis final. La calidad de razonamiento en síntesis es competitiva con modelos mucho más grandes en temas STEM.

STORM (Stanford)

La estructura impulsada por esquemas de Phi-4-reasoning ayuda aquí. La fase de generación de preguntas multi-perspectiva funciona bien. La fase de síntesis de artículo necesita fragmentación agresiva debido a la ventana de 16K.

Open Deep Research (HuggingFace)

Basado en smolagents, naturalmente de contexto corto. Mejor ajuste de modelo pequeño para Phi-4. Lo hemos usado para informes de mercado puntuales de clientes bajo 20 fuentes.

Patrón ResearchAgent de Pydantic AI

Los esquemas tipados imponen disciplina. Phi-4 emite salida estructurada limpia, la validación de Pydantic V2 es rápida. Buen ajuste para pipelines de extracción-luego-síntesis estrechos, no para investigación abierta amplia.

Motor de consulta de sub-pregunta de LlamaIndex

Descompone consultas complejas en sub-preguntas, las ejecuta secuencialmente contra contexto recuperado. Cada sub-pregunta cabe en 16K, la síntesis final se mantiene dentro del presupuesto. El patrón arquitectónico correcto para investigación con Phi-4.

Casos de uso de agentes de investigación

Donde este modelo + stack de agentes de investigación entrega informes que tu equipo realmente usa.

Frameworks que instalamos para flujos de trabajo de agentes en producción

Elige el framework según la forma del flujo de trabajo.

  1. LangGraph

  2. CrewAI

  3. AutoGen

  4. DSPy

  5. Pydantic AI

  6. smolagents

Quién elige Phi-4

Tres perfiles de comprador donde este modelo es la respuesta correcta.

Desarrollador de agentes locales

Tarea: Planificación multi-paso y uso de herramientas en un portátil o Mac Mini. Resultado: El razonamiento de Phi-4 corre offline a velocidad usable, maneja JSON y salida estructurada de forma confiable, y permanece en el dispositivo.

App de tutoría de matemáticas y STEM

Tarea: Resolver problemas a nivel olímpico con razonamiento paso a paso. Resultado: Phi-4-reasoning-plus se sitúa alrededor del 82.5% en AIME 2025, superando a DeepSeek-R1-Distill-70B a un quinto del tamaño (trata cualquier ejecución individual de AIME como ruidosa, Microsoft promedia más de 50 generaciones).

Pipelines de extracción estructurada

Tarea: Extraer campos de facturas, contratos, notas médicas a JSON. Resultado: El entrenamiento con datos sintéticos hace a Phi-4 inusualmente bueno en esquemas estrictos y rechazo ante incertidumbre, con costo de inferencia barato por documento.

Phi-4 vs los rivales más cercanos

Dónde gana este modelo, dónde pierde.

  1. vs Llama 3.1 8B

    Phi-4 es aproximadamente un 84% más grande (14.7B vs 8B) pero gana por 15 a 25 puntos en MATH, GPQA y HumanEval. Llama 3.1 8B gana en cobertura multilingüe, contexto de 128K y recall factual de cola larga.

  2. vs Mistral Small 22B

    Mistral Small gana en escritura creativa, multilingüe y contexto de 32K. Phi-4 gana decisivamente en matemáticas, salida estructurada y razonamiento. Phi-4 también es MIT vs la licencia de investigación de Mistral.

  3. vs Qwen2.5 14B

    Qwen2.5 14B tiene contexto de 128K (vs 16K) y mayor cobertura de chino y código. Phi-4 lo supera en benchmarks de matemáticas y STEM occidentales. Elige según necesidades de idioma y contexto.

Cómo Pineido configura agentes en Phi-4 14B

Sprint de dos semanas.

Día 1

Selección de variante. Phi-4 base para agentes de extracción, Phi-4-reasoning-plus para investigación STEM (contexto de 32K), Phi-4-mini para tool-calling nativo. Modelfile de tool-calling elegido (zac/phi4-tools o personalizado).

Día 3

vLLM más Outlines desplegados en un GPU de 24 GB (RTX 4090 o A6000) en FP16. guided_json y guided_regex probados contra esquemas del cliente. Objetivo de tasa de acierto 99% o escalar a FP16 desde cualquier cuantización.

Día 6

Esquemas Pydantic V2 definidos para cada entrada y salida de herramienta. Runtime de agente Pydantic AI configurado con validación estricta de result_type. Modos de fallo mapeados (el modelo emite JSON inválido, reintentar con regeneración o recurrir a fallback).

Día 9

Aplicación del presupuesto de contexto. Conteo de tokens previo basado en Tiktoken en cada prompt. Resumen a nivel de nodo de LangGraph o modo de memoria corta de smolagents bloqueado. Fallo duro si el prompt supera 14K tokens (margen de seguridad de 2K).

Día 11

Arnés de evaluación en el conjunto de tareas del cliente. Tasa de conformidad de esquema, tasa de aprobación de tarea de extremo a extremo, utilización promedio del contexto. SLA de producción bloqueado.

Día 14

Cambio a producción. La pequeña huella significa que el despliegue en una sola máquina es realista. El registro de auditoría, el registro de prompts y los errores de validación de Pydantic fluyen todos a un solo lugar.

Lo que dijeron los clientes después del lanzamiento

Comentarios de las personas que estuvieron en la sala cuando se tomaron las decisiones.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
This wasn't theoretical. They got into the weeds with us and didn't leave until the code was live.
Marcus, Engineering ManagerGermany

Cómo desplegamos Phi-4 en 14 días

Tarifa fija.

  1. Día 1

    Obtener Phi-4 con Ollama: ollama pull phi4. Validar tok/s base en tu hardware y ejecutar tu conjunto de evaluación de razonamiento.

  2. Día 2

    Conectarlo a tu aplicación via el endpoint compatible con OpenAI en localhost:11434. Probar el modo JSON y los ciclos de llamada de herramientas.

  3. Días 3 a 5

    Si la calidad es insuficiente, evaluar Phi-4-reasoning-plus para tareas intensivas en matemáticas. De lo contrario, ajustar el muestreo (temperatura 0 a 0.3 para razonamiento) y añadir un prompt de sistema que imponga salida paso a paso.

  4. Semana 2

    Pasar a vLLM o TGI para producción. Agrupar solicitudes, habilitar caché de prefijo, configurar métricas Prometheus y comparar el costo por millón de tokens contra tu factura anterior de OpenAI.

Lo primero que nos preguntan

¿Phi-4 es realmente de licencia MIT?

Sí. Microsoft publicó tanto Phi-4 como las variantes de razonamiento bajo MIT a principios de 2025. Sin restricciones comerciales, sin límites de MAU, sin cláusulas de uso aceptable más allá de los términos estándar de MIT. Úsalo en productos, ajústalo, redistribúyelo.

¿Cómo supera Phi-4 a modelos 30 veces más grandes?

Datos sintéticos con respuestas verificables. Microsoft generó problemas de entrenamiento donde la ruta de razonamiento correcta es conocida, luego usó Pivotal Token Search y DPO para enseñar a Phi-4 a seguir esa ruta. Es más estrecho que un 405B general, pero en los temas que estudió, es competitivo.

¿Son suficientes 16K de contexto?

Para la mayoría de tareas de razonamiento y salida estructurada, sí. Para RAG de documentos largos necesitarás fragmentar agresivamente o combinar Phi-4 con un modelo de 128K como Llama 3.1 8B para recuperación. Las variantes Phi-4-reasoning extienden la profundidad de razonamiento, no la longitud del contexto.

¿Funciona bien en un MacBook?

En un Mac Mini M4 de 24 GB o MacBook M4 Pro, Phi-4 en Q4_K_M corre a 10-25 tokens por segundo a través de Ollama o LM Studio. En Macs de 16 GB puedes correr Q4 pero espera presión de memoria con cualquier contexto significativo. 24 GB es el suelo cómodo.

¿Microsoft Phi-4 14B soporta tool-calling de forma nativa?

La versión base microsoft/phi-4 no viene con una plantilla de chat de tool-calling nativa. Las variantes Modelfile de la comunidad (zac/phi4-tools, jacob-ebey/phi4-tools) cubren el vacío con una plantilla de prompt personalizada más una capa de análisis. Phi-4-mini, el hermano más pequeño, tiene soporte oficial de tool-calling de Microsoft. Para el uso de herramientas en producción con Phi-4 14B en 2026, planifica usar una variante de la comunidad o construir la plantilla tú mismo. La confiabilidad ronda el 88 al 95% dependiendo de la cuantización.

¿Puede Phi-4 14B trabajar con Aider en una base de código real?

Solo en repositorios pequeños. Phi-4 base tiene una ventana de contexto de 16K. El mapa de repositorio de Aider por sí solo quema de 8K a 12K tokens en una base de código mediana, dejando 4K a 8K para archivos, diffs y conversación. El modo de fallo es degradación silenciosa de calidad: Aider trunca el contexto más antiguo y el modelo pierde el hilo de decisiones anteriores. Soluciones: aider --map-tokens 4096, fijar archivos específicos con /add, cambiar a Phi-4-reasoning (32K) para repositorios de más de 30 archivos.

14B denso Parámetros

Reserva la llamada de alcance de 30 minutos. Te decimos si Phi-4 más nuestro stack de agentes es la elección correcta antes de que firmes.

Tarifa fija.

El día 1 ves el modelo exacto, el hardware exacto, el stack de agentes exacto, los costos exactos y la postura de cumplimiento exacta.

Te llevas

  1. Día 0 (esta semana): Llamada de alcance de 30 minutos. Lista corta de hardware, elección de modelo, propuesta de stack de agentes, proyección de costos en tu bandeja de entrada antes del viernes
  2. Día 1: Obtener Phi-4 con Ollama: ollama pull phi4. Validar tok/s base en tu hardware y ejecutar tu conjunto de evaluación de razonamiento.

PorFundador e Imaginator

Pineido, con sede en Strumica, North Macedonia, es una empresa de software que crea sitios web, tiendas online, apps web y móviles, automatización de procesos e IA para empresas de aquí y del extranjero. El trabajo se entrega en sprints de 30 días a precio fijo, y el código es del cliente.

Publicado Actualizado