Déploiement de Phi-4 sur votre infrastructure, stack d'agents live, grade production en 14 jours

Phi-4 est le modèle à choisir quand vous avez besoin d'un vrai raisonnement sur un seul GPU. 14,7 milliards de paramètres, licence MIT, architecture dense decoder-only, et une recette d'entraînement qui mise fortement sur des données synthétiques à réponses vérifiables.

  • Bascule en production en 14 jours
  • Stack d'agents de code + recherche incluse
  • 14B dense Paramètres
  • 16K tokens Fenêtre de contexte
  • 14 j Bascule en production

Phi-4 en un coup d'œil

Les specs qui comptent pour choisir le modèle et le matériel.

Paramètres

14B (dense)

Fenêtre de contexte

16K tokens

Architecture

Transformer decoder-only

Tokens d'entraînement

~10T (mix à forte composante synthétique)

Licence

MIT (usage commercial complet)

VRAM FP16

~28GB

VRAM Q4_K_M

~9GB

Variantes reasoning

Phi-4-reasoning, Phi-4-reasoning-plus

Date de sortie

2024-12-12

Disponible sur

Hugging Face, Azure AI Foundry, Ollama, llama.cpp

Matériel qui fait tourner Phi-4 en production

Trois tiers, des SKU réels, des chiffres de débit réels.

Tier entrée : Mac Mini M4 24GB de mémoire unifiée, RTX 3090 24GB, RTX 4070 Ti 16GB en Q4

Débit : 10 à 30 tok/s sur Mac Mini M4, 40 à 70 tok/s sur RTX 3090. Idéal pour : développeurs solo, agents locaux, workflows de raisonnement hors ligne.

Tier intermédiaire : RTX 4090 24GB ou A6000 48GB seul en Q5 ou BF16

Débit : 60 à 120 tok/s, BF16 à pleine qualité. Idéal pour : petite équipe auto-hébergée, RAG interne avec raisonnement, bots de revue de code.

Tier entreprise : 1x H100 80GB ou 2x L40S pour le serving par lots avec vLLM

Débit : 200 à 600 tok/s en batch. Idéal pour : API multi-tenant en production pour les mathématiques, l'extraction structurée, ou les backends d'agents.

Choix de quantification pour ce modèle

GGUF, AWQ, FP8, INT4.

Quantification recommandée

Q4_K_M pour le local. BF16 si vous avez 28GB+ de VRAM. Phi-4 est inhabituellement tolérant à la quantification grâce à la bonne distribution des données synthétiques d'entraînement.

Compromis

Q4_K_M perd environ 1 à 2 points sur MATH et GPQA par rapport à BF16, ce qui est le plus faible écart de sa classe. Q3 commence à briser les chaînes de raisonnement. Q5_K_M est le juste milieu si vous avez 12GB+.

BF16

Taille du fichier : non définie.

Q8_0

Taille du fichier : non définie.

Q5_K_M

Taille du fichier : non définie.

Q4_K_M

Taille du fichier : non définie.

Agents de code que nous connectons à Phi-4

Phi-4 14B est un petit modèle dense qui dépasse son gabarit sur les mathématiques et le raisonnement structuré, mais se heurte à un mur sur le travail multi-fichiers.

Aider

Fonctionne avec le format d'édition whole sur les petits dépôts. Aider Polyglot autour de 28 à 35 % sur Phi-4. Le budget de 16K de contexte impose aider --map-tokens 4096 et un ciblage agressif des fichiers. Les refactorisations multi-fichiers échouent systématiquement une fois que l'historique des diffs dépasse la fenêtre.

Continue.dev

Solide pour les éditions inline et le chat sur le fichier ouvert. Configurer comme modèle de chat, pas d'autocomplétion, le nombre de 14B paramètres rend la latence du premier token trop lente pour des suggestions au niveau de la frappe. Idéalement jumelé à un modèle plus petit (DeepSeek Coder V2 Lite ou Qwen2.5 Coder 7B) pour l'autocomplétion.

Cline

Atteint le mur des 16K rapidement. Cline émet un prompt système de 6K à 9K tokens dès le premier tour. Au troisième tour, vous êtes hors contexte. Utilisable uniquement sur des tâches minuscules à fichier unique ou avec le mode expérimental de réduction du prompt de Cline.

Cursor (BYOK via proxy local)

Phi-4 via llama.cpp local derrière un proxy compatible OpenAI fonctionne pour le chat. Le remplissage de contexte agressif de Cursor en 2026 sature la fenêtre de 16K sur tout fichier non trivial. Usage de niche uniquement.

Claude Code (route BYOK)

Un bridge compatible Anthropic plus Phi-4 est théoriquement possible. En pratique, le protocole d'appel d'outils de Claude Code suppose une fiabilité de niveau Anthropic. Les variantes communautaires d'outils Phi-4 abandonnent 5 à 12 % des appels d'outils. À éviter.

smolagents

Le framework d'agents léger de HuggingFace est le bon choix. Le mode CodeAgent où le LLM émet du Python directement convient aux forces de raisonnement de Phi-4. Nous utilisons smolagents plus Phi-4 pour les agents d'extraction structurée dans les pipelines clients.

Cas d'usage des agents de code

Où ce modèle plus la stack d'agents produit du travail concret.

Agents de recherche que nous déployons sur Phi-4

La fenêtre de 16K est la contrainte principale.

GPT Researcher

Utilisable avec une portée réduite. Limiter les URLs sources à 5 à 8, résumer chacune avant la synthèse finale. La qualité du raisonnement sur la synthèse est compétitive avec des modèles bien plus grands sur les sujets STEM.

STORM (Stanford)

La structure pilotée par plan de Phi-4-reasoning aide ici. La phase de génération de questions multi-perspectives fonctionne bien. La phase de synthèse d'article nécessite un découpage agressif en raison de la fenêtre de 16K.

Open Deep Research (HuggingFace)

Basé sur smolagents, naturellement court-contexte. Meilleur fit petit modèle pour Phi-4. Nous avons livré cela pour des rapports de marché one-shot clients jusqu'à 20 sources.

Pattern Pydantic AI ResearchAgent

Les schémas typés imposent de la discipline. Phi-4 produit une sortie structurée propre, la validation Pydantic V2 est rapide. Bon fit pour les pipelines étroits extraction-puis-synthèse, pas pour la recherche ouverte à grande portée.

Moteur de requête LlamaIndex sub-question

Décompose les requêtes complexes en sous-questions, les exécute séquentiellement sur le contexte récupéré. Chaque sous-question tient dans 16K, la synthèse finale reste dans le budget. Le bon pattern architectural pour la recherche avec Phi-4.

Cas d'usage des agents de recherche

Où ce modèle plus la stack d'agents de recherche produit des rapports que votre équipe utilise vraiment.

Frameworks que nous livrons pour les workflows d'agents en production

Choisissez le framework selon la forme du workflow.

  1. LangGraph

  2. CrewAI

  3. AutoGen

  4. DSPy

  5. Pydantic AI

  6. smolagents

Qui choisit Phi-4

Trois profils d'acheteurs pour lesquels ce modèle est la bonne réponse.

Développeur d'agents locaux

Tâche : Planification multi-étapes et utilisation d'outils sur un ordinateur portable ou Mac Mini. Résultat : Phi-4 reasoning tourne hors ligne à vitesse utilisable, gère JSON et la sortie structurée de façon fiable, et reste sur l'appareil

Application de tutorat en mathématiques et STEM

Tâche : Résolution de problèmes de niveau olympiade avec raisonnement étape par étape. Résultat : Phi-4-reasoning-plus se situe autour de 82,5 % sur AIME 2025, battant DeepSeek-R1-Distill-70B à un cinquième de sa taille (toute exécution AIME unique est bruitée, Microsoft moyenne plus de 50 générations)

Pipelines d'extraction structurée

Tâche : Extraction de champs depuis des factures, contrats, notes médicales en JSON. Résultat : L'entraînement sur données synthétiques rend Phi-4 inhabituellement bon sur les schémas stricts et le refus-en-cas-d'incertitude, avec un coût d'inférence faible par document

Phi-4 vs les concurrents les plus proches

Où ce modèle gagne, où il perd.

  1. vs Llama 3.1 8B

    Phi-4 est environ 84 % plus grand (14,7B vs 8B) mais gagne de 15 à 25 points sur MATH, GPQA et HumanEval. Llama 3.1 8B gagne sur la couverture multilingue, le contexte 128K et le rappel factuel long-tail.

  2. vs Mistral Small 22B

    Mistral Small gagne en écriture créative, multilinguisme et contexte 32K. Phi-4 gagne décisivement en mathématiques, sortie structurée et raisonnement. Phi-4 est aussi MIT versus la licence de recherche de Mistral.

  3. vs Qwen2.5 14B

    Qwen2.5 14B dispose de 128K de contexte (vs 16K) et d'une meilleure couverture du chinois et du code. Phi-4 le bat sur les benchmarks mathématiques et STEM occidentaux. Choisissez selon les besoins de langue et de contexte.

Comment Pineido configure les agents sur Phi-4 14B

Sprint de deux semaines.

Jour 1

Sélection de variante. Phi-4 base pour les agents d'extraction, Phi-4-reasoning-plus pour la recherche STEM (32K de contexte), Phi-4-mini pour l'appel d'outils natif. Modelfile d'appel d'outils sélectionné (zac/phi4-tools ou personnalisé).

Jour 3

vLLM plus Outlines déployés sur un GPU 24GB (RTX 4090 ou A6000) en FP16. guided_json et guided_regex testés sur les schémas clients. Objectif de taux de réussite 99 % ou escalade vers FP16 depuis toute quantification.

Jour 6

Schémas Pydantic V2 définis pour chaque entrée et sortie d'outil. Runtime d'agent Pydantic AI configuré avec validation stricte du result_type. Modes d'échec cartographiés (le modèle émet du JSON invalide, réessayer avec regénération ou repli).

Jour 9

Application du budget de contexte. Comptage de tokens pré-vol basé sur Tiktoken sur chaque prompt. Résumé au niveau des nœuds LangGraph ou mode mémoire courte de smolagents verrouillé. Échec dur si le prompt dépasse 14K tokens (marge de sécurité de 2K).

Jour 11

Harnais d'évaluation sur la suite de tâches client. Taux de conformité au schéma, taux de réussite end-to-end, utilisation moyenne du contexte. SLA de production verrouillé.

Jour 14

Bascule en production. Le faible encombrement permet un déploiement mono-machine réaliste. Log d'audit, log de prompts et erreurs de validation Pydantic convergent tous au même endroit.

Ce que les clients ont dit après le lancement

Les retours des personnes qui étaient dans la pièce quand les décisions ont été prises.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
This wasn't theoretical. They got into the weeds with us and didn't leave until the code was live.
Marcus, Engineering ManagerGermany

Comment nous déployons Phi-4 en 14 jours

Frais fixes.

Jour 1

Télécharger Phi-4 via Ollama : ollama pull phi4. Valider le tok/s de référence sur votre matériel et exécuter votre suite d'évaluation du raisonnement

Jour 2

Connecter à votre application via l'endpoint compatible OpenAI sur localhost:11434. Tester le mode JSON et les appels d'outils

Jours 3 à 5

Si la qualité est insuffisante, évaluer Phi-4-reasoning-plus pour les tâches à forte composante mathématique. Sinon, ajuster l'échantillonnage (temperature 0 à 0.3 pour le raisonnement) et ajouter un prompt système qui impose une sortie étape par étape

Semaine 2

Passer à vLLM ou TGI pour la production. Traiter par lots, activer le prefix caching, configurer les métriques Prometheus, et comparer le coût par million de tokens à votre précédente facture OpenAI

Ce qu’on nous demande en premier

Phi-4 est-il vraiment sous licence MIT ?

Oui. Microsoft a publié Phi-4 et les variantes reasoning sous MIT début 2025. Aucune restriction commerciale, aucun plafond de MAU, aucune clause d'utilisation acceptable au-delà des termes standards de MIT. Utilisez-le dans des produits, affinez-le, redistribuez-le.

Comment Phi-4 bat-il des modèles 30 fois plus grands ?

Des données synthétiques à réponses vérifiables. Microsoft a généré des problèmes d'entraînement où le chemin de raisonnement correct est connu, puis a utilisé Pivotal Token Search et DPO pour apprendre à Phi-4 à suivre ce chemin. Il est plus étroit qu'un 405B général, mais sur les sujets qu'il a étudiés, il est compétitif.

16K de contexte, c'est suffisant ?

Pour la plupart des tâches de raisonnement et de sortie structurée, oui. Pour le RAG sur documents longs, vous devrez découper agressivement ou associer Phi-4 à un modèle 128K comme Llama 3.1 8B pour la récupération. Les variantes Phi-4-reasoning étendent la profondeur du raisonnement, pas la longueur du contexte.

Fonctionne-t-il bien sur un MacBook ?

Sur un Mac Mini M4 24GB ou MacBook M4 Pro, Phi-4 en Q4_K_M tourne à 10 à 25 tokens par seconde via Ollama ou LM Studio. Sur les Macs 16GB, vous pouvez faire tourner Q4 mais attendez-vous à une pression mémoire avec tout contexte significatif. 24GB est le minimum confortable.

Microsoft Phi-4 14B supporte-t-il l'appel d'outils nativement ?

La version de base microsoft/phi-4 n'est pas livrée avec un template de chat d'appel d'outils natif. Les variantes Modelfile communautaires (zac/phi4-tools, jacob-ebey/phi4-tools) comblent le manque avec un template de prompt personnalisé plus une couche d'analyse syntaxique. Phi-4-mini, le petit frère, dispose du support officiel Microsoft pour l'appel d'outils. Pour l'usage en production de Phi-4 14B avec des outils en 2026, prévoyez d'utiliser une variante communautaire ou de construire le template vous-même. La fiabilité se situe entre 88 et 95 % selon la quantification.

Phi-4 14B peut-il fonctionner avec Aider sur une vraie base de code ?

Uniquement sur les petits dépôts. Phi-4 base dispose d'une fenêtre de contexte de 16K. La repo-map d'Aider seule consomme 8K à 12K tokens sur un dépôt moyen, ne laissant que 4K à 8K pour les fichiers, les diffs et la conversation. Le mode d'échec est une dégradation silencieuse de la qualité : Aider tronque le contexte plus ancien et le modèle perd le fil des décisions précédentes. Solutions de contournement : aider --map-tokens 4096, épingler des fichiers spécifiques avec /add, basculer vers Phi-4-reasoning (32K) pour les dépôts de plus de 30 fichiers.

14B dense Paramètres

Réservez l'appel de cadrage de 30 minutes. Nous vous disons si Phi-4 plus notre stack d'agents est le bon choix avant que vous signiez.

Frais fixes.

Jour 1, vous voyez le modèle exact, le matériel exact, la stack d'agents exacte, le calcul de coût exact, et la posture de conformité exacte.

Vous repartez avec

  1. Jour 0 (cette semaine) : appel de cadrage de 30 minutes. Short-list matérielle, choix du modèle, proposition de stack d'agents, projection de coût dans votre boîte mail d'ici vendredi
  2. Jour 1 : Télécharger Phi-4 via Ollama : ollama pull phi4. Valider le tok/s de référence sur votre matériel et exécuter votre suite d'évaluation du raisonnement

ParFondateur et Imaginator

Pineido, basé à Strumica, North Macedonia, est une société de logiciels qui conçoit des sites web, des boutiques en ligne, des applications web et mobiles, de l’automatisation et de l’IA pour des entreprises d’ici et de l’étranger. Le travail est livré en sprints de 30 jours à prix fixe, et le code appartient au client.

Publié Mis à jour