Configurare Phi-4 sul tuo hardware, stack agent attivo, livello produzione in 14 giorni

Phi-4 è il modello che scegli quando hai bisogno di ragionamento reale su una singola GPU. 14,7 miliardi di parametri, licenza MIT, architettura decoder densa e una ricetta di addestramento che si affida fortemente a dati sintetici con risposte verificabili.

  • Cutover in produzione 14 giorni
  • Stack agent coding + ricerca incluso
  • 14B denso Parametri
  • 16K token Finestra di contesto
  • 14 g Cutover in produzione

Phi-4 in sintesi

Le specifiche che contano quando si sceglie il modello e l'hardware.

Parametri

14B (denso)

Finestra di contesto

16K token

Architettura

Transformer decoder-only

Token di addestramento

~10T (mix ricco di dati sintetici)

Licenza

MIT (uso commerciale completo)

VRAM FP16

~28GB

VRAM Q4_K_M

~9GB

Varianti di ragionamento

Phi-4-reasoning, Phi-4-reasoning-plus

Data di rilascio

2024-12-12

Disponibile su

Hugging Face, Azure AI Foundry, Ollama, llama.cpp

Hardware che esegue Phi-4 in produzione

Tre livelli, SKU reali, numeri di throughput reali.

Livello base: Mac Mini M4 24GB memoria unificata, RTX 3090 24GB, RTX 4070 Ti 16GB a Q4

Throughput: 10-30 tok/s su Mac Mini M4, 40-70 tok/s su RTX 3090 token/sec. Ideale per: sviluppatori singoli, agent locali, workflow di ragionamento offline.

Livello medio: RTX 4090 24GB o singolo A6000 48GB a Q5 o BF16

Throughput: 60-120 tok/s, BF16 a qualità completa token/sec. Ideale per: self-hosted per piccoli team, RAG interno con ragionamento, bot di code review.

Livello enterprise: 1x H100 80GB o 2x L40S per serving batch con vLLM

Throughput: 200-600 tok/s in batch token/sec. Ideale per: API multi-tenant in produzione per matematica, estrazione strutturata o backend agent.

Scelte di quantizzazione per questo modello

GGUF, AWQ, FP8, INT4.

Quantizzazione consigliata

Q4_K_M per uso locale. BF16 se hai 28GB+ di VRAM. Phi-4 è insolitamente tollerante alla quantizzazione perché i dati di addestramento sintetici sono ben distribuiti.

Compromessi

Q4_K_M perde circa 1-2 punti su MATH e GPQA rispetto a BF16, che è il divario più piccolo nella sua classe dimensionale. Q3 inizia a rompere le catene di ragionamento. Q5_K_M è il punto sicuro intermedio se hai 12GB+.

BF16

Dimensione file: non definita.

Q8_0

Dimensione file: non definita.

Q5_K_M

Dimensione file: non definita.

Q4_K_M

Dimensione file: non definita.

Agent di coding che colleghiamo a Phi-4

Phi-4 14B è un modello denso piccolo che supera il suo peso su matematica e ragionamento strutturato, si scontra contro un muro sul lavoro su repo multi-file.

Aider

Funziona con il formato whole edit su repo piccoli. Aider Polyglot intorno a 28-35% su Phi-4. Il budget di contesto da 16K forza aider --map-tokens 4096 e il pinning aggressivo dei file. I refactoring multi-file falliscono in modo prevedibile una volta che la cronologia diff supera la finestra.

Continue.dev

Solido per modifiche inline e chat sul file aperto. Configuralo come modello di chat, non come modello di autocomplete, il numero di parametri 14B rende la latenza del primo token troppo lenta per i suggerimenti a livello di tasto. Abbinato meglio con un modello più piccolo (DeepSeek Coder V2 Lite o Qwen2.5 Coder 7B) per l'autocomplete.

Cline

Raggiunge il muro dei 16K in fretta. Cline emette un system prompt di 6K-9K token al primo turno da solo. Al terzo turno, sei fuori contesto. Funzionabile solo su task minuscoli a file singolo o con la modalità sperimentale di trimming del prompt di Cline.

Cursor (BYOK via proxy locale)

Phi-4 via llama.cpp locale dietro un proxy compatibile OpenAI funziona per la chat. Il context-stuffing aggressivo di Cursor nel 2026 satura la finestra da 16K su qualsiasi file non banale. Solo per nicchie.

Claude Code (percorso BYOK)

Bridge compatibile Anthropic più Phi-4 è teoricamente possibile. In pratica, il protocollo tool-use di Claude Code presuppone un'affidabilità del tool-calling di classe Anthropic. Le varianti tool community di Phi-4 abbandonano le tool call il 5-12% delle volte. Evita.

smolagents

Il framework agent piccolo di HuggingFace è l'abbinamento giusto. La modalità CodeAgent dove l'LLM emette Python direttamente si adatta ai punti di forza del ragionamento di Phi-4. Usiamo smolagents più Phi-4 per agent di estrazione strutturata nelle pipeline dei clienti.

Casi d'uso agent di coding

Dove questo modello + stack agent porta lavoro reale.

Agent di ricerca che deployiamo su Phi-4

Il contesto da 16K è il vincolo principale.

GPT Researcher

Funzionabile con ambito più piccolo. Limita gli URL sorgente a 5-8, riassumi ciascuno prima della sintesi finale. La qualità del ragionamento sulla sintesi è competitiva con modelli molto più grandi su argomenti STEM.

STORM (Stanford)

La struttura guidata dall'outline di Phi-4-reasoning aiuta qui. La fase di generazione delle domande multi-prospettiva funziona bene. La fase di sintesi degli articoli necessita di chunking aggressivo a causa della finestra da 16K.

Open Deep Research (HuggingFace)

Basato su smolagents, naturalmente a contesto breve. Migliore abbinamento per modelli piccoli con Phi-4. L'abbiamo distribuito per report di mercato una-tantum per i clienti sotto 20 fonti.

Pattern Pydantic AI ResearchAgent

Gli schemi tipizzati impongono disciplina. Phi-4 emette output strutturato pulito, la validazione Pydantic V2 è veloce. Buon abbinamento per pipeline di estrazione-poi-sintesi strette, non per ricerca ampia open-ended.

LlamaIndex sub-question query engine

Decompone le query complesse in sotto-domande, le esegue sequenzialmente contro il contesto recuperato. Ogni sotto-domanda entra in 16K, la sintesi finale rimane nel budget. Il pattern architetturale corretto per la ricerca con Phi-4.

Casi d'uso agent di ricerca

Dove questo modello + stack agent di ricerca produce report che il tuo team usa davvero.

Framework che distribuiamo per workflow agent in produzione

Scegli il framework in base alla forma del workflow.

  1. LangGraph

  2. CrewAI

  3. AutoGen

  4. DSPy

  5. Pydantic AI

  6. smolagents

Chi sceglie Phi-4

Tre profili di acquirente dove questo modello è la risposta giusta.

Sviluppatore di agent locali

Task: Pianificazione multi-step e uso degli strumenti su un laptop o Mac Mini. Risultato: Il ragionamento Phi-4 gira offline a velocità utilizzabile, gestisce JSON e output strutturato in modo affidabile e rimane sul dispositivo.

App di tutoring matematico e STEM

Task: Risoluzione di problemi a livello olimpiade con ragionamento step-by-step. Risultato: Phi-4-reasoning-plus si attesta intorno all'82,5% su AIME 2025, battendo DeepSeek-R1-Distill-70B a un quinto delle dimensioni (considera ogni singola esecuzione AIME come rumorosa, Microsoft fa la media su oltre 50 generazioni).

Pipeline di estrazione strutturata

Task: Estrarre campi da fatture, contratti, note mediche in JSON. Risultato: L'addestramento su dati sintetici rende Phi-4 insolitamente bravo con schemi rigidi e rifiuto-in-caso-di-incertezza, con un costo di inference basso per documento.

Phi-4 vs i rivali più vicini

Dove vince questo modello, dove perde.

  1. vs Llama 3.1 8B

    Phi-4 è circa l'84% più grande (14,7B vs 8B) ma vince di 15-25 punti su MATH, GPQA e HumanEval. Llama 3.1 8B vince sulla copertura multilingua, sul contesto 128K e sul recall fattuale sulla long-tail.

  2. vs Mistral Small 22B

    Mistral Small vince sulla scrittura creativa, multilingua e contesto da 32K. Phi-4 vince decisamente su matematica, output strutturato e ragionamento. Phi-4 è anche MIT vs la licenza di ricerca di Mistral.

  3. vs Qwen2.5 14B

    Qwen2.5 14B ha contesto da 128K (vs 16K) e una copertura più forte del cinese e del codice. Phi-4 lo batte sui benchmark di matematica e STEM occidentali. Scegli per lingua e necessità di contesto.

Come Pineido configura gli agent su Phi-4 14B

Sprint di due settimane.

Giorno 1

Selezione variante. Phi-4 base per agent di estrazione, Phi-4-reasoning-plus per ricerca STEM (contesto 32K), Phi-4-mini per tool calling nativo. Modelfile per tool-calling scelto (zac/phi4-tools o personalizzato).

Giorno 3

vLLM più Outlines deployati su una GPU da 24GB (RTX 4090 o A6000) a FP16. guided_json e guided_regex testati contro gli schemi del cliente. Target hit-rate 99% o escalation a FP16 da qualsiasi quantizzazione.

Giorno 6

Schemi Pydantic V2 definiti per ogni input e output degli strumenti. Runtime agent Pydantic AI configurato con validazione result_type rigorosa. Modalità di fallimento mappate (il modello emette JSON non valido, riprova con rigenera o fai fallback).

Giorno 9

Applicazione del budget di contesto. Conteggio token pre-volo basato su tiktoken su ogni prompt. Summarizzazione a livello di nodo LangGraph o modalità short-memory di smolagents bloccata. Fallimento rigido se il prompt supera i 14K token (margine di sicurezza 2K).

Giorno 11

Harness di valutazione sulla suite task client. Tasso di conformità allo schema, tasso di superamento del task end-to-end, utilizzo medio del contesto. SLA di produzione bloccato.

Giorno 14

Cutover in produzione. Le piccole dimensioni significano che il deployment su singola macchina è realistico. Audit log, prompt log ed errori di validazione Pydantic confluiscono tutti in un unico posto.

Cosa hanno detto i clienti dopo il lancio

Feedback dalle persone che erano nella stanza quando sono state prese le decisioni.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
This wasn't theoretical. They got into the weeds with us and didn't leave until the code was live.
Marcus, Engineering ManagerGermany

Come deployiamo Phi-4 in 14 giorni

Prezzo fisso.

  1. Giorno 1

    Scarica Phi-4 con Ollama: ollama pull phi4. Valida il baseline tok/s sul tuo hardware ed esegui il tuo evaluation set di ragionamento.

  2. Giorno 2

    Collegalo alla tua applicazione via l'endpoint compatibile OpenAI su localhost:11434. Testa la modalità JSON e i round trip di tool-calling.

  3. Giorni 3-5

    Se la qualità è insufficiente, valuta Phi-4-reasoning-plus per task math-heavy. Altrimenti regola il sampling (temperature 0-0.3 per il ragionamento) e aggiungi un system prompt che applica output step-by-step.

  4. Settimana 2

    Passa a vLLM o TGI per la produzione. Fai il batch delle richieste, abilita il prefix caching, configura le metriche Prometheus e fai il benchmark del costo per milione di token rispetto alla tua precedente bolletta OpenAI.

Cosa ci chiedono per primo

Phi-4 è davvero con licenza MIT?

Sì. Microsoft ha rilasciato sia Phi-4 che le varianti di ragionamento sotto MIT all'inizio del 2025. Nessuna restrizione commerciale, nessun limite MAU, nessuna clausola di uso accettabile oltre i termini standard di MIT. Usalo nei prodotti, fai fine-tuning, ridistribuiscilo.

Come fa Phi-4 a battere modelli 30x più grandi?

Dati sintetici con risposte verificabili. Microsoft ha generato problemi di addestramento dove il percorso di ragionamento corretto è noto, poi ha usato Pivotal Token Search e DPO per insegnare a Phi-4 a seguire quel percorso. È più stretto di un 405B generale, ma sugli argomenti che ha studiato, è competitivo.

16K di contesto bastano?

Per la maggior parte dei task di ragionamento e output strutturato, sì. Per RAG su documenti lunghi dovrai fare chunking aggressivo o abbinare Phi-4 a un modello da 128K come Llama 3.1 8B per il retrieval. Le varianti Phi-4-reasoning estendono la profondità del ragionamento, non la lunghezza del contesto.

Funziona bene su un MacBook?

Su un Mac Mini M4 da 24GB o MacBook M4 Pro, Phi-4 a Q4_K_M gira a 10-25 token al secondo tramite Ollama o LM Studio. Su Mac da 16GB puoi eseguire Q4 ma aspettati pressione sulla memoria con qualsiasi contesto significativo. 24GB è il piano confortevole.

Microsoft Phi-4 14B supporta il tool calling nativamente?

Il rilascio base microsoft/phi-4 non include un chat template per il tool-calling nativo. Le varianti Modelfile community (zac/phi4-tools, jacob-ebey/phi4-tools) colmano il divario con un template di prompt personalizzato più un layer di parsing. Phi-4-mini, il fratello più piccolo, ha il supporto ufficiale Microsoft per il tool-calling. Per uso in produzione di tool Phi-4 14B nel 2026, pianifica di usare una variante community o costruire il template da solo. L'affidabilità si attesta all'88-95% a seconda della quantizzazione.

Phi-4 14B può funzionare con Aider su un codebase reale?

Solo su repo piccoli. Phi-4 base ha una finestra di contesto da 16K. La repo-map di Aider da sola brucia 8K-12K token su un codebase medio, lasciando 4K-8K per file, diff e conversazione. La modalità di fallimento è la degradazione silente della qualità: Aider tronca il contesto precedente e il modello perde traccia delle decisioni precedenti. Soluzioni: aider --map-tokens 4096, pinna file specifici con /add, passa a Phi-4-reasoning (32K) per repo oltre 30 file.

14B denso Parametri

Prenota la chiamata di scoping da 30 minuti. Ti diciamo se Phi-4 più il nostro stack agent è la scelta giusta prima che tu firmi.

Prezzo fisso.

Al Giorno 1 vedi il modello esatto, l'hardware esatto, lo stack agent esatto, i costi esatti e la postura di conformità esatta.

Te ne vai con

  1. Giorno 0 (questa settimana): Chiamata di scoping da 30 minuti. Shortlist hardware, scelta modello, proposta stack agent, proiezione costi nella tua casella entro venerdì
  2. Giorno 1: Scarica Phi-4 con Ollama: ollama pull phi4. Valida il baseline tok/s sul tuo hardware ed esegui il tuo evaluation set di ragionamento.

DiFondatore e Imaginator

Pineido, con sede a Strumica, North Macedonia, è una società di software che realizza siti web, negozi online, app web e mobile, automazione dei processi e IA per aziende locali ed estere. Il lavoro viene consegnato in sprint di 30 giorni a prezzo fisso, e il codice è del cliente.

Pubblicato Aggiornato