LangGraph
Orchestrazione in produzione. Ideale per le strategie di gestione del contesto di DeepSeek.
DeepSeek V3.2 è il modello open-weight che ha battuto GPT-5 sui benchmark di ragionamento più difficili. Rilasciato il 1 dicembre 2025 sotto licenza MIT, abbina un'architettura MoE con 671 miliardi totali / 37 miliardi attivi con DeepSeek Sparse Attention, un pattern sparso a grana fine sovrapposto a Multi-head Latent Attention che riduce il costo di inferenza a lungo contesto lasciando la qualità dell'output pressoché invariata.
Le specifiche che contano quando si sceglie il modello e l'hardware.
671B totali, 37B attivi per token
MoE, 256 esperti instradati + 1 condiviso, DeepSeek Sparse Attention
128K token (output max 64K)
MIT
1 dicembre 2025 (V3.2-Exp a settembre 2025)
V3.2 (generale), V3.2-Speciale (ragionamento profondo, senza tool calling)
376GB totali, multi-GPU obbligatorio
~675GB, nodo 8x H200
8-15 (utente singolo)
200-400 in batch
Tre livelli, SKU reali, numeri di throughput reali.
Throughput: 8-15 token/sec. Ideale per: power user singolo, ricerca, ragionamento difficile occasionale, non serving in produzione.
Throughput: 30-60 token/sec. Ideale per: studi da 5-15 utenti con problemi difficili, ambienti lab, team con codice intensivo.
Throughput: 200-500 token/sec. Ideale per: serving in produzione, workflow agentivi, 50+ utenti di ragionamento concorrenti.
GGUF, AWQ, FP8, INT4.
FP8 nativo su Hopper e Blackwell per la produzione. Q4_K_M per Mac single-user. Q2_K solo se devi adattarti in 192GB e accetti un calo del 5 a 8 percento sulla qualità del ragionamento.
I modelli di ragionamento subiscono di più dalla quantizzazione aggressiva rispetto ai modelli di chat perché la chain-of-thought amplifica gli errori di precisione. Q4 regge bene su knowledge e codice in stile edit. Q2_K mostra wobble reale su matematica e ragionamento strutturato. Demo a 1,58-bit esistono (2x RTX 4090 più RAM) ma non sono a livello di produzione.
Dimensione file: 210GB.
Dimensione file: 376GB.
Dimensione file: ~675GB.
Dimensione file: 1,34TB.
DeepSeek Sparse Attention (DSA) fornisce scaling quasi-lineare per il lungo contesto, il che è decisivo nei loop agentivi dove il contesto cresce ad ogni chiamata di strumento.
Target di integrazione ufficiale di DeepSeek. SWE-bench Verified da 72 a 74 percento sul framework Claude Code. Override OPENAI_BASE_URL sul tuo vLLM. DeepSeek V3.2 è il modello open più vicino a Claude Sonnet sull'harness di Claude Code. La scelta di Pineido quando il buyer vuole output di qualità Claude Code senza la spesa API.
Benchmarked ufficialmente. Il paper DeepSeek nota che Roo Code simula le interazioni degli strumenti tramite messaggi utente, e la strategia di gestione del contesto di DeepSeek V3.2 la gestisce correttamente. SWE-bench Verified da 72 a 74 percento sul framework Roo Code. Multi-modalità (Code, Architect, Ask) tutte funzionali.
Provider OpenAI Compatible, endpoint vLLM. Attenzione al bug attivo vLLM dove i tag tool-call DeepSeek possono trapelare nel contenuto di ragionamento nei loop multi-turn. I rilasci recenti di vLLM includono la correzione (commit 36056). Fissa vLLM >= 0.11.2.
Ottima compatibilità. Il formato edit di Aider si allinea con il seguimento delle istruzioni di DeepSeek. Usa --model openai/deepseek-v3.2 contro il tuo endpoint vLLM. Il limite del contesto 128K è il vincolo, non l'accuratezza della modifica.
Agent container-based. DeepSeek V3.2 con Terminus in modalità non-thinking ha raggiunto 39,3 su Terminal Bench 2.0 per il paper. SWE-bench Verified da 72 a 74 percento si traduce in forte performance in loop autonomo. La scelta di Pineido per task su scala repository quando il budget esclude le API frontier.
config.yaml con provider: openai, apiBase su vLLM /v1, capabilities: [tool_use]. La modalità agent rileva automaticamente il tool calling nativo. Il reasoning parser di DeepSeek V3.2 separa il thinking dalla risposta, quindi il pannello chat di Continue si renderizza in modo pulito.
Supportato ufficialmente per la guida di integrazione agent di coding di DeepSeek. Configurazione endpoint OpenAI drop-in. Anche i framework Hermes Agent e Codex sono elencati nei docs DeepSeek.
Dove questo modello + stack agent produce lavoro reale.
Feedback dalle persone che erano nella stanza quando sono state prese le decisioni.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
La generalizzazione dei task agent a lungo termine è il punto di forza di DeepSeek V3.2: 1.800 ambienti e 85K prompt complessi nel post-training.
Imposta OPENAI_BASE_URL su vLLM. Il tracciamento di ragionamento di DeepSeek V3.2 rende il passo di pianificazione di GPT Researcher notevolmente migliore. Report da 5K a 8K parole con 15+ fonti completati in 5 a 10 minuti.
Default Pineido. Le strategie di gestione del contesto di DeepSeek V3.2 si integrano con il modello checkpoint-and-resume di LangGraph. Quando la cronologia degli strumenti supera l'80 percento del budget 128K, LangGraph può attivare la strategia Summary o Discard-75 e continuare in modo pulito.
Provider Generic OpenAI. Il reasoning parser separa il thinking dalla risposta finale nell'UI di chat di AnythingLLM. Ottimo per le demo con i buyer perché il tracciamento del pensiero è visibile e spiega la risposta.
Il tool calling e il caricamento di documenti funzionano in modo pulito. Il toggle della modalità di ragionamento di DeepSeek si espone tramite le impostazioni per conversazione di Open WebUI. Attenzione al limite di contesto 128K nelle chat con documenti pesanti.
Crew di ricerca sequenziali. Il seguimento delle istruzioni di DeepSeek V3.2 è abbastanza forte da guidare gli agent in modo affidabile con il testo di ruolo e obiettivo di CrewAI. Usa modalità thinking per il ruolo ricercatore, non-thinking per il ruolo scrittore.
GroupChat funziona ma attenzione al costo token: ogni turno agent riproduce la cronologia completa attraverso la finestra 128K di DeepSeek. Usa la strategia di gestione del contesto Discard-75 per mantenere limitato il conteggio dei round.
Il miglior abbinamento di retrieval. Usa i query engine LlamaIndex per l'indicizzazione, poi esponili come strumenti all'interno di un agent LangGraph o nativo DeepSeek. Il reasoning parser fa emergere la logica di decisione del retrieval nel tracciamento.
Dove questo modello + stack agent di ricerca produce report che il tuo team usa davvero.
Scegli il framework in base alla forma del workflow.
Orchestrazione in produzione. Ideale per le strategie di gestione del contesto di DeepSeek.
Crew sequenziali. Rapido da dimostrare con il forte seguimento delle istruzioni di DeepSeek.
GroupChat. Attenzione al budget di contesto nei dibattiti multi-agent con il limite 128K di DeepSeek.
Compilazione prompt. Si abbina bene con il tracciamento di ragionamento di DeepSeek per l'ottimizzazione chain-of-thought.
Agent type-safe. L'affidabilità dell'output strutturato di DeepSeek si adatta a schemi puliti.
Livello di retrieval. Stack ibrido con orchestrazione LangGraph sopra.
Tre profili acquirente in cui questo modello è la risposta giusta.
Task: Codice di strategia, pricing derivati, validazione matematica complessa. Risultato: Il ragionamento di classe oro IMO/IOI gira in-house. La licenza MIT supera la revisione legale senza caveat. ROI 8x H100 in 6 mesi vs API frontier a pagamento.
Task: Analisi prior art, redazione claims, revisione specifiche tecniche su 10+ domini tecnici. Risultato: Qualità di ragionamento frontier su claims tecnici difficili, contesto completo 128K per confronto multi-brevetto. La licenza MIT significa nessun attrito di attribuzione nelle consegne ai clienti.
Task: Ragionamento molecolare, generazione di protocolli, sintesi approfondita della letteratura. Risultato: La variante Speciale offre dimostrazione di teoremi e ragionamento profondo alla pari dei lab closed. Investimento hardware giustificato dalla qualità frontier senza esposizione dei dati API.
Dove questo modello vince, dove perde.
DeepSeek V3.2 vince nella matematica più difficile, nel codice e nel ragionamento di classe IMO. Qwen3 235B vince per soglia hardware (143GB vs 376GB a Q4) e per la flessibilità della modalità thinking ibrida. Sotto il budget 4x H100, Qwen3 235B è la scelta razionale.
DeepSeek V3.2 performa in modo paragonabile a GPT-5 sui task commodity. V3.2-Speciale supera GPT-5 nella dimostrazione di teoremi e IMO, con 96,0 su AIME 2025 contro 94,6 di GPT-5-High. Il rovescio è la verbosità: Speciale consuma molti più token di output per raggiungere quei punteggi. Il vantaggio per V3.2: i dati restano sul tuo hardware. Il costo: capex GPU di livello enterprise.
Entrambi sono MoE di classe 670B su hardware 128GB+. Mistral Large 3 vince nella visione multimodale. DeepSeek V3.2 vince nel ragionamento e nel codice. Mistral Large 3 ha una storia leggermente migliore per le piccole aziende tramite i fratelli 14B/8B/3B.
Giorno 4 vLLM serve V3.2 con il parser tool-call v32 più il reasoning parser.
vLLM serve DeepSeek V3.2 con --tensor-parallel-size 8 (o TP=2 con DP/EP per Hopper per evitare la penalità head-padding), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Fissa vLLM >= 0.11.2 per la correzione multi-turn tool-call.
Claude Code via override OPENAI_BASE_URL, Roo Code come OpenAI Compatible, Cline stesso, Aider via --openai-api-base. Gli scaffold SWE-bench-class funzionano out of the box perché la pipeline di training di DeepSeek includeva questi framework.
Open WebUI più AnythingLLM live. Toggle di ragionamento esposto per conversazione. I workspace isolano i set di documenti sensibili.
Workflow LangGraph con strategie di gestione del contesto (Summary, Discard-75) cablate nella logica di checkpoint. Tre workflow consegnati: deep-research, repo-review, customer-triage.
Autonomia repository OpenHands. Tasso di superamento SWE-bench Verified atteso intorno al 70 a 73 percento sui task di routine dato il range benchmark 72 a 74 percento del modello.
Pacchetto prove con tassi di successo tool-call, throughput, campioni trace di ragionamento, runbook e inventario agent consegnato.
Prezzo fisso.
Audit hardware. Conferma nodo GPU o Mac 512GB. Esegui prompt di ragionamento reali su V3.2 vs V3.2-Speciale. Scegli variante per carico di lavoro.
Serving via vLLM con FP8 su Hopper o Blackwell. Configura DeepSeek Sparse Attention per risparmio costi a lungo contesto. API compatibile OpenAI davanti.
RAG con reranker di alta qualità (BGE reranker v2-m3). Pipeline di tool-calling (solo base V3.2, Speciale non supporta strumenti). RBAC, audit, telemetria costi per expert.
Pen-test superato. NOTICE licenza MIT archiviato (una riga). Passaggio in produzione con baseline throughput FP8.
Sì. Sia il repository che i pesi del modello sono MIT. Nessun limite MAU, nessuna restrizione commerciale, nessuna stringa di attribuzione nel prodotto. Licenza amica degli uffici legali che supera qualsiasi revisione di procurement in modo pulito. Puoi redistribuire, fare fine-tuning e incorporare in prodotti commerciali senza contattare DeepSeek.
Mac Studio M3 Ultra 512GB a Q4 è il percorso a macchina singola più economico. Circa da 8 a 15 token al secondo per un utente. Adatto per la ricerca, lento per il serving in produzione. Sotto 192GB di memoria unificata sei costretto a Q2 o 1,58-bit e il wobble della qualità di ragionamento emerge sui task difficili.
Il base V3.2 supporta il tool calling ed è il driver quotidiano per agent, RAG e lavoro generale. Speciale è la variante di ragionamento profondo ad alto compute, classe medaglia d'oro su IMO e IOI, ma NON supporta il tool calling. Usa il base per la produzione. Aggiungi Speciale come endpoint specialista per la coda di ragionamento difficile se hai il budget GPU.
FP8 è quasi senza perdite su H100 e H200. Q4_K_M perde da 2 a 4 percento sui task commodity. Q2_K mostra cali dal 5 all'8 percento su matematica e ragionamento strutturato. Per un modello di ragionamento, non scendere sotto Q4 in produzione. Le catene di ragionamento amplificano gli errori di quantizzazione più delle risposte a colpo singolo.
Sui benchmark di coding agentivo DeepSeek V3.2 si colloca nella fascia bassa-media dei 70 su SWE-bench Verified (72-74 percento), pochi punti dietro GPT-5.1-High e Gemini 3 Pro e circa 7-9 punti dietro il leader, Claude Opus 4.5 a circa l'81 percento. Sul lavoro di refactoring di routine il divario è raramente visibile. Il fattore decisivo è la licenza: DeepSeek V3.2 è MIT, gira sul tuo hardware, nessun processore di terze parti, nessuna spesa API per token. Per i buyer HIPAA, GDPR, difesa o con NDA rigorosi, questo divario nel benchmark vale la pena. Per output di qualità frontier senza i vincoli, instrada in ibrido il 10 percento più difficile dei task a Claude via endpoint privato BAA.
--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Senza tutti e quattro, le chiamate di strumenti restituiscono vuoto o il ragionamento trapela nel contenuto. Fissa vLLM >= 0.11.2 per la correzione multi-turn streaming (commit 36056). Su Hopper preferisci TP=2 con parallelismo dati ed expert rispetto a TP=8 a causa di una penalità head-padding del kernel in flashmla_sparse.py.
671B totali, 37B attivi per token (MoE) Parametri
Prezzo fisso.
Al giorno 1 vedi il modello esatto, l'hardware esatto, lo stack agent esatto, la matematica dei costi esatta e la postura di compliance esatta.
DiKostadin StambolievFondatore e Imaginator
Pineido, con sede a Strumica, North Macedonia, è una società di software che realizza siti web, negozi online, app web e mobile, automazione dei processi e IA per aziende locali ed estere. Il lavoro viene consegnato in sprint di 30 giorni a prezzo fisso, e il codice è del cliente.
Pubblicato Aggiornato