Configurare DeepSeek V3.2 sul tuo hardware, stack agent live, livello produzione in 14 giorni

DeepSeek V3.2 è il modello open-weight che ha battuto GPT-5 sui benchmark di ragionamento più difficili. Rilasciato il 1 dicembre 2025 sotto licenza MIT, abbina un'architettura MoE con 671 miliardi totali / 37 miliardi attivi con DeepSeek Sparse Attention, un pattern sparso a grana fine sovrapposto a Multi-head Latent Attention che riduce il costo di inferenza a lungo contesto lasciando la qualità dell'output pressoché invariata.

  • Passaggio in produzione 14 giorni
  • Stack coding + research agent incluso
  • 671B totali, 37B attivi per token (MoE) Parametri
  • 128K token Finestra di contesto
  • 14 g Passaggio in produzione

DeepSeek V3.2 in sintesi

Le specifiche che contano quando si sceglie il modello e l'hardware.

Parametri

671B totali, 37B attivi per token

Architettura

MoE, 256 esperti instradati + 1 condiviso, DeepSeek Sparse Attention

Finestra di contesto

128K token (output max 64K)

Licenza

MIT

Rilascio

1 dicembre 2025 (V3.2-Exp a settembre 2025)

Varianti

V3.2 (generale), V3.2-Speciale (ragionamento profondo, senza tool calling)

VRAM min (Q4)

376GB totali, multi-GPU obbligatorio

VRAM min (FP8)

~675GB, nodo 8x H200

Token/sec su Mac Studio M3 Ultra 512GB Q4

8-15 (utente singolo)

Token/sec su 8x H100 FP8 vLLM

200-400 in batch

Hardware che esegue DeepSeek V3.2 in produzione

Tre livelli, SKU reali, numeri di throughput reali.

  1. Livello base: Mac Studio M3 Ultra 512GB ($14.999) a Q4

    Throughput: 8-15 token/sec. Ideale per: power user singolo, ricerca, ragionamento difficile occasionale, non serving in produzione.

  2. Livello medio: 4x RTX Pro 6000 Blackwell 96GB ($40-56K) a Q4 o 2x AMD MI300X 192GB

    Throughput: 30-60 token/sec. Ideale per: studi da 5-15 utenti con problemi difficili, ambienti lab, team con codice intensivo.

  3. Livello enterprise: 8x H100 80GB ($200K), 4x H200 141GB ($150-200K), o 8x B200 FP4 ($300K+)

    Throughput: 200-500 token/sec. Ideale per: serving in produzione, workflow agentivi, 50+ utenti di ragionamento concorrenti.

Scelte di quantizzazione per questo modello

GGUF, AWQ, FP8, INT4.

Quantizzazione consigliata

FP8 nativo su Hopper e Blackwell per la produzione. Q4_K_M per Mac single-user. Q2_K solo se devi adattarti in 192GB e accetti un calo del 5 a 8 percento sulla qualità del ragionamento.

Compromessi

I modelli di ragionamento subiscono di più dalla quantizzazione aggressiva rispetto ai modelli di chat perché la chain-of-thought amplifica gli errori di precisione. Q4 regge bene su knowledge e codice in stile edit. Q2_K mostra wobble reale su matematica e ragionamento strutturato. Demo a 1,58-bit esistono (2x RTX 4090 più RAM) ma non sono a livello di produzione.

GGUF Q2_K

Dimensione file: 210GB.

GGUF Q4_K_M

Dimensione file: 376GB.

FP8

Dimensione file: ~675GB.

FP16

Dimensione file: 1,34TB.

Agent di coding che colleghiamo a DeepSeek V3.2

DeepSeek Sparse Attention (DSA) fornisce scaling quasi-lineare per il lungo contesto, il che è decisivo nei loop agentivi dove il contesto cresce ad ogni chiamata di strumento.

Claude Code (con endpoint personalizzato)

Target di integrazione ufficiale di DeepSeek. SWE-bench Verified da 72 a 74 percento sul framework Claude Code. Override OPENAI_BASE_URL sul tuo vLLM. DeepSeek V3.2 è il modello open più vicino a Claude Sonnet sull'harness di Claude Code. La scelta di Pineido quando il buyer vuole output di qualità Claude Code senza la spesa API.

Roo Code

Benchmarked ufficialmente. Il paper DeepSeek nota che Roo Code simula le interazioni degli strumenti tramite messaggi utente, e la strategia di gestione del contesto di DeepSeek V3.2 la gestisce correttamente. SWE-bench Verified da 72 a 74 percento sul framework Roo Code. Multi-modalità (Code, Architect, Ask) tutte funzionali.

Cline

Provider OpenAI Compatible, endpoint vLLM. Attenzione al bug attivo vLLM dove i tag tool-call DeepSeek possono trapelare nel contenuto di ragionamento nei loop multi-turn. I rilasci recenti di vLLM includono la correzione (commit 36056). Fissa vLLM >= 0.11.2.

Aider

Ottima compatibilità. Il formato edit di Aider si allinea con il seguimento delle istruzioni di DeepSeek. Usa --model openai/deepseek-v3.2 contro il tuo endpoint vLLM. Il limite del contesto 128K è il vincolo, non l'accuratezza della modifica.

OpenHands

Agent container-based. DeepSeek V3.2 con Terminus in modalità non-thinking ha raggiunto 39,3 su Terminal Bench 2.0 per il paper. SWE-bench Verified da 72 a 74 percento si traduce in forte performance in loop autonomo. La scelta di Pineido per task su scala repository quando il budget esclude le API frontier.

Continue.dev

config.yaml con provider: openai, apiBase su vLLM /v1, capabilities: [tool_use]. La modalità agent rileva automaticamente il tool calling nativo. Il reasoning parser di DeepSeek V3.2 separa il thinking dalla risposta, quindi il pannello chat di Continue si renderizza in modo pulito.

OpenCode / OpenClaw

Supportato ufficialmente per la guida di integrazione agent di coding di DeepSeek. Configurazione endpoint OpenAI drop-in. Anche i framework Hermes Agent e Codex sono elencati nei docs DeepSeek.

Casi d'uso degli agent di coding

Dove questo modello + stack agent produce lavoro reale.

Cosa hanno detto i clienti dopo il lancio

Feedback dalle persone che erano nella stanza quando sono state prese le decisioni.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
Declan, Head of OperationsLondon
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney

Agent di ricerca che deployiamo su DeepSeek V3.2

La generalizzazione dei task agent a lungo termine è il punto di forza di DeepSeek V3.2: 1.800 ambienti e 85K prompt complessi nel post-training.

GPT Researcher

Imposta OPENAI_BASE_URL su vLLM. Il tracciamento di ragionamento di DeepSeek V3.2 rende il passo di pianificazione di GPT Researcher notevolmente migliore. Report da 5K a 8K parole con 15+ fonti completati in 5 a 10 minuti.

LangGraph

Default Pineido. Le strategie di gestione del contesto di DeepSeek V3.2 si integrano con il modello checkpoint-and-resume di LangGraph. Quando la cronologia degli strumenti supera l'80 percento del budget 128K, LangGraph può attivare la strategia Summary o Discard-75 e continuare in modo pulito.

AnythingLLM

Provider Generic OpenAI. Il reasoning parser separa il thinking dalla risposta finale nell'UI di chat di AnythingLLM. Ottimo per le demo con i buyer perché il tracciamento del pensiero è visibile e spiega la risposta.

Open WebUI

Il tool calling e il caricamento di documenti funzionano in modo pulito. Il toggle della modalità di ragionamento di DeepSeek si espone tramite le impostazioni per conversazione di Open WebUI. Attenzione al limite di contesto 128K nelle chat con documenti pesanti.

CrewAI

Crew di ricerca sequenziali. Il seguimento delle istruzioni di DeepSeek V3.2 è abbastanza forte da guidare gli agent in modo affidabile con il testo di ruolo e obiettivo di CrewAI. Usa modalità thinking per il ruolo ricercatore, non-thinking per il ruolo scrittore.

AutoGen / AG2

GroupChat funziona ma attenzione al costo token: ogni turno agent riproduce la cronologia completa attraverso la finestra 128K di DeepSeek. Usa la strategia di gestione del contesto Discard-75 per mantenere limitato il conteggio dei round.

LlamaIndex

Il miglior abbinamento di retrieval. Usa i query engine LlamaIndex per l'indicizzazione, poi esponili come strumenti all'interno di un agent LangGraph o nativo DeepSeek. Il reasoning parser fa emergere la logica di decisione del retrieval nel tracciamento.

Casi d'uso degli agent di ricerca

Dove questo modello + stack agent di ricerca produce report che il tuo team usa davvero.

Framework che installiamo per workflow agent in produzione

Scegli il framework in base alla forma del workflow.

LangGraph

Orchestrazione in produzione. Ideale per le strategie di gestione del contesto di DeepSeek.

CrewAI

Crew sequenziali. Rapido da dimostrare con il forte seguimento delle istruzioni di DeepSeek.

AutoGen / AG2

GroupChat. Attenzione al budget di contesto nei dibattiti multi-agent con il limite 128K di DeepSeek.

DSPy

Compilazione prompt. Si abbina bene con il tracciamento di ragionamento di DeepSeek per l'ottimizzazione chain-of-thought.

Pydantic AI

Agent type-safe. L'affidabilità dell'output strutturato di DeepSeek si adatta a schemi puliti.

LlamaIndex

Livello di retrieval. Stack ibrido con orchestrazione LangGraph sopra.

Chi sceglie DeepSeek V3.2

Tre profili acquirente in cui questo modello è la risposta giusta.

  1. Trading quantitativo, 25 ricercatori

    Task: Codice di strategia, pricing derivati, validazione matematica complessa. Risultato: Il ragionamento di classe oro IMO/IOI gira in-house. La licenza MIT supera la revisione legale senza caveat. ROI 8x H100 in 6 mesi vs API frontier a pagamento.

  2. Studio legale brevettuale, 18 avvocati, IP-heavy

    Task: Analisi prior art, redazione claims, revisione specifiche tecniche su 10+ domini tecnici. Risultato: Qualità di ragionamento frontier su claims tecnici difficili, contesto completo 128K per confronto multi-brevetto. La licenza MIT significa nessun attrito di attribuzione nelle consegne ai clienti.

  3. R&D biotech, 30 scienziati

    Task: Ragionamento molecolare, generazione di protocolli, sintesi approfondita della letteratura. Risultato: La variante Speciale offre dimostrazione di teoremi e ragionamento profondo alla pari dei lab closed. Investimento hardware giustificato dalla qualità frontier senza esposizione dei dati API.

DeepSeek V3.2 vs i concorrenti più vicini

Dove questo modello vince, dove perde.

vs Qwen3 235B A22B

DeepSeek V3.2 vince nella matematica più difficile, nel codice e nel ragionamento di classe IMO. Qwen3 235B vince per soglia hardware (143GB vs 376GB a Q4) e per la flessibilità della modalità thinking ibrida. Sotto il budget 4x H100, Qwen3 235B è la scelta razionale.

vs GPT-5 (chiuso)

DeepSeek V3.2 performa in modo paragonabile a GPT-5 sui task commodity. V3.2-Speciale supera GPT-5 nella dimostrazione di teoremi e IMO, con 96,0 su AIME 2025 contro 94,6 di GPT-5-High. Il rovescio è la verbosità: Speciale consuma molti più token di output per raggiungere quei punteggi. Il vantaggio per V3.2: i dati restano sul tuo hardware. Il costo: capex GPU di livello enterprise.

vs Mistral Large 3 (675B MoE)

Entrambi sono MoE di classe 670B su hardware 128GB+. Mistral Large 3 vince nella visione multimodale. DeepSeek V3.2 vince nel ragionamento e nel codice. Mistral Large 3 ha una storia leggermente migliore per le piccole aziende tramite i fratelli 14B/8B/3B.

Come Pineido configura gli agent su DeepSeek V3.2

Giorno 4 vLLM serve V3.2 con il parser tool-call v32 più il reasoning parser.

Giorno 4

vLLM serve DeepSeek V3.2 con --tensor-parallel-size 8 (o TP=2 con DP/EP per Hopper per evitare la penalità head-padding), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Fissa vLLM >= 0.11.2 per la correzione multi-turn tool-call.

Giorno 6

Claude Code via override OPENAI_BASE_URL, Roo Code come OpenAI Compatible, Cline stesso, Aider via --openai-api-base. Gli scaffold SWE-bench-class funzionano out of the box perché la pipeline di training di DeepSeek includeva questi framework.

Giorno 8

Open WebUI più AnythingLLM live. Toggle di ragionamento esposto per conversazione. I workspace isolano i set di documenti sensibili.

Giorno 10

Workflow LangGraph con strategie di gestione del contesto (Summary, Discard-75) cablate nella logica di checkpoint. Tre workflow consegnati: deep-research, repo-review, customer-triage.

Giorno 12

Autonomia repository OpenHands. Tasso di superamento SWE-bench Verified atteso intorno al 70 a 73 percento sui task di routine dato il range benchmark 72 a 74 percento del modello.

Giorno 14

Pacchetto prove con tassi di successo tool-call, throughput, campioni trace di ragionamento, runbook e inventario agent consegnato.

Come deployiamo DeepSeek V3.2 in 14 giorni

Prezzo fisso.

Giorno 1

Audit hardware. Conferma nodo GPU o Mac 512GB. Esegui prompt di ragionamento reali su V3.2 vs V3.2-Speciale. Scegli variante per carico di lavoro.

Giorno 4

Serving via vLLM con FP8 su Hopper o Blackwell. Configura DeepSeek Sparse Attention per risparmio costi a lungo contesto. API compatibile OpenAI davanti.

Giorno 9

RAG con reranker di alta qualità (BGE reranker v2-m3). Pipeline di tool-calling (solo base V3.2, Speciale non supporta strumenti). RBAC, audit, telemetria costi per expert.

Giorno 14

Pen-test superato. NOTICE licenza MIT archiviato (una riga). Passaggio in produzione con baseline throughput FP8.

Domande comuni, risposte semplici

DeepSeek V3.2 è davvero sotto licenza MIT?

Sì. Sia il repository che i pesi del modello sono MIT. Nessun limite MAU, nessuna restrizione commerciale, nessuna stringa di attribuzione nel prodotto. Licenza amica degli uffici legali che supera qualsiasi revisione di procurement in modo pulito. Puoi redistribuire, fare fine-tuning e incorporare in prodotti commerciali senza contattare DeepSeek.

Posso eseguire DeepSeek V3.2 su un Mac Studio?

Mac Studio M3 Ultra 512GB a Q4 è il percorso a macchina singola più economico. Circa da 8 a 15 token al secondo per un utente. Adatto per la ricerca, lento per il serving in produzione. Sotto 192GB di memoria unificata sei costretto a Q2 o 1,58-bit e il wobble della qualità di ragionamento emerge sui task difficili.

Dobbiamo deployare il base V3.2 o V3.2-Speciale?

Il base V3.2 supporta il tool calling ed è il driver quotidiano per agent, RAG e lavoro generale. Speciale è la variante di ragionamento profondo ad alto compute, classe medaglia d'oro su IMO e IOI, ma NON supporta il tool calling. Usa il base per la produzione. Aggiungi Speciale come endpoint specialista per la coda di ragionamento difficile se hai il budget GPU.

Fino a quanto basso possiamo quantizzare senza perdere qualità?

FP8 è quasi senza perdite su H100 e H200. Q4_K_M perde da 2 a 4 percento sui task commodity. Q2_K mostra cali dal 5 all'8 percento su matematica e ragionamento strutturato. Per un modello di ragionamento, non scendere sotto Q4 in produzione. Le catene di ragionamento amplificano gli errori di quantizzazione più delle risposte a colpo singolo.

DeepSeek V3.2 è una vera alternativa a Claude Sonnet per gli agent di coding?

Sui benchmark di coding agentivo DeepSeek V3.2 si colloca nella fascia bassa-media dei 70 su SWE-bench Verified (72-74 percento), pochi punti dietro GPT-5.1-High e Gemini 3 Pro e circa 7-9 punti dietro il leader, Claude Opus 4.5 a circa l'81 percento. Sul lavoro di refactoring di routine il divario è raramente visibile. Il fattore decisivo è la licenza: DeepSeek V3.2 è MIT, gira sul tuo hardware, nessun processore di terze parti, nessuna spesa API per token. Per i buyer HIPAA, GDPR, difesa o con NDA rigorosi, questo divario nel benchmark vale la pena. Per output di qualità frontier senza i vincoli, instrada in ibrido il 10 percento più difficile dei task a Claude via endpoint privato BAA.

Quali flag vLLM necessita DeepSeek V3.2?

--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Senza tutti e quattro, le chiamate di strumenti restituiscono vuoto o il ragionamento trapela nel contenuto. Fissa vLLM >= 0.11.2 per la correzione multi-turn streaming (commit 36056). Su Hopper preferisci TP=2 con parallelismo dati ed expert rispetto a TP=8 a causa di una penalità head-padding del kernel in flashmla_sparse.py.

671B totali, 37B attivi per token (MoE) Parametri

Prenota la call di scoping da 30 minuti. Ti diciamo se DeepSeek V3.2 più il nostro stack agent è la scelta giusta prima che tu firmi.

Prezzo fisso.

Al giorno 1 vedi il modello esatto, l'hardware esatto, lo stack agent esatto, la matematica dei costi esatta e la postura di compliance esatta.

Te ne vai con

  1. Giorno 0 (questa settimana): Call di scoping da 30 minuti. Shortlist hardware, scelta modello, proposta stack agent, proiezione costi nella tua casella entro venerdì
  2. Giorno 1: Audit hardware. Conferma nodo GPU o Mac 512GB. Esegui prompt di ragionamento reali su V3.2 vs V3.2-Speciale. Scegli variante per carico di lavoro.

DiFondatore e Imaginator

Pineido, con sede a Strumica, North Macedonia, è una società di software che realizza siti web, negozi online, app web e mobile, automazione dei processi e IA per aziende locali ed estere. Il lavoro viene consegnato in sprint di 30 giorni a prezzo fisso, e il codice è del cliente.

Pubblicato Aggiornato