DeepSeek V3.2 auf Ihrer Hardware einrichten, Agent-Stack live, produktionsreif in 14 Tagen

DeepSeek V3.2 ist das Open-Weight-Modell, das GPT-5 bei den härtesten Reasoning-Benchmarks geschlagen hat. Am 1.

  • 14-Tage-Produktionsumstellung
  • Coding + Research Agent Stack inklusive
  • 671B gesamt, 37B aktiv pro Token (MoE) Parameter
  • 128K Token Kontextfenster
  • 14 d Produktionsumstellung

DeepSeek V3.2 auf einen Blick

Spezifikationen, die bei der Auswahl des Modells und der Hardware zählen.

Parameter

671B gesamt, 37B aktiv pro Token

Architektur

MoE, 256 geroutete + 1 gemeinsamer Experte, DeepSeek Sparse Attention

Kontextfenster

128K Token (max. Ausgabe 64K)

Lizenz

MIT

Veröffentlichung

1. Dezember 2025 (V3.2-Exp im September 2025)

Varianten

V3.2 (allgemein), V3.2-Speciale (tiefes Reasoning, kein Tool-Calling)

Min. VRAM (Q4)

376GB gesamt, Multi-GPU obligatorisch

Min. VRAM (FP8)

~675GB, 8x H200-Node

Token/Sek. auf Mac Studio M3 Ultra 512GB Q4

8-15 (Single-User)

Token/Sek. auf 8x H100 FP8 vLLM

200-400 im Batch

Hardware, die DeepSeek V3.2 in Produktion betreibt

Drei Tiers, echte SKUs, echte Durchsatzzahlen.

  1. Einstiegs-Tier: Mac Studio M3 Ultra 512GB ($14.999) bei Q4

    Durchsatz: 8-15 Token/Sek. Beste Wahl für: Einzelner Power-User, Forschung, gelegentliches hartes Reasoning, kein Produktions-Serving.

  2. Mid-Tier: 4x RTX Pro 6000 Blackwell 96GB ($40-56K) bei Q4 oder 2x AMD MI300X 192GB

    Durchsatz: 30-60 Token/Sek. Beste Wahl für: Unternehmen mit 5-15 Nutzern bei schwierigen Problemen, Lab-Einstellungen, code-intensive Teams.

  3. Enterprise-Tier: 8x H100 80GB ($200K), 4x H200 141GB ($150-200K) oder 8x B200 FP4 ($300K+)

    Durchsatz: 200-500 Token/Sek. Beste Wahl für: Produktions-Serving, agentische Workflows, 50+ gleichzeitige Reasoning-Nutzer.

Quantisierungsoptionen für dieses Modell

GGUF, AWQ, FP8, INT4.

Empfohlene Quantisierung

FP8 nativ auf Hopper und Blackwell für Produktion. Q4_K_M für Mac Single-User. Q2_K nur wenn Sie 192GB passen müssen und einen 5 bis 8 Prozent Qualitätsverlust beim Reasoning akzeptieren.

Kompromisse

Reasoning-Modelle leiden mehr unter aggressiver Quantisierung als Chat-Modelle, da Chain-of-Thought Präzisionsfehler verstärkt. Q4 hält bei Wissens- und Edit-Style-Code gut stand. Q2_K zeigt echten Wackler bei Mathematik und strukturiertem Reasoning. 1,58-Bit-Demos existieren (2x RTX 4090 plus RAM), sind aber nicht produktionstauglich.

GGUF Q2_K

Dateigröße: 210GB.

GGUF Q4_K_M

Dateigröße: 376GB.

FP8

Dateigröße: ~675GB.

FP16

Dateigröße: 1,34TB.

Coding-Agents, die wir mit DeepSeek V3.2 verbinden

DeepSeek Sparse Attention (DSA) ermöglicht nahezu lineare Skalierung für langen Kontext, was bei agentischen Schleifen entscheidend ist, wo der Kontext mit jedem Tool-Aufruf wächst.

Claude Code (mit benutzerdefiniertem Endpunkt)

DeepSeeks offizielles Integrationsziel. SWE-bench Verified 72 bis 74 Prozent auf Claude Code Framework. OPENAI_BASE_URL auf Ihr vLLM überschreiben. DeepSeek V3.2 ist das offene Modell, das Claude Sonnet bei Claude Codes Harness am nächsten kommt. Pineidos Wahl, wenn der Käufer Claude-Code-Qualitäts-Output ohne API-Ausgaben möchte.

Roo Code

Offiziell benchmarkt. Das DeepSeek-Papier stellt fest, dass Roo Code Tool-Interaktionen über Benutzernachrichten simuliert, und DeepSeek V3.2s Kontextverwaltungsstrategie verarbeitet dies korrekt. SWE-bench Verified 72 bis 74 Prozent auf Roo Code Framework. Multi-Modus (Code, Architect, Ask) voll funktionsfähig.

Cline

OpenAI-kompatibler Anbieter, vLLM-Endpunkt. Aktiven vLLM-Bug beachten, bei dem DeepSeek Tool-Call-Tags in Reasoning-Inhalte bei Multi-Turn-Schleifen eindringen können. Neuere vLLM-Releases enthalten den Fix (Commit 36056). Pin vLLM >= 0.11.2.

Aider

Starke Eignung. Aiders Edit-Format passt zu DeepSeeks Anweisungsbefolgung. --model openai/deepseek-v3.2 gegen Ihren vLLM-Endpunkt verwenden. Die 128K-Kontextgrenze ist die Einschränkung, nicht die Bearbeitungsgenauigkeit.

OpenHands

Containerbasierter Agent. DeepSeek V3.2 mit Terminus im Non-Thinking-Modus erzielte 39,3 auf Terminal Bench 2.0 laut Papier. SWE-bench Verified 72 bis 74 Prozent übersetzt sich in starke autonome Schleifen-Performance. Pineidos Wahl für Repo-skalierte Aufgaben, wenn Budget Frontier-APIs ausschließt.

Continue.dev

config.yaml mit provider: openai, apiBase auf vLLM /v1, capabilities: [tool_use]. Agent-Modus erkennt nativen Tool-Calling automatisch. DeepSeek V3.2s Reasoning-Parser trennt Thinking von Antwort, sodass Continues Chat-Panel sauber rendert.

OpenCode / OpenClaw

Offiziell unterstützt laut DeepSeeks eigenem Coding-Agent-Integrationsleitfaden. Drop-in OpenAI-Endpunkt-Konfiguration. Die Hermes Agent- und Codex-Frameworks sind ebenfalls in den DeepSeek-Dokumenten aufgeführt.

Coding-Agent-Anwendungsfälle

Wo dieser Modell- + Agent-Stack echte Arbeit liefert.

Was Kunden nach dem Launch gesagt haben

Feedback von den Menschen, die im Raum waren, als die Entscheidungen getroffen wurden.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
Declan, Head of OperationsLondon
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney

Research-Agents, die wir auf DeepSeek V3.2 einsetzen

Long-Tail-Agent-Aufgaben-Generalisierung ist DeepSeek V3.2s Aushängeschild: 1.800 Umgebungen und 85K komplexe Prompts im Post-Training.

GPT Researcher

OPENAI_BASE_URL auf vLLM setzen. DeepSeek V3.2s Reasoning-Trace verbessert GPT Researchers Planungsschritt merklich. Berichte von 5K bis 8K Wörtern mit 15+ Quellen dauern 5 bis 10 Minuten.

LangGraph

Pineidos Standard. DeepSeek V3.2s Kontextverwaltungsstrategien passen zu LangGraphs Checkpoint-and-Resume-Modell. Wenn der Tool-Verlauf 80 Prozent des 128K-Budgets übersteigt, kann LangGraph die Summary- oder Discard-75-Strategie einwechseln und sauber fortfahren.

AnythingLLM

Generic OpenAI-Anbieter. Der Reasoning-Parser trennt Thinking von der endgültigen Antwort in AnythingLLMs Chat-UI. Gut für Käufer-Demos, da der Thinking-Trace sichtbar ist und die Antwort erklärt.

Open WebUI

Tool-Calling und Dokument-Upload funktionieren sauber. DeepSeeks Reasoning-Modus-Toggle ist über Open WebUIs Pro-Konversations-Einstellungen zugänglich. 128K-Kontextgrenze bei schweren Dokument-Chats beachten.

CrewAI

Sequenzielle Forschungs-Crews. DeepSeek V3.2s Anweisungsbefolgung ist stark genug, dass CrewAIs Rollen- und Zieltext die Agents zuverlässig steuert. Thinking-Modus für die Forscher-Rolle, Non-Thinking für die Autor-Rolle verwenden.

AutoGen / AG2

GroupChat funktioniert, aber Token-Kosten beachten: Jede Agent-Runde spielt die vollständige Geschichte durch DeepSeeks 128K-Fenster ab. Discard-75-Kontextverwaltungsstrategie verwenden, um die Rundenzahl begrenzt zu halten.

LlamaIndex

Beste Retrieval-Kopplung. LlamaIndex-Query-Engines für Indexierung verwenden, dann als Tools in einem LangGraph- oder DeepSeek-nativen Agent bereitstellen. Der Reasoning-Parser zeigt Retrieval-Entscheidungslogik im Trace.

Research-Agent-Anwendungsfälle

Wo dieser Modell- + Research-Agent-Stack Berichte liefert, die Ihr Team tatsächlich nutzt.

Frameworks, die wir für Produktions-Agent-Workflows liefern

Framework nach Workflow-Shape wählen.

LangGraph

Produktionsorchestrierung. Beste Passung für DeepSeeks Kontextverwaltungsstrategien.

CrewAI

Sequenzielle Crews. Schnell zur Demo mit DeepSeeks starker Anweisungsbefolgung.

AutoGen / AG2

GroupChat. Kontext-Budget bei Multi-Agent-Debatten mit DeepSeeks 128K-Cap beachten.

DSPy

Prompt-Kompilierung. Kombiniert gut mit DeepSeeks Reasoning-Trace für Chain-of-Thought-Optimierung.

Pydantic AI

Typsichere Agents. DeepSeeks strukturierte Output-Zuverlässigkeit passt zu sauberen Schemas.

LlamaIndex

Retrieval-Schicht. Hybrid-Stack mit LangGraph-Orchestrierung darüber.

Wer wählt DeepSeek V3.2

Drei Käuferprofile, bei denen dieses Modell die richtige Antwort ist.

  1. Quantitatives Handelsunternehmen, 25 Forscher

    Aufgabe: Strategie-Code, Derivate-Preisgestaltung, komplexe Mathematik-Validierung. Ergebnis: IMO/IOI-Goldmedaillen-Klasse-Reasoning läuft intern. MIT-Lizenz beseitigt die Rechtsüberprüfung ohne Vorbehalte. 8x H100-ROI innerhalb von 6 Monaten gegenüber bezahlter Frontier-API.

  2. Patentanwaltskanzlei, 18 Anwälte, IP-intensiv

    Aufgabe: Vorarts-Analyse, Anspruchsentwurf, Überprüfung technischer Spezifikationen über 10+ technische Domänen. Ergebnis: Frontier-Reasoning-Qualität bei harten technischen Ansprüchen, vollständiger 128K-Kontext für Multi-Patent-Vergleich. MIT-Lizenz bedeutet keine Attribution-Reibung in Kundenlieferungen.

  3. Biotech-F&E, 30 Wissenschaftler

    Aufgabe: Molekulares Reasoning, Protokollgenerierung, tiefe Literatursynthese. Ergebnis: Speciale-Variant liefert Theorembeweisführung und tiefes Reasoning auf Augenhöhe mit geschlossenen Labs. Hardware-Investition gerechtfertigt durch Frontier-Qualität ohne API-Datenexposition.

DeepSeek V3.2 vs. die nächsten Konkurrenten

Wo dieses Modell gewinnt, wo es verliert.

vs. Qwen3 235B A22B

DeepSeek V3.2 gewinnt bei härtester Mathematik, Code und IMO-Klasse-Reasoning. Qwen3 235B gewinnt bei Hardware-Untergrenze (143GB vs. 376GB bei Q4) und bei hybrider Thinking-Modus-Flexibilität. Unter 4x H100-Budget ist Qwen3 235B die rationale Wahl.

vs. GPT-5 (geschlossen)

DeepSeek V3.2 ist bei Commodity-Aufgaben mit GPT-5 vergleichbar. V3.2-Speciale übertrifft GPT-5 bei Theorembeweisführung und IMO mit 96,0 bei AIME 2025 gegenüber 94,6 bei GPT-5-High. Der Haken ist die Wortfülle: Speciale verbraucht deutlich mehr Output-Token, um diese Scores zu erreichen. Der Vorteil von V3.2: Daten bleiben auf Ihrer Hardware. Der Preis: Enterprise-Grade-GPU-Capex.

vs. Mistral Large 3 (675B MoE)

Beide sind 670B-Klasse-MoE auf 128GB+-Hardware. Mistral Large 3 gewinnt bei multimodaler Vision. DeepSeek V3.2 gewinnt bei Reasoning und Code. Mistral Large 3 hat eine etwas bessere Small-Firm-Geschichte über 14B/8B/3B-Geschwister.

Wie Pineido Agents auf DeepSeek V3.2 einrichtet

Tag 4 vLLM serviert V3.2 mit dem v32-Tool-Call-Parser plus Reasoning-Parser.

Tag 4

vLLM serviert DeepSeek V3.2 mit --tensor-parallel-size 8 (oder TP=2 mit DP/EP für Hopper, um Head-Padding-Penalty zu vermeiden), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Pin vLLM >= 0.11.2 für den Multi-Turn-Tool-Call-Fix.

Tag 6

Claude Code über OPENAI_BASE_URL-Override, Roo Code als OpenAI-kompatibel, Cline gleich, Aider über --openai-api-base. SWE-bench-Klasse-Scaffolds funktionieren sofort, da DeepSeeks Training-Pipeline diese Frameworks enthielt.

Tag 8

Open WebUI plus AnythingLLM live. Reasoning-Toggle pro Konversation zugänglich. Workspaces isolieren sensible Dokumentensätze.

Tag 10

LangGraph-Workflows mit Kontextverwaltungsstrategien (Summary, Discard-75) in Checkpoint-Logik verdrahtet. Drei Workflows geliefert: Deep-Research, Repo-Review, Customer-Triage.

Tag 12

OpenHands Repo-Autonomie. Erwartete SWE-bench Verified Erfolgsrate etwa 70 bis 73 Prozent bei Routineaufgaben angesichts des 72 bis 74 Prozent Benchmark-Bereichs des Modells.

Tag 14

Nachweispaket mit Tool-Call-Erfolgsraten, Durchsatz, Reasoning-Trace-Proben, Runbook und Agent-Inventar geliefert.

Wie wir DeepSeek V3.2 in 14 Tagen deployen

Festpreis.

Tag 1

Hardware-Audit. GPU-Node oder 512GB Mac bestätigen. Echte Reasoning-Prompts auf V3.2 vs. V3.2-Speciale ausführen. Variant nach Workload wählen.

Tag 4

Über vLLM mit FP8 auf Hopper oder Blackwell bereitstellen. DeepSeek Sparse Attention für Long-Context-Kostenersparnisse konfigurieren. OpenAI-kompatible API davor.

Tag 9

RAG mit hochwertigem Reranker (BGE reranker v2-m3). Tool-Calling-Pipeline (nur V3.2-Basis, Speciale unterstützt keine Tools). RBAC, Audit, Kostentelemetrie pro Experte.

Tag 14

Pen-Test bestanden. MIT-Lizenz NOTICE eingereicht (eine Zeile). Produktionsumstellung mit FP8-Durchsatz-Baseline.

Häufige Fragen, einfache Antworten

Ist DeepSeek V3.2 wirklich MIT-lizenziert?

Ja. Sowohl Repository als auch Modellgewichte sind MIT. Kein MAU-Cap, keine kommerzielle Einschränkung, keine Attribution-Zeichenkette im Produkt. Counsel-freundliche Lizenz, die jede Beschaffungsprüfung problemlos besteht. Sie können ohne Kontakt zu DeepSeek weitergeben, feinabstimmen und in kommerziellen Produkten einbetten.

Kann ich DeepSeek V3.2 auf einem Mac Studio betreiben?

Mac Studio M3 Ultra 512GB bei Q4 ist der günstigste Single-Machine-Weg. Etwa 8 bis 15 Token pro Sekunde für einen Nutzer. Gut für Forschung, langsam für Produktions-Serving. Unter 192GB Unified Memory sind Sie gezwungen, Q2 oder 1,58-Bit zu verwenden, und der Reasoning-Qualitätswackler zeigt sich bei schwierigen Aufgaben.

Sollten wir V3.2-Basis oder V3.2-Speciale deployen?

Basis V3.2 unterstützt Tool-Calling und ist der tägliche Treiber für Agents, RAG und allgemeine Arbeit. Speciale ist der High-Compute-Deep-Reasoning-Variant, Goldmedaillen-Klasse bei IMO und IOI, unterstützt aber KEINE Tool-Aufrufe. Basis für Produktion betreiben. Speciale als Spezialisten-Endpunkt für die schwere Reasoning-Warteschlange hinzufügen, wenn das GPU-Budget vorhanden ist.

Wie weit können wir quantisieren, ohne Qualität zu verlieren?

FP8 ist auf H100 und H200 nahezu verlustfrei. Q4_K_M verliert 2 bis 4 Prozent bei Commodity-Aufgaben. Q2_K zeigt 5 bis 8 Prozent Rückgänge bei Mathematik und strukturiertem Reasoning. Für ein Reasoning-Modell in der Produktion nicht unter Q4 gehen. Reasoning-Ketten verstärken Quantisierungsfehler mehr als Single-Shot-Antworten.

Ist DeepSeek V3.2 eine echte Claude Sonnet-Alternative für Coding-Agents?

Bei agentischen Coding-Benchmarks liegt DeepSeek V3.2 im unteren bis mittleren 70er-Bereich auf SWE-bench Verified (72-74 Prozent), einige Punkte hinter GPT-5.1-High und Gemini 3 Pro und rund 7 bis 9 Punkte hinter dem Spitzenreiter Claude Opus 4.5 mit etwa 81 Prozent. Bei Routine-Refactoring-Arbeit ist die Lücke selten sichtbar. Der entscheidende Faktor ist die Lizenzierung: DeepSeek V3.2 ist MIT, läuft auf Ihrer Hardware, kein Drittanbieter-Prozessor, kein Pro-Token-API-Ausgaben. Für HIPAA-, GDPR-, Verteidigungs- oder strikt-NDA-Käufer ist diese Benchmark-Lücke es wert. Für Frontier-Qualitäts-Output ohne die Einschränkungen die härtesten 10 Prozent der Aufgaben hybrid an Claude über einen privaten BAA-Endpunkt weiterleiten.

Welche vLLM-Flags benötigt DeepSeek V3.2?

--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Ohne alle vier geben Tool-Aufrufe leer zurück oder Reasoning leckt in den Inhalt. Pin vLLM >= 0.11.2 für den Multi-Turn-Streaming-Fix (Commit 36056). Auf Hopper TP=2 mit Daten- und Expert-Parallelismus statt TP=8 bevorzugen, wegen einer Kernel-Head-Padding-Penalty in flashmla_sparse.py.

671B gesamt, 37B aktiv pro Token (MoE) Parameter

Buchen Sie das 30-minütige Scoping-Call. Wir sagen Ihnen, ob DeepSeek V3.2 plus unser Agent-Stack die richtige Wahl ist, bevor Sie unterschreiben.

Festpreis.

Tag 1 sehen Sie das genaue Modell, die genaue Hardware, den genauen Agent-Stack, die genaue Kostenkalkulation und die genaue Compliance-Position.

Sie gehen mit

  1. Tag 0 (diese Woche): 30-minütiger Scoping-Call. Hardware-Shortlist, Modellauswahl, Agent-Stack-Vorschlag, Kostenkalkulation bis Freitag in Ihrem Posteingang
  2. Tag 1: Hardware-Audit. GPU-Node oder 512GB Mac bestätigen. Echte Reasoning-Prompts auf V3.2 vs. V3.2-Speciale ausführen. Variant nach Workload wählen.

VonGründer und Imaginator

Pineido, mit Sitz in Strumica, North Macedonia, ist ein Softwareunternehmen, das Websites, Onlineshops, Web- und Mobile-Apps, Prozessautomatisierung und KI für Unternehmen im In- und Ausland baut. Geliefert wird in 30-Tage-Sprints zum Festpreis, und der Code gehört dem Kunden.

Veröffentlicht Aktualisiert