LangGraph
Produktionsorchestrierung. Beste Passung für DeepSeeks Kontextverwaltungsstrategien.
DeepSeek V3.2 ist das Open-Weight-Modell, das GPT-5 bei den härtesten Reasoning-Benchmarks geschlagen hat. Am 1.
Spezifikationen, die bei der Auswahl des Modells und der Hardware zählen.
671B gesamt, 37B aktiv pro Token
MoE, 256 geroutete + 1 gemeinsamer Experte, DeepSeek Sparse Attention
128K Token (max. Ausgabe 64K)
MIT
1. Dezember 2025 (V3.2-Exp im September 2025)
V3.2 (allgemein), V3.2-Speciale (tiefes Reasoning, kein Tool-Calling)
376GB gesamt, Multi-GPU obligatorisch
~675GB, 8x H200-Node
8-15 (Single-User)
200-400 im Batch
Drei Tiers, echte SKUs, echte Durchsatzzahlen.
Durchsatz: 8-15 Token/Sek. Beste Wahl für: Einzelner Power-User, Forschung, gelegentliches hartes Reasoning, kein Produktions-Serving.
Durchsatz: 30-60 Token/Sek. Beste Wahl für: Unternehmen mit 5-15 Nutzern bei schwierigen Problemen, Lab-Einstellungen, code-intensive Teams.
Durchsatz: 200-500 Token/Sek. Beste Wahl für: Produktions-Serving, agentische Workflows, 50+ gleichzeitige Reasoning-Nutzer.
GGUF, AWQ, FP8, INT4.
FP8 nativ auf Hopper und Blackwell für Produktion. Q4_K_M für Mac Single-User. Q2_K nur wenn Sie 192GB passen müssen und einen 5 bis 8 Prozent Qualitätsverlust beim Reasoning akzeptieren.
Reasoning-Modelle leiden mehr unter aggressiver Quantisierung als Chat-Modelle, da Chain-of-Thought Präzisionsfehler verstärkt. Q4 hält bei Wissens- und Edit-Style-Code gut stand. Q2_K zeigt echten Wackler bei Mathematik und strukturiertem Reasoning. 1,58-Bit-Demos existieren (2x RTX 4090 plus RAM), sind aber nicht produktionstauglich.
Dateigröße: 210GB.
Dateigröße: 376GB.
Dateigröße: ~675GB.
Dateigröße: 1,34TB.
DeepSeek Sparse Attention (DSA) ermöglicht nahezu lineare Skalierung für langen Kontext, was bei agentischen Schleifen entscheidend ist, wo der Kontext mit jedem Tool-Aufruf wächst.
DeepSeeks offizielles Integrationsziel. SWE-bench Verified 72 bis 74 Prozent auf Claude Code Framework. OPENAI_BASE_URL auf Ihr vLLM überschreiben. DeepSeek V3.2 ist das offene Modell, das Claude Sonnet bei Claude Codes Harness am nächsten kommt. Pineidos Wahl, wenn der Käufer Claude-Code-Qualitäts-Output ohne API-Ausgaben möchte.
Offiziell benchmarkt. Das DeepSeek-Papier stellt fest, dass Roo Code Tool-Interaktionen über Benutzernachrichten simuliert, und DeepSeek V3.2s Kontextverwaltungsstrategie verarbeitet dies korrekt. SWE-bench Verified 72 bis 74 Prozent auf Roo Code Framework. Multi-Modus (Code, Architect, Ask) voll funktionsfähig.
OpenAI-kompatibler Anbieter, vLLM-Endpunkt. Aktiven vLLM-Bug beachten, bei dem DeepSeek Tool-Call-Tags in Reasoning-Inhalte bei Multi-Turn-Schleifen eindringen können. Neuere vLLM-Releases enthalten den Fix (Commit 36056). Pin vLLM >= 0.11.2.
Starke Eignung. Aiders Edit-Format passt zu DeepSeeks Anweisungsbefolgung. --model openai/deepseek-v3.2 gegen Ihren vLLM-Endpunkt verwenden. Die 128K-Kontextgrenze ist die Einschränkung, nicht die Bearbeitungsgenauigkeit.
Containerbasierter Agent. DeepSeek V3.2 mit Terminus im Non-Thinking-Modus erzielte 39,3 auf Terminal Bench 2.0 laut Papier. SWE-bench Verified 72 bis 74 Prozent übersetzt sich in starke autonome Schleifen-Performance. Pineidos Wahl für Repo-skalierte Aufgaben, wenn Budget Frontier-APIs ausschließt.
config.yaml mit provider: openai, apiBase auf vLLM /v1, capabilities: [tool_use]. Agent-Modus erkennt nativen Tool-Calling automatisch. DeepSeek V3.2s Reasoning-Parser trennt Thinking von Antwort, sodass Continues Chat-Panel sauber rendert.
Offiziell unterstützt laut DeepSeeks eigenem Coding-Agent-Integrationsleitfaden. Drop-in OpenAI-Endpunkt-Konfiguration. Die Hermes Agent- und Codex-Frameworks sind ebenfalls in den DeepSeek-Dokumenten aufgeführt.
Wo dieser Modell- + Agent-Stack echte Arbeit liefert.
Feedback von den Menschen, die im Raum waren, als die Entscheidungen getroffen wurden.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Long-Tail-Agent-Aufgaben-Generalisierung ist DeepSeek V3.2s Aushängeschild: 1.800 Umgebungen und 85K komplexe Prompts im Post-Training.
OPENAI_BASE_URL auf vLLM setzen. DeepSeek V3.2s Reasoning-Trace verbessert GPT Researchers Planungsschritt merklich. Berichte von 5K bis 8K Wörtern mit 15+ Quellen dauern 5 bis 10 Minuten.
Pineidos Standard. DeepSeek V3.2s Kontextverwaltungsstrategien passen zu LangGraphs Checkpoint-and-Resume-Modell. Wenn der Tool-Verlauf 80 Prozent des 128K-Budgets übersteigt, kann LangGraph die Summary- oder Discard-75-Strategie einwechseln und sauber fortfahren.
Generic OpenAI-Anbieter. Der Reasoning-Parser trennt Thinking von der endgültigen Antwort in AnythingLLMs Chat-UI. Gut für Käufer-Demos, da der Thinking-Trace sichtbar ist und die Antwort erklärt.
Tool-Calling und Dokument-Upload funktionieren sauber. DeepSeeks Reasoning-Modus-Toggle ist über Open WebUIs Pro-Konversations-Einstellungen zugänglich. 128K-Kontextgrenze bei schweren Dokument-Chats beachten.
Sequenzielle Forschungs-Crews. DeepSeek V3.2s Anweisungsbefolgung ist stark genug, dass CrewAIs Rollen- und Zieltext die Agents zuverlässig steuert. Thinking-Modus für die Forscher-Rolle, Non-Thinking für die Autor-Rolle verwenden.
GroupChat funktioniert, aber Token-Kosten beachten: Jede Agent-Runde spielt die vollständige Geschichte durch DeepSeeks 128K-Fenster ab. Discard-75-Kontextverwaltungsstrategie verwenden, um die Rundenzahl begrenzt zu halten.
Beste Retrieval-Kopplung. LlamaIndex-Query-Engines für Indexierung verwenden, dann als Tools in einem LangGraph- oder DeepSeek-nativen Agent bereitstellen. Der Reasoning-Parser zeigt Retrieval-Entscheidungslogik im Trace.
Wo dieser Modell- + Research-Agent-Stack Berichte liefert, die Ihr Team tatsächlich nutzt.
Framework nach Workflow-Shape wählen.
Produktionsorchestrierung. Beste Passung für DeepSeeks Kontextverwaltungsstrategien.
Sequenzielle Crews. Schnell zur Demo mit DeepSeeks starker Anweisungsbefolgung.
GroupChat. Kontext-Budget bei Multi-Agent-Debatten mit DeepSeeks 128K-Cap beachten.
Prompt-Kompilierung. Kombiniert gut mit DeepSeeks Reasoning-Trace für Chain-of-Thought-Optimierung.
Typsichere Agents. DeepSeeks strukturierte Output-Zuverlässigkeit passt zu sauberen Schemas.
Retrieval-Schicht. Hybrid-Stack mit LangGraph-Orchestrierung darüber.
Drei Käuferprofile, bei denen dieses Modell die richtige Antwort ist.
Aufgabe: Strategie-Code, Derivate-Preisgestaltung, komplexe Mathematik-Validierung. Ergebnis: IMO/IOI-Goldmedaillen-Klasse-Reasoning läuft intern. MIT-Lizenz beseitigt die Rechtsüberprüfung ohne Vorbehalte. 8x H100-ROI innerhalb von 6 Monaten gegenüber bezahlter Frontier-API.
Aufgabe: Vorarts-Analyse, Anspruchsentwurf, Überprüfung technischer Spezifikationen über 10+ technische Domänen. Ergebnis: Frontier-Reasoning-Qualität bei harten technischen Ansprüchen, vollständiger 128K-Kontext für Multi-Patent-Vergleich. MIT-Lizenz bedeutet keine Attribution-Reibung in Kundenlieferungen.
Aufgabe: Molekulares Reasoning, Protokollgenerierung, tiefe Literatursynthese. Ergebnis: Speciale-Variant liefert Theorembeweisführung und tiefes Reasoning auf Augenhöhe mit geschlossenen Labs. Hardware-Investition gerechtfertigt durch Frontier-Qualität ohne API-Datenexposition.
Wo dieses Modell gewinnt, wo es verliert.
DeepSeek V3.2 gewinnt bei härtester Mathematik, Code und IMO-Klasse-Reasoning. Qwen3 235B gewinnt bei Hardware-Untergrenze (143GB vs. 376GB bei Q4) und bei hybrider Thinking-Modus-Flexibilität. Unter 4x H100-Budget ist Qwen3 235B die rationale Wahl.
DeepSeek V3.2 ist bei Commodity-Aufgaben mit GPT-5 vergleichbar. V3.2-Speciale übertrifft GPT-5 bei Theorembeweisführung und IMO mit 96,0 bei AIME 2025 gegenüber 94,6 bei GPT-5-High. Der Haken ist die Wortfülle: Speciale verbraucht deutlich mehr Output-Token, um diese Scores zu erreichen. Der Vorteil von V3.2: Daten bleiben auf Ihrer Hardware. Der Preis: Enterprise-Grade-GPU-Capex.
Beide sind 670B-Klasse-MoE auf 128GB+-Hardware. Mistral Large 3 gewinnt bei multimodaler Vision. DeepSeek V3.2 gewinnt bei Reasoning und Code. Mistral Large 3 hat eine etwas bessere Small-Firm-Geschichte über 14B/8B/3B-Geschwister.
Tag 4 vLLM serviert V3.2 mit dem v32-Tool-Call-Parser plus Reasoning-Parser.
vLLM serviert DeepSeek V3.2 mit --tensor-parallel-size 8 (oder TP=2 mit DP/EP für Hopper, um Head-Padding-Penalty zu vermeiden), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Pin vLLM >= 0.11.2 für den Multi-Turn-Tool-Call-Fix.
Claude Code über OPENAI_BASE_URL-Override, Roo Code als OpenAI-kompatibel, Cline gleich, Aider über --openai-api-base. SWE-bench-Klasse-Scaffolds funktionieren sofort, da DeepSeeks Training-Pipeline diese Frameworks enthielt.
Open WebUI plus AnythingLLM live. Reasoning-Toggle pro Konversation zugänglich. Workspaces isolieren sensible Dokumentensätze.
LangGraph-Workflows mit Kontextverwaltungsstrategien (Summary, Discard-75) in Checkpoint-Logik verdrahtet. Drei Workflows geliefert: Deep-Research, Repo-Review, Customer-Triage.
OpenHands Repo-Autonomie. Erwartete SWE-bench Verified Erfolgsrate etwa 70 bis 73 Prozent bei Routineaufgaben angesichts des 72 bis 74 Prozent Benchmark-Bereichs des Modells.
Nachweispaket mit Tool-Call-Erfolgsraten, Durchsatz, Reasoning-Trace-Proben, Runbook und Agent-Inventar geliefert.
Festpreis.
Hardware-Audit. GPU-Node oder 512GB Mac bestätigen. Echte Reasoning-Prompts auf V3.2 vs. V3.2-Speciale ausführen. Variant nach Workload wählen.
Über vLLM mit FP8 auf Hopper oder Blackwell bereitstellen. DeepSeek Sparse Attention für Long-Context-Kostenersparnisse konfigurieren. OpenAI-kompatible API davor.
RAG mit hochwertigem Reranker (BGE reranker v2-m3). Tool-Calling-Pipeline (nur V3.2-Basis, Speciale unterstützt keine Tools). RBAC, Audit, Kostentelemetrie pro Experte.
Pen-Test bestanden. MIT-Lizenz NOTICE eingereicht (eine Zeile). Produktionsumstellung mit FP8-Durchsatz-Baseline.
Ja. Sowohl Repository als auch Modellgewichte sind MIT. Kein MAU-Cap, keine kommerzielle Einschränkung, keine Attribution-Zeichenkette im Produkt. Counsel-freundliche Lizenz, die jede Beschaffungsprüfung problemlos besteht. Sie können ohne Kontakt zu DeepSeek weitergeben, feinabstimmen und in kommerziellen Produkten einbetten.
Mac Studio M3 Ultra 512GB bei Q4 ist der günstigste Single-Machine-Weg. Etwa 8 bis 15 Token pro Sekunde für einen Nutzer. Gut für Forschung, langsam für Produktions-Serving. Unter 192GB Unified Memory sind Sie gezwungen, Q2 oder 1,58-Bit zu verwenden, und der Reasoning-Qualitätswackler zeigt sich bei schwierigen Aufgaben.
Basis V3.2 unterstützt Tool-Calling und ist der tägliche Treiber für Agents, RAG und allgemeine Arbeit. Speciale ist der High-Compute-Deep-Reasoning-Variant, Goldmedaillen-Klasse bei IMO und IOI, unterstützt aber KEINE Tool-Aufrufe. Basis für Produktion betreiben. Speciale als Spezialisten-Endpunkt für die schwere Reasoning-Warteschlange hinzufügen, wenn das GPU-Budget vorhanden ist.
FP8 ist auf H100 und H200 nahezu verlustfrei. Q4_K_M verliert 2 bis 4 Prozent bei Commodity-Aufgaben. Q2_K zeigt 5 bis 8 Prozent Rückgänge bei Mathematik und strukturiertem Reasoning. Für ein Reasoning-Modell in der Produktion nicht unter Q4 gehen. Reasoning-Ketten verstärken Quantisierungsfehler mehr als Single-Shot-Antworten.
Bei agentischen Coding-Benchmarks liegt DeepSeek V3.2 im unteren bis mittleren 70er-Bereich auf SWE-bench Verified (72-74 Prozent), einige Punkte hinter GPT-5.1-High und Gemini 3 Pro und rund 7 bis 9 Punkte hinter dem Spitzenreiter Claude Opus 4.5 mit etwa 81 Prozent. Bei Routine-Refactoring-Arbeit ist die Lücke selten sichtbar. Der entscheidende Faktor ist die Lizenzierung: DeepSeek V3.2 ist MIT, läuft auf Ihrer Hardware, kein Drittanbieter-Prozessor, kein Pro-Token-API-Ausgaben. Für HIPAA-, GDPR-, Verteidigungs- oder strikt-NDA-Käufer ist diese Benchmark-Lücke es wert. Für Frontier-Qualitäts-Output ohne die Einschränkungen die härtesten 10 Prozent der Aufgaben hybrid an Claude über einen privaten BAA-Endpunkt weiterleiten.
--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Ohne alle vier geben Tool-Aufrufe leer zurück oder Reasoning leckt in den Inhalt. Pin vLLM >= 0.11.2 für den Multi-Turn-Streaming-Fix (Commit 36056). Auf Hopper TP=2 mit Daten- und Expert-Parallelismus statt TP=8 bevorzugen, wegen einer Kernel-Head-Padding-Penalty in flashmla_sparse.py.
671B gesamt, 37B aktiv pro Token (MoE) Parameter
Festpreis.
Tag 1 sehen Sie das genaue Modell, die genaue Hardware, den genauen Agent-Stack, die genaue Kostenkalkulation und die genaue Compliance-Position.
VonKostadin StambolievGründer und Imaginator
Pineido, mit Sitz in Strumica, North Macedonia, ist ein Softwareunternehmen, das Websites, Onlineshops, Web- und Mobile-Apps, Prozessautomatisierung und KI für Unternehmen im In- und Ausland baut. Geliefert wird in 30-Tage-Sprints zum Festpreis, und der Code gehört dem Kunden.
Veröffentlicht Aktualisiert