Codestral 22B auf Ihrer Hardware einrichten, Agentenstack live, produktionsreif in 14 Tagen

Codestral 22B ist das Modell, zu dem Cursor- und Continue-Nutzer immer wieder für Tab-Vervollständigung zurückkehren. 22 Milliarden Parameter, 80+ Programmiersprachen, 32K Kontext und natives Fill-in-the-Middle-Training mit 95,3 Prozent durchschnittlichem FIM pass@1 über Python, Java und JavaScript, dem höchsten Fill-in-the-Middle-Wert jedes offenen oder geschlossenen Modells.

  • 14-Tage Produktionsumstellung
  • Coding- + Forschungsagentenstack enthalten
  • 22,2B dicht Parameter
  • 32K Token Kontextfenster
  • 14 d Produktionsumstellung

Codestral 22B auf einen Blick

Die Spezifikationen, die bei der Modell- und Hardware-Auswahl zählen.

Parameter

22,2B (dicht)

Kontextfenster

32K Token

Architektur

Dichter Decoder-only Transformer mit nativem FIM

Unterstützte Sprachen

80+ (Python, Java, C, C++, JavaScript, TypeScript, Rust, Go, usw.)

FIM pass@1

95,3% (Spitzenwert offen/geschlossen)

Lizenz

Mistral Non-Production License (MNPL-0.1), kommerziell erfordert gesonderte Vereinbarung

BF16 VRAM

ca. 44GB

Q4_K_M VRAM

ca. 13GB

Veröffentlichungsdatum

2024-05-29

Neuere Variante

Codestral 25.01 (Januar 2025) mit 256K Kontext

Hardware, die Codestral 22B in der Produktion betreibt

Drei Stufen, echte SKUs, echte Durchsatzzahlen.

  1. Einstiegsstufe: RTX 4090 24GB oder RTX 3090 24GB bei Q4_K_M

    Durchsatz: 60 bis 100 Tok/s, erstes Token unter 200ms. Geeignet für: Solo-Entwickler IDE-Autovervollständigung (nur Forschung/persönlich unter MNPL).

  2. Mittelstufe: 1x A6000 48GB bei BF16 oder 1x H100 80GB

    Durchsatz: 120 bis 250 Tok/s einzelner Stream, 800+ Tok/s gebatcht. Geeignet für: Internes Team-Copilot (erfordert Mistral-Gewerbelizenz) oder Forschungslabor-Selbsthosting.

  3. Enterprise-Stufe: Mistral-Gewerbelizenz + 2x H100 mit vLLM, oder Mistral Managed API

    Durchsatz: 1500+ Tok/s gebatcht. Geeignet für: Produktions-IDE-Produkte, mandantenfähige Entwickler-Tools (erfordert ausgehandelte Gewerbelizenz).

Quantisierungsoptionen für dieses Modell

GGUF, AWQ, FP8, INT4.

Empfohlene Quantisierung

Q4_K_M für Single-GPU IDE-Bereitstellung. BF16 wenn Sie 48GB+ haben und FIM-Qualität in voller Genauigkeit benötigen.

Kompromisse

FIM ist quantisierungsempfindlicher als Chat. Q4_K_M verliert 2 bis 4 Punkte auf FIM pass@1 gegenüber BF16. Für Autovervollständigungs-UX überwiegt der Geschwindigkeitsgewinn meist den Qualitätsverlust. Q5_K_M ist der sichere Mittelweg.

BF16

Dateigröße: nicht definiert.

Q8_0

Dateigröße: nicht definiert.

Q5_K_M

Dateigröße: nicht definiert.

Q4_K_M

Dateigröße: nicht definiert.

Coding-Agenten, die wir mit Codestral 22B verbinden

Codestral 22B ist Mistrals Coding-Modell und der Single-GPU-Sweetspot für FIM-getriebene IDE-Arbeit, weniger überzeugend für schwere agentische Refactorings.

Aider

Funktioniert für schnelle iterative Schleifen auf kleinen bis mittleren Codebasen. Aider Polyglot bei etwa 38 bis 45 Prozent auf Codestral 22B (auf Leaderboard prüfen). Schwächer als Qwen2.5 Coder 32B und DeepSeek Coder V2 bei schweren Refactorings. Geeignet für: einzelne Datei anheften und iterieren.

Continue.dev

Erstklassige native Unterstützung. Continue dokumentiert Codestral als empfohlenes Autovervollständigungsmodell über die Mistral-API. FIM-Modus plus Instruktionsmodus in einem Modell bedeutet eine einfachere Konfiguration als konkurrierende Zwei-Modell-Setups. Continue plus Codestral war das kanonische lokale Autovervollständigungs-Paar, bevor Qwen2.5 Coder beim Chat aufholte. Richten Sie tabAutocompleteModel auf den FIM-Endpunkt und Sie laufen vollständig offline.

Tabby

Native Codestral-Integration über ~/.tabby/config.toml. Selbstgehostet oder Cloud-API. Single-Model FIM-plus-Instruktions-Unterstützung bedeutet einfacheren Betrieb als zwei Modelle betreiben. Starke Eignung für selbstgehostete Enterprise-IDE-Assistenten, wo Tabbys Audit-Log Compliance-Anforderungen erfüllt.

Cody (Sourcegraph)

Cody unterstützt Codestral als benutzerdefiniertes Modell über die Mistral-API. Die Repo-Kontext plus Codestral Kombination funktioniert gut für Sourcegraph-indizierte Codebasen. Lizenzhinweis: Enterprise Cody plus selbstgehostetes Codestral erfordert Mistral-Gewerbelizenz.

Cursor (BYOK)

Cursor hat keine native Codestral-Unterstützung. Funktioniert über das Continue-Plugin in Cursor oder einen benutzerdefinierten OpenAI-kompatiblen Proxy. Cursors Erstanbieter-Modell ist schneller, Codestral gewinnt nur bei FIM-intensiven Vervollständigungsmustern.

Cline

Funktioniert über Mistral-API. 32K Kontext verarbeitet Clines ausführlichen System-Prompt mit Reserve. Schwächer als DeepSeek Coder V2 bei mehrstufigen autonomen Coding-Aufgaben. Codestral ist für Iteration gebaut, nicht für Autonomie.

Anwendungsfälle für Coding-Agenten

Wo dieses Modell + Agentenstack echte Arbeit liefert.

Forschungsagenten, die wir auf Codestral 22B einsetzen

Nicht die richtige Wahl.

Continue.dev plus Repo-Suche

Verwenden Sie Codestral für Code-Such-Teilaufgaben innerhalb eines Continue-Chats, der Repo-Kontext zieht. Reine Prosa-Synthese schlägt fehl. Akzeptabel für technische Forschung innerhalb einer Codebasis.

Tabby plus interne Dokumenten-RAG

Tabbys Enterprise-RAG über interne API-Dokumentation und Code kann Codestral für den Syntheseschritt verwenden. Nischenanwendung, erfordert ein stark code-lastiges Dokumentenkorpus.

LangGraph Code-Forschungsknoten

Verwenden Sie Codestral nur für den Code-Analyse-Subgraphen in einem gemischten Agenten. Synthese- und Schreibknoten zu Mistral Large 3 oder Llama 3.3 70B routen.

Pydantic AI typisierte Code-Extraktion

Starke Eignung für enge Code-Extraktions-Agenten. Quelldateien lesen, typisierte Pydantic-Schemata ausgeben. Codestral verarbeitet strukturierte Ausgabe zuverlässig bei 32K Kontext.

LlamaIndex Code-Suche

GitHub-Repo-Abruf und Code-Frage-Antwort. Codestral plus LlamaIndex ist für rein technische Forschung nutzbar, schwächer als DeepSeek Coder V2 bei der gleichen Aufgabe.

Anwendungsfälle für Forschungsagenten

Wo dieses Modell + Forschungsagentenstack Berichte liefert, die Ihr Team tatsächlich nutzt.

Frameworks, die wir für produktive Agenten-Workflows liefern

Framework nach Workflow-Form wählen.

Für wen ist Codestral 22B die richtige Wahl

Drei Käuferprofile, bei denen dieses Modell die richtige Antwort ist.

  1. Forscher oder persönlicher IDE-Nutzer

    Aufgabe: Lokale FIM-Autovervollständigung in VS Code über Continue.dev oder Tabby. Ergebnis: Branchenführende Inline-Vorschläge auf einer 24GB-GPU, vollständig offline, unter forschungsgenehmigten MNPL-Bedingungen

  2. Unternehmen mit Mistral-Gewerbelizenz

    Aufgabe: Selbstgehosteter Copilot-Ersatz für eine Entwicklungsorganisation mit ausgehandelter Gewichtslizenz. Ergebnis: Codestral für FIM mit Mistral Large 2 oder Mixtral für Chat kombinieren, alles unter einer Mistral-Vereinbarung

  3. Mistral-API-Kunde

    Aufgabe: Coding-Produkt auf Mistrals gehostetem Codestral-Endpunkt mit kommerziellen Nutzungsrechten aufbauen. Ergebnis: Gewichtslizenzierung vollständig überspringen, Codestral 25.01 mit 256K Kontext und verwalteter Skalierung erhalten

Was Kunden nach dem Launch gesagt haben

Feedback von den Menschen, die im Raum waren, als die Entscheidungen getroffen wurden.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
James, Fleet ManagerDallas

Codestral 22B vs. die engsten Konkurrenten

Wo dieses Modell gewinnt, wo es verliert.

vs. Qwen2.5-Coder 32B

Qwen ist Apache 2.0 (kein Lizenzproblem), größer (32B) und gewinnt bei HumanEval (92,7 vs. 81,1) und MBPP (90,2 vs. 78,2) sowie beim Chat-Reasoning. Codestral gewinnt beim durchschnittlichen FIM pass@1 (95,3 über Python, Java, JavaScript), Inferenzgeschwindigkeit bei 22B dicht und beim Kontextsprung von 32K auf 256K bei der 25.01-Variante. Für kommerzielle Produktion Qwen wählen, außer Sie haben eine Mistral-Vereinbarung. Beide passen auf eine einzelne 24GB-Karte, daher ist der gängige Zug Codestral für Tab-Vervollständigung und Qwen für Chat.

vs. DeepSeek Coder V2 Lite (16B / 2,4B)

DeepSeek Coder V2 Lite hat eine kommerziell-freizügige Lizenz, ist schneller pro Token (MoE) und unterstützt 338 Sprachen und 128K Kontext. Codestral gewinnt knapp bei FIM und bei dicht-modell-Latenzvorhersagbarkeit. Lizenzklarheit begünstigt DeepSeek für die Produktion.

vs. CodeGemma 7B

CodeGemma 7B ist viel kleiner und läuft auf 8GB-Karten mit Apache-2.0-Lizenz. Codestral 22B übertrifft es um 10 bis 20 Punkte bei HumanEval, MBPP und FIM. CodeGemma nur wählen, wenn VRAM unter 16GB liegt oder die Lizenz freizügig sein muss.

So richtet Pineido Agenten auf Codestral 22B ein

Zweiwöchiger Sprint mit einer harten Lizenzprüfungs-Hürde zu Beginn.

Tag 1

Lizenzprüfung. MNPL-0.1 kommerzielle Einschränkungen mit dem Rechtsberater des Käufers bestätigt. Bei kommerziellem Produktionsbetrieb Mistral-Gewerbelizenz unterzeichnet oder codestral.mistral.ai gehostete API als Bereitstellungsweg bestätigt.

Tag 3

Hardware-Entscheidung. RTX 4090 oder 5090 (24GB) bei Q4 für Selbsthosting-Forschung, oder Mistral gehostete API für kommerzielle Produktion. Tabby selbstgehostet plus Codestral heruntergeladen, ~/.tabby/config.toml konfiguriert.

Tag 6

Continue.dev als IDE-Assistent verbunden. tabAutocompleteModel auf Codestral mit FIM-Modus gerichtet, Chat-Modell auf denselben Endpunkt mit Instruktionsmodus. Latenz-Basislinie, Autovervollständigungs-Akzeptanzrate gemessen.

Tag 9

Aider-Iterationsschleifen auf einer echten Client-Codebasis getestet. Diff-Anwende-Erfolgsrate protokolliert. Pydantic AI typisierte Tool-Agenten für strukturierte Extraktionsaufgaben verbunden.

Tag 11

Agenten-Framework gewählt. LangGraph plus Codestral für Graph-Workflows, Pydantic AI für typisierte Code-Extraktion. Native Tool-Calls getestet.

Tag 14

Produktionsumstellung. Lizenzattribution geliefert (Mistral NOTICE plus kommerzielle Lizenzreferenz falls zutreffend). SSO, Audit-Log, Prompt-Log, Rate-Limits live. Tabby Admin-Dashboard übergeben.

So stellen wir Codestral 22B in 14 Tagen bereit

Festpreis.

  1. Tag 1

    Bestätigen Sie, dass Ihr Anwendungsfall nicht-kommerziell unter MNPL ist, oder dass Sie eine kommerzielle Mistral-Lizenz haben, oder verpflichten Sie sich zur Nutzung der Mistral-API. Diese Entscheidung blockiert alles Nachgelagerte

  2. Tag 2

    Codestral-22B-v0.1 GGUF herunterladen und über llama.cpp oder Ollama bereitstellen. FIM-Endpunkt konfigurieren (Pfad /api/fim oder OpenAI-kompatibler /v1/completions mit FIM-Tokens)

  3. Tag 3

    Mit Continue.dev oder Tabby in VS Code verbinden. Tab-Vervollständigung auf Codestral setzen, Chat auf ein separates Modell (Qwen2.5-Coder 32B oder Llama 3.3 70B). Latenz unter 200ms-Ziel testen

  4. Woche 2

    Bei kommerzieller Bereitstellung Codestral 25.01 mit 256K Kontext über Mistral-API evaluieren. Pro-Token-Kosten vs. gehosteter Qwen2.5-Coder vergleichen. Zuerst nach Lizenzkompatibilität entscheiden, dann nach Qualität

22,2B dicht Parameter

Buchen Sie das 30-minütige Scoping-Gespräch. Wir sagen Ihnen, ob Codestral 22B plus unser Agentenstack die richtige Wahl ist, bevor Sie unterschreiben.

Festpreis.

An Tag 1 sehen Sie das genaue Modell, die genaue Hardware, den genauen Agentenstack, die genaue Kostenkalkulation und die genaue Compliance-Position.

Sie gehen mit

  1. Tag 0 (diese Woche): 30-minütiges Scoping-Gespräch. Hardware-Shortlist, Modellauswahl, Agentenstack-Vorschlag, Kostenprojektion bis Freitag in Ihrem Posteingang
  2. Tag 1: Bestätigen Sie, dass Ihr Anwendungsfall nicht-kommerziell unter MNPL ist, oder dass Sie eine kommerzielle Mistral-Lizenz haben, oder verpflichten Sie sich zur Nutzung der Mistral-API. Diese Entscheidung blockiert alles Nachgelagerte

Antworten ohne Verkaufsgespräch

Ist die Lizenz wirklich nicht-kommerziell?

Ja, strikt. Die MNPL-0.1 verbietet jede kommerzielle Tätigkeit, einschließlich der Nutzung durch Angestellte im Rahmen ihrer Arbeit, gehostete Dienste und umsatzgenerierende Produkte. Selbst Fine-Tunes von Codestral erben die Einschränkung. Kommerzieller Einsatz erfordert eine separate Lizenz von [email protected] oder die Nutzung der Mistral-API.

Warum ist Codestral das Beste bei FIM?

Mistral hat native FIM-Tokens in das Basismodell eintrainiert, nicht als Finetune-Addon. Das ergibt eine FIM pass@1-Rate von 95,3 Prozent, die kein anderes offenes Modell erreicht hat. Codestral 25.01 erweitert dies mit einem größeren 256K-Kontext für repository-weites Fill-in-the-Middle.

Was ist mit Codestral 25.01?

Codestral 25.01 ist das Januar-2025-Update mit einem 256K-Kontextfenster (8x das ursprüngliche 32K), einem besseren Tokenizer, etwa 2x schnellerer Dekodierung und 86,6 Prozent auf HumanEval Python. Es führte beim Start das Copilot-Arena-Autovervollständigungs-Leaderboard an und ist nur über Mistral-API verfügbar. Mistral hat seither Codestral 25.08 (Juli 2025) veröffentlicht, das 30 Prozent mehr akzeptierte Vervollständigungen und 50 Prozent weniger ausufernde Generierungen meldet, gebündelt mit Codestral Embed, dem Devstral-Agenten und dem Mistral-Code-IDE-Plugin für Unternehmens-Selbsthosting. Das ursprüngliche Codestral 22B v0.1 ist weiterhin die Open-Weights-Option, nur mit dem ursprünglichen 32K-Kontext.

Was ist die nächste kommerziell-freundliche Alternative?

Qwen2.5-Coder 32B unter Apache 2.0 für Chat und komplexe Aufgaben. DeepSeek Coder V2 Lite für schnelles FIM. CodeGemma 7B für Low-VRAM-Setups. Keines erreicht Codestral bei FIM pass@1, aber alle sind kommerziell sauber.

Kann ein kommerzielles Produkt mit selbstgehostetem Codestral 22B v0.1 ausgeliefert werden?

Nicht ohne separate Mistral-Gewerbelizenz. Codestral 22B v0.1 wird unter der Mistral AI Non-Production License (MNPL-0.1) ausgeliefert, ausdrücklich nur für Forschung und Tests. Drei rechtliche Wege für die Produktion: Erstens, eine Gewerbelizenz mit Mistral unterzeichnen (individuelle Preisgestaltung). Zweitens, die gehostete Mistral-API nutzen (codestral.mistral.ai oder api.mistral.ai) mit deren kommerziellen Bedingungen. Drittens, zu Qwen2.5 Coder 32B (Apache 2.0) oder DeepSeek Coder V2 (MIT plus DeepSeek License Agreement, kostenlos kommerziell) wechseln. Für eine kleine Beratungsfirma, die Produkte ausliefert, sind Wege zwei oder drei der praktische Standard.

Sollten wir Codestral 22B oder Qwen2.5 Coder 32B für Aider-Workflows wählen?

Qwen2.5 Coder 32B für schwere Refactorings, Codestral für FIM-intensive Iteration. Qwen2.5 Coder 32B führt bei Aider Polyglot um 6 bis 12 Punkte und wird unter Apache 2.0 ausgeliefert (kein Lizenzfußnoten). Codestral gewinnt bei FIM-Benchmarks (HumanEvalFIM 91,6 Prozent) und ist mit Continue.dev-Autovervollständigung am saubersten durch single-model FIM-plus-Instruktions-Unterstützung kombinierbar. Praktische Wahl in 2026: Qwen2.5 Coder für die agentische Coding-Schleife, Codestral nur wenn FIM-Autovervollständigungs-Latenz die bindende Einschränkung ist.

VonGründer und Imaginator

Pineido, mit Sitz in Strumica, North Macedonia, ist ein Softwareunternehmen, das Websites, Onlineshops, Web- und Mobile-Apps, Prozessautomatisierung und KI für Unternehmen im In- und Ausland baut. Geliefert wird in 30-Tage-Sprints zum Festpreis, und der Code gehört dem Kunden.

Veröffentlicht Aktualisiert