Configurer Qwen3 235B A22B sur votre matériel, stack d'agents actif, qualité production en 14 jours

Qwen3 235B A22B est le modèle open-weight qui réduit l'écart avec les laboratoires frontaliers fermés. Publié le 28 avril 2025 par l'équipe Qwen d'Alibaba, il est distribué sous Apache 2.0 sans restrictions commerciales.

  • Bascule en production en 14 jours
  • Stack d'agents de code + recherche incluse
  • 235B total, 22B actifs par token (MoE) Paramètres
  • 128K natif, 262K sur la variante Instruct-2507 Fenêtre de contexte
  • 14 j Bascule en production

Qwen3 235B A22B en un coup d'œil

Les spécifications qui comptent pour choisir le modèle et le matériel.

Paramètres

235B total, 22B actifs par token

Architecture

MoE, 128 experts, 8 actifs par token

Fenêtre de contexte

128K natif, 262K sur Instruct-2507

Licence

Apache 2.0

Publication

28 avril 2025 (Instruct-2507 en juillet 2025)

Langues

119 langues et dialectes

Modes

Thinking hybride et Non-Thinking

RAM min (Q4_K_M)

143 Go

RAM min (IQ4_XS pour Macs 128 Go)

112 Go

Tokens/sec sur Mac Studio M3 Ultra 256 Go Q4

15-22

Tokens/sec sur 4x H200 FP8 (vLLM)

120-180 batché

Matériel qui fait tourner Qwen3 235B A22B en production

Trois niveaux, des SKU réels, des chiffres de débit réels.

  1. Niveau entrée : Mac Studio M3 Ultra 256 Go ou 512 Go (9 499-14 999 $)

    Débit : 15-22 tokens/sec. Idéal pour : workflows power mono-utilisateur, génération de code, raisonnement profond sur des documents privés.

  2. Niveau intermédiaire : 2x RTX Pro 6000 Blackwell 96GB (20-28K$) ou 4x RTX 5090

    Débit : 40-70 tokens/sec. Idéal pour : cabinets de 10 à 30 utilisateurs, service batché vLLM, déchargement d'experts MoE.

  3. Niveau entreprise : 4x H200 SXM 141GB ou 8x H100 80GB FP8 (150-300K$)

    Débit : 120-300 tokens/sec. Idéal pour : 100+ utilisateurs simultanés, opérations multilingues, workflows agentiques.

Choix de quantification pour ce modèle

GGUF, AWQ, FP8, INT4.

Quantification recommandée

IQ4_XS pour les Macs 128 Go (qualité proche de Q4_K_M, tient avec un contexte de 40K), Q4_K_M pour les Macs 256 Go+, FP8 pour H100 et H200, AWQ INT4 pour les cartes Blackwell grand public

Compromis

Les modèles MoE tolèrent légèrement mieux la quantification que les modèles denses car le routage des experts dilue l'erreur par poids. IQ4_XS perd environ 3% sur MMLU-Pro versus FP16. FP8 est le point idéal de production sur Hopper et Blackwell, quasi sans perte et 2x de débit versus FP16.

GGUF IQ4_XS

Taille du fichier : 112 Go.

GGUF Q4_K_M

Taille du fichier : 143 Go.

AWQ INT4

Taille du fichier : 118 Go.

FP8

Taille du fichier : 235 Go.

Agents de codage que nous connectons à Qwen3 235B A22B

Appel d'outils natif avec la fiabilité la plus forte de tout modèle open en 2026.

Qwen-Agent

Option native d'Alibaba : pip install -U qwen-agent[gui,rag,code_interpreter,mcp]. Encapsule les templates et parseurs d'appel d'outils en interne. Passez model_server comme URL vLLM /v1. Intègre MCP, interpréteur de code, RAG et extension Chrome.

Cline

Fournisseur OpenAI Compatible. L'appel d'outils sur Qwen3 est le plus stable de la classe des modèles open, hallucinant rarement les appels ou perdant des paramètres. Les modes Plan et Act fonctionnent tous les deux. La variante Thinking-2507 ajoute des étapes de raisonnement pour des plans plus profonds, Instruct-2507 est plus rapide pour le travail courant.

Aider

Le classement Aider Polyglot place Qwen3 235B A22B à 65.3%, près du sommet des modèles open auto-hébergeables. Configurez --openai-api-base sur l'endpoint vLLM. Le mode d'édition fonctionne proprement en Python, TypeScript, Go, Rust et Java.

Continue.dev

Ajoutez dans config.yaml avec provider: openai et apiBase vers votre vLLM. Déclarez capabilities: [tool_use]. Le mode agent détecte automatiquement l'appel d'outils natif. Le contexte de 256K sur la variante Thinking déverrouille le mode contexte de dépôt complet de Continue.

OpenHands

Bonne compatibilité. Un checkpoint RFT 235B de la base Instruct-2507 a atteint 61.7% Pass@1 (74.3% Pass@5 à 500 tours) sur SWE-bench Verified avec les trajectoires OpenHands selon Nebius, battant le spécialiste de code 30B (50.3%) avec la moitié des paramètres de Qwen3-Coder-480B. Définissez LLM_BASE_URL sur vLLM. Meilleure performance en boucle autonome de tout modèle de ce lot.

Roo Code

Fork de Cline. Multi-mode (Code, Architect, Ask, Debug). Le mode Architect + variante Thinking-2507 est une combinaison forte car la trace de raisonnement de Qwen3 expose clairement les compromis architecturaux. Même configuration compatible OpenAI.

Claude Code (avec endpoint personnalisé)

Claude Code accepte l'override OPENAI_BASE_URL selon les guides non officiels. Qwen3 235B A22B est le modèle open qui se rapproche le plus de Claude Sonnet sur l'évaluation SWE-bench de Claude Code. Vérifiez la compatibilité du format d'outil, certains outils internes de Claude Code supposent des appels de fonction à la sauce Anthropic.

Cas d'usage des agents de codage

Où ce modèle + stack d'agents livre un vrai travail.

Agents de recherche que nous déployons sur Qwen3 235B A22B

Le contexte de 256K (variante Thinking-2507) fait de Qwen3 235B A22B l'un des modèles open les plus puissants pour la recherche approfondie.

Qwen-Agent

RAG, interpréteur de code et MCP intégrés. Une seule installation pip donne un stack d'agents fonctionnel. Meilleur point de départ de recherche si l'acheteur est engagé sur la gamme Qwen.

GPT Researcher

Pointez OPENAI_BASE_URL sur vLLM. Le suivi des instructions de Qwen3 (Qwen 3.5 atteint IFEval 92.6) signifie que les prompts de planification de GPT Researcher sont suivis précisément. Les rapports prennent 3 à 5 minutes pour 5 à 10 sources.

AnythingLLM

Le fournisseur Generic OpenAI fonctionne. RAG par espace de travail plus mode @agent couvre 80% des cas d'usage des acheteurs. La fiabilité des outils de Qwen3 signifie que @agent échoue rarement sur les séquences multi-outils.

Open WebUI

Interface chat par défaut. La bascule de réflexion hybride de Qwen3 s'expose bien via les paramètres par conversation d'Open WebUI (chat_template_kwargs.enable_thinking). Les acheteurs peuvent activer le raisonnement pour les questions difficiles et le désactiver pour le chat rapide.

LangGraph

Orchestration de recherche en production. L'appel d'outils fiable de Qwen3 est le facteur différenciant : les transitions d'état LangGraph se déclenchent correctement sans logique de réessai. Associez avec le traçage LangSmith.

CrewAI

Équipes de recherche basées sur les rôles. Le fort suivi des instructions de Qwen3 235B A22B signifie que le texte de rôle et d'objectif de CrewAI est respecté sans frais de prompt engineering.

LlamaIndex

Meilleure association de retrieval. Utilisez les moteurs de requête LlamaIndex comme outils dans un workflow Qwen-Agent ou LangGraph. Le contexte de 256K vous permet de conserver une fenêtre de chunk extrait beaucoup plus grande que le RAG typique.

DSPy

Optimisation des prompts. L'étape de compilation de DSPy est inhabituellement efficace sur Qwen3 car le modèle suit précisément les patterns few-shot structurés. Utilisez DSPy pour optimiser le prompt de décomposition des questions, puis déployez via LangGraph.

Cas d'usage des agents de recherche

Où ce modèle + stack d'agents de recherche livre des rapports que votre équipe utilise vraiment.

Frameworks que nous livrons pour les workflows d'agents en production

Choisissez le framework selon la forme du workflow.

Qwen-Agent

Framework d'agents Qwen natif avec MCP, RAG, interpréteur de code et interface Gradio.

LangGraph

Orchestration avec état en production. Mieux associé avec l'appel d'outils fiable de Qwen3.

CrewAI

Équipes basées sur les rôles. Le plus rapide à démontrer avec le suivi des instructions de Qwen3.

AutoGen / AG2

Conversations GroupChat. Utile pour les patterns de débat en mode hybride Qwen3.

DSPy

Compilation des prompts. Fort avec l'adhérence au format structuré de Qwen3.

Pydantic AI

Agents type-safe. La fiabilité de sortie structurée de Qwen3 s'adapte bien.

LlamaIndex

Couche de retrieval. Associez avec le contexte Qwen3 de 256K pour des chunks extraits énormes.

Qui choisit Qwen3 235B A22B

Trois profils d'acheteurs où ce modèle est la bonne réponse.

  1. Cabinet juridique international, 80 avocats, 5 bureaux

    Tâche : Révision de contrats transfrontaliers en anglais, français, allemand, mandarin, plus discovery. Résultat : La couverture de 119 langues remplace trois outils de traduction séparés. Apache 2.0 signifie que la redistribution vers les portails clients est propre.

  2. Cabinet de conseil logiciel, 40 ingénieurs

    Tâche : Génération de code, revue de code, refactorisation agentique sur plusieurs langages et frameworks. Résultat : 70.7 LiveCodeBench v5 et 2 056 CodeForces bat tous les modèles open denses. Mode Thinking hybride pour les bugs difficiles, Non-Thinking pour l'autocomplétion.

  3. Organisation de recherche pharmaceutique, 12 scientifiques

    Tâche : Synthèse de littérature, génération d'hypothèses, questions-réponses STEM niveau GPQA sur des documents internes. Résultat : Leadership SuperGPQA sur DeepSeek-V3 et Llama-4 en STEM expert. Contexte 256K gère des dossiers d'essais cliniques complets.

Ce que les clients ont dit après le lancement

Les retours des personnes qui étaient dans la pièce quand les décisions ont été prises.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
James, Fleet ManagerDallas
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney

Qwen3 235B A22B versus les concurrents les plus proches

Où ce modèle gagne, où il perd.

vs DeepSeek V3.2

DeepSeek V3.2 (671B MoE, 37B actifs) gagne sur les maths et le code au sommet absolu. Qwen3 235B gagne sur l'empreinte mémoire (143 Go Q4 versus 376 Go Q4) et sur l'accessibilité matérielle pour tout cabinet sans budget de 8x H100.

vs Llama 3.3 70B

Qwen3 235B gagne sur le raisonnement, le codage, le multilingue et les benchmarks sur toute la ligne. Llama 3.3 70B gagne sur la simplicité de service, le plancher matériel et la maturité de l'écosystème. Choisissez Llama pour les cabinets de 8 à 15 personnes, Qwen3 235B pour les 30+ où la qualité est la contrainte.

vs Mistral Large 3 (675B MoE)

Mistral Large 3 gagne sur Apache 2.0 plus la vision multimodale de premier ordre. Qwen3 235B gagne sur l'empreinte matérielle (143 Go versus 370 Go en Q4) et sur la taille de cabinet qui peut s'auto-héberger sans nœud GPU entreprise.

Comment Pineido configure les agents sur Qwen3 235B A22B

Jour 4, vLLM (ou SGLang) sert le modèle avec l'appel d'outils et le parseur de raisonnement.

Jour 4

vLLM sert Qwen3-235B-A22B-Instruct-2507 avec tensor-parallel-size 8, max-model-len 131072 (ou 256K sur Thinking-2507), --enable-reasoning --reasoning-parser deepseek_r1 pour la variante Thinking. La variante FP8 tient sur 8xH100.

Jour 6

Agents d'éditeur (Aider, Cline, Continue.dev, Roo Code) câblés sur /v1. Configuration compatible OpenAI sur tous. L'appel d'outils est le plus stable de tout modèle open, presque aucune logique de réessai nécessaire.

Jour 8

Open WebUI plus AnythingLLM en ligne. Bascule de réflexion hybride exposée par conversation via chat_template_kwargs.enable_thinking. Les espaces de travail isolent les ensembles de documents sensibles.

Jour 9

Qwen-Agent installé (pip install -U qwen-agent[gui,rag,code_interpreter,mcp]). Serveurs MCP câblés pour le système de fichiers, le temps, la récupération et vos API internes.

Jour 10

Workflows LangGraph pour la recherche en production. Trois workflows livrés : recherche approfondie, revue de code, intake client. Traçage LangSmith activé.

Jour 12

Autonomie de dépôt OpenHands démontrée contre trois vraies tâches. Taux de réussite attendu de classe SWE-bench d'environ 60% avec la base Instruct 235B.

Jour 14

Pack de preuves avec taux de réussite d'appel d'outils, chiffres de débit, vérifications ponctuelles de précision, runbook et inventaire des agents livré.

Comment nous déployons Qwen3 235B A22B en 14 jours

Prix fixe.

Jour 1

Confirmer le niveau matériel. Le Mac 128 Go est limite (IQ4_XS uniquement). Mac 256 Go+ ou multi-GPU est le vrai plancher. Benchmark de Thinking versus Non-Thinking sur la charge de travail réelle.

Jour 4

Service via vLLM avec FP8 (GPU) ou MLX avec Q4 (Mac). Câblage de l'API compatible OpenAI. Configuration de la bascule mode de réflexion par route ou par rôle utilisateur.

Jour 9

RAG avec les embeddings BGE-M3 multilingues, Qdrant. SSO, journaux d'audit, RBAC, télémétrie de routage d'experts pour la surveillance des coûts.

Jour 14

Test d'intrusion validé. Fichier NOTICE Apache 2.0 déposé. Bascule. Aucune chaîne d'attribution requise dans l'interface produit.

235B total, 22B actifs par token (MoE) Paramètres

Réservez l'appel de cadrage de 30 minutes. Nous vous disons si Qwen3 235B A22B plus notre stack d'agents est le bon choix avant que vous signiez.

Prix fixe.

Jour 1 vous voyez le modèle exact, le matériel exact, le stack d'agents exact, le calcul de coût exact et la posture de conformité exacte.

Vous repartez avec

  1. Jour 0 (cette semaine) : appel de cadrage de 30 minutes. Liste courte de matériel, choix du modèle, proposition de stack d'agents, projection de coût dans votre boite mail vendredi
  2. Jour 1 : Confirmer le niveau matériel. Le Mac 128 Go est limite (IQ4_XS uniquement). Mac 256 Go+ ou multi-GPU est le vrai plancher. Benchmark de Thinking versus Non-Thinking sur la charge de travail réelle.

Les questions qui décident si nous vous convenons

Qwen3 235B est-il vraiment gratuit pour un usage commercial ?

Oui. Apache 2.0, pas de plafond MAU, pas d'attribution requise dans le produit, pas de niveau payant. Vous pouvez affiner, redistribuer, intégrer dans des produits commerciaux et inclure dans des livrables clients sans contacter Alibaba. La seule obligation est de préserver le fichier NOTICE Apache 2.0 dans les distributions sources, ce qui est une tâche juridique d'une ligne.

Quel matériel fait vraiment tourner Qwen3 235B à une vitesse utilisable ?

Mac Studio M3 Ultra 256 Go en Q4_K_M est le chemin le moins cher viable, 15 à 22 tokens par seconde en décodage pour un seul utilisateur. Le Mac 128 Go nécessite IQ4_XS et manque de place au-delà d'un contexte de 40K. Pour la production multi-utilisateurs, visez 2x RTX Pro 6000 Blackwell 96GB ou un nœud 4x H200 avec FP8.

Qu'est-ce que le mode Thinking versus Non-Thinking et quand utiliser chacun ?

Le mode Thinking exécute une chaîne de pensée interne avant de répondre, plus lent mais plus fort sur les maths, le code et le raisonnement multi-étapes. Non-Thinking est une réponse directe, plus rapide, adaptée au chat, à la rédaction et aux appels d'outils. La variante Instruct 2507 est Non-Thinking par défaut. Routez les problèmes difficiles vers Thinking et les tâches courantes vers Non-Thinking et votre ratio tokens-par-dollar s'améliore de 3 à 5x.

Devons-nous déployer Qwen3 235B ou DeepSeek V3.2 ?

DeepSeek V3.2 gagne sur le raisonnement le plus difficile et les maths de niveau IMO. Qwen3 235B gagne sur le plancher matériel (143 Go versus 376 Go en Q4), la couverture multilingue et la simplicité de service. Pour tout cabinet sans cluster 8x H100 dormant, Qwen3 235B est le choix pratique.

Pourquoi l'appel d'outils de Qwen3 235B A22B est-il considéré comme l'option open la plus fiable ?

Le pipeline de post-formation de Qwen3 comprenait du RL sur 20+ tâches de domaine général spécifiquement pour renforcer les capacités d'agent, le suivi des instructions et le suivi du format. Le résultat est le taux d'hallucination d'appel d'outils le plus bas de tout modèle open dans les benchmarks 2026, et le template de chat encode nativement le format d'outil compatible OpenAI plus MCP. Dans les sprints Pineido, nous voyons notablement moins de bugs de boucle de réessai sur Qwen3 versus Llama ou Mistral.

Devons-nous utiliser Qwen3-235B-A22B-Instruct-2507 ou Thinking-2507 ?

Les deux. Pineido déploie Instruct-2507 comme endpoint par défaut car il est plus rapide et saute les tokens de réflexion. Nous déployons Thinking-2507 sur un second port pour les problèmes difficiles. Les deux modèles partagent l'architecture donc vLLM les sert côte à côte. Cline, Roo Code et Open WebUI peuvent router par tâche. La variante Thinking score environ 7 à 12 points de plus sur les benchmarks de raisonnement difficile mais est environ 3x plus lente par réponse.

ParFondateur et Imaginator

Pineido, basé à Strumica, North Macedonia, est une société de logiciels qui conçoit des sites web, des boutiques en ligne, des applications web et mobiles, de l’automatisation et de l’IA pour des entreprises d’ici et de l’étranger. Le travail est livré en sprints de 30 jours à prix fixe, et le code appartient au client.

Publié Mis à jour