Qwen-Agent
Framework Qwen nativo. Migliore allineamento tool-call per Qwen2.5-Coder 32B.
Qwen2.5-Coder 32B è il modello di codice open-weight che è atterrato nel livello GPT-4o su ogni benchmark pubblico di coding. Rilasciato l'11 novembre 2024 sotto Apache 2.0, addestrato su 5,5 trilioni di token in 92 linguaggi di programmazione.
Le specifiche che contano quando si sceglie il modello e l'hardware.
32,5B denso (31,0B non-embedding)
128K token
Apache 2.0
11 novembre 2024
5,5T token, 92 linguaggi di programmazione
92.7
90.2
73.7
19GB
22GB
34GB
42
55-70
18
Tre livelli, SKU reali, numeri di throughput reali.
Throughput: 18-42 token/sec. Ideale per: sviluppatori singoli, piccoli team, autocomplete IDE, code review.
Throughput: 55-90 token/sec. Ideale per: team da 5-15 ingegneri, serving vLLM per autocomplete condiviso, qualità Q5/Q6, server di generazione codice.
Throughput: 120-200 token/sec. Ideale per: org da 30+ ingegneri, piattaforma di codice multi-tenant, ciclo di fine-tuning, sostituzione Copilot interno.
Feedback dalle persone che erano nella stanza quando sono state prese le decisioni.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Crew scheduling was a nightmare. Guys would show up at the wrong site or not at all. The automated dispatch board fixed that in week two.
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
GGUF, AWQ, FP8, INT4.
Q4_K_M per uso singolo e GPU consumer. Q5_K_M o Q6_K quando la VRAM lo permette (RTX 5090 o più grande), migliore qualità del codice sui casi limite. AWQ INT4 per serving vLLM. FP8 su H100 solo se stai gestendo una flotta.
I modelli di codice sono sensibili alla quantizzazione sulla generazione di lunga durata. Q4 va bene per autocomplete IDE e task di modifica. Q5_K_M e Q6_K sono notevolmente migliori nella scrittura di funzioni da zero o in refactoring multi-file. Q8_0 forza l'offload su RTX 4090 (~34GB), riducendo il throughput da 42 a 22 token al secondo.
Dimensione file: 19GB.
Dimensione file: 22GB.
Dimensione file: 34GB.
Dimensione file: 18GB.
Il miglior coder agentico 'budget' nel 2026: eguaglia GPT-4o su HumanEval, gira su una singola RTX 4090 a Q4_K_M.
La soluzione migliore. Il formato diff-edit di Aider non dipende da loop tool aggressivi multi-turno, quindi le quirk del tool-call di Qwen2.5-Coder 32B non mordono. 73,7% sul benchmark di riparazione codice di Aider, comparabile a GPT-4o. Esegui aider --openai-api-base http://your-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct.
Forte adattamento. config.yaml con provider: openai o vllm, apiBase al tuo endpoint. Tab autocomplete funziona a Q4_K_M su una singola RTX 4090. Usalo come ruolo autocomplete-e-modifica; abbina a un modello più piccolo e veloce per il completamento inline se la latenza conta.
Il vanilla Qwen2.5-Coder 32B può andare in loop sui task Cline (ri-leggendo file senza progredire). Soluzione: usa il modello Ollama community mychen76/qwen2.5_cline_roocode:32b con un system prompt personalizzato che applica il formato XML rigoroso <tool><param>valore</param></tool>, esattamente uno strumento per turno. O aggiorna a Qwen3-Coder.
Stesso avvertimento di Cline. Il prompt personalizzato mychen76/qwen2.5_cline_roocode:32b si rivolge esplicitamente sia a Cline che a Roo Code. La modalità Architect tende ad essere più tollerante rispetto alla modalità Code perché scarica il passaggio di pianificazione.
Framework agent nativo Qwen con template tool-call integrato per Qwen2.5. Include function calling, MCP, interprete di codice, RAG. Il percorso più supportato per il tool calling sul vanilla Qwen2.5-Coder 32B poiché usa il chat template ufficiale.
Funziona ma sottoperforma vs Qwen3-Coder 30B-A3B su SWE-bench. Qwen2.5-Coder non è stato addestrato con RL su loop agentici come Qwen3-Coder. Usalo solo se Qwen2.5-Coder 32B è l'unico modello che puoi eseguire sulla GPU da 24GB disponibile.
Disponibile via OpenRouter o API cloud ma non via endpoint locale personalizzato. Cursor instrada attraverso il suo backend, rompendo l'argomento di data-locality che rende Qwen2.5-Coder 32B attraente in primo luogo. Cline è la scelta Pineido migliore.
Dove questo modello + stack agent porta lavoro reale.
Modello specializzato nel codice.
RAG, MCP, interprete di codice integrati. Lo stack di ricerca migliore per Qwen2.5-Coder 32B perché l'allineamento del chat template è esatto: pip install -U qwen-agent[gui,rag,code_interpreter,mcp].
RAG consapevole del codice sulla documentazione del repository. Workspace per progetto. La modalità @agent è utilizzabile per domande di ricerca sul codice sul tuo codebase privato più i documenti SDK.
UI di chat predefinita. Funziona per Q&A ad-hoc sul codice e ricerca nella documentazione. Il caricamento documenti copre manuali PDF SDK, RFC e documentazione librerie.
Utilizzabile per ricerca adiacente al codice (confronti di librerie, benchmark di framework). Per ricerca puramente non-codice un modello generale è una scelta migliore. L'override OPENAI_BASE_URL funziona.
Migliore abbinamento di retrieval per RAG codice-e-documentazione. Il tree summarizer e il tracking delle citazioni di LlamaIndex gestiscono bene i documenti SDK. Abbina a un layer di orchestrazione Qwen-Agent o LangGraph sopra.
Orchestrazione in produzione. Utile quando vuoi un workflow di ricerca-codice multi-step (analizza stack trace, cerca documentazione, bozza la soluzione). Le quirk del tool-call di Qwen2.5-Coder significano che potresti aver bisogno di logica di retry esplicita nel grafo.
Crew sequenziali. Utile per coppie ricerca-e-scrittura (il ricercatore legge la documentazione, lo scrittore redige un architecture decision record). Più veloce da dimostrare rispetto a LangGraph.
Dove questo modello + stack agent di ricerca produce report che il tuo team usa davvero.
Scegli il framework in base alla forma del workflow.
Framework Qwen nativo. Migliore allineamento tool-call per Qwen2.5-Coder 32B.
Orchestrazione in produzione con logica di retry esplicita per le quirk del tool-call.
Crew sequenziali ricerca-e-scrittura.
Compilazione prompt. Utile per ottimizzare i prompt tool-call di Qwen2.5-Coder.
Agent di generazione codice type-safe.
Retrieval su codice più documentazione.
Tre profili di acquirente dove questo modello è la risposta giusta.
Task: Autocomplete IDE, code review, refactoring, strumenti interni. Risultato: Sostituisce le licenze Copilot o Cursor da $24-40 per posto al mese. Una singola RTX 5090 serve tutto il team. ROI in 3 mesi. Il codice non lascia mai l'azienda.
Task: Generazione codice su sistemi di trading privati e algoritmi proprietari. Risultato: Apache 2.0 più deployment on-prem supera la revisione SOC 2 senza problemi. Nessuna exfiltration di snippet di codice verso API di terze parti. Fine-tunabile sul codebase proprietario.
Task: Code review e generazione su software soggetto a controllo delle esportazioni. Risultato: Il deployment air-gapped soddisfa l'ITAR. Q5_K_M su una singola workstation per ingegnere. Nessuna API di terze parti tocca il codebase.
Dove vince questo modello, dove perde.
Qwen2.5-Coder 32B batte Llama 3.3 70B su ogni benchmark di codice di 3-8 punti, e gira su hardware un terzo del costo. Llama 3.3 70B vince sul ragionamento generale e sui task non-codice. Usa Qwen2.5-Coder per il codice, Llama 3.3 per tutto il resto, o eseguili entrambi.
Qwen2.5-Coder 32B eguaglia GPT-4o su HumanEval e MBPP, comparabile su Aider. GPT-4o vince sul ragionamento più difficile. Per il 90% del lavoro di sviluppo (autocomplete, refactor, scrivi test, revisione PR) il divario è invisibile.
Qwen2.5-Coder 32B batte DeepSeek-Coder V2 su EvalPlus, il benchmark di codice più resistente alla saturazione. Qwen2.5-Coder vince anche sulla semplicità di serving denso vs MoE (singolo 32B vs complessità MoE di DSCv2).
Giorno 4 Ollama o vLLM serve Qwen2.5-Coder 32B Instruct su una singola GPU da 24GB.
Ollama esegue qwen2.5-coder:32b a Q4_K_M (~22GB su una GPU da 24GB). Per throughput maggiore, vLLM serve Qwen2.5-Coder-32B-Instruct con --tensor-parallel-size 1 --max-model-len 32768. La finestra completa da 128K richiede più margine VRAM.
Scegliamo il percorso agent. Il vanilla Qwen2.5-Coder funziona per Aider e Continue.dev. Per Cline o Roo Code, installiamo mychen76/qwen2.5_cline_roocode:32b con il system prompt XML-tool personalizzato, o raccomandiamo all'acquirente di aggiornare a Qwen3-Coder 30B-A3B.
Aider via --openai-api-base, Continue.dev via config.yaml provider: openai o vllm. Tab autocomplete abilitato in Continue.
Open WebUI più AnythingLLM attivi. RAG consapevole del codice sul repo più documenti SDK.
Qwen-Agent installato (pip install -U qwen-agent[gui,rag,code_interpreter,mcp]). Server MCP collegati per filesystem e GitHub.
Workflow LangGraph per pipeline ricerca-codice-e-scrittura. Logica di retry esplicita sui nodi tool-call date le quirk del formato strumenti del modello.
Evidence pack con riproduzione del punteggio Aider, numeri di throughput, inventario agent e una raccomandazione scritta su se aggiornare a Qwen3-Coder.
Prezzo fisso.
Benchmark sul tuo codebase reale. Scegli Q4_K_M o Q5_K_M in base alla VRAM. Verifica che la copertura dei linguaggi corrisponda al tuo stack (92 linguaggi, ma la qualità varia).
Servi via vLLM (RTX 5090 o Pro 6000) o Ollama (Mac, singola workstation dev). Collega endpoint compatibile OpenAI. Connetti al plugin IDE Continue.dev o Cline.
Opzionale: fine-tuning sul codebase privato con QLoRA. Ricerca embedding via BGE-M3 sul tuo repo. RBAC, audit logging, regola firewall no-egress.
Pen-test superato. NOTICE Apache 2.0 registrato. Cutover. Sostituzione dei posti Copilot/Cursor.
Sì. Apache 2.0, nessun limite MAU, nessuna attribuzione nel prodotto, nessuna restrizione commerciale. Puoi fare fine-tuning sul tuo codebase, ridistribuire i pesi fine-tunati e incorporare in prodotti commerciali. Mantieni il file NOTICE nelle distribuzioni sorgente e sei a posto.
Mac Mini M4 Pro 24GB a $1.599 esegue Q4_K_M out-of-the-box con Ollama, circa 14-18 token al secondo di decode. Va bene per l'autocomplete IDE di uno sviluppatore. RTX 4090 raggiunge 42 token al secondo allo stesso livello di quant per circa lo stesso prezzo. RTX 5090 alza questo a 55-70 con margine per Q5 o Q6.
Per autocomplete, refactor e code review sulla maggior parte degli stack, sì. HumanEval 92.7 è di classe GPT-4o. Il divario si vede sul ragionamento più difficile e sui linguaggi di nicchia. La maggior parte dei team trova che Qwen2.5-Coder più un buon plugin IDE (Continue, Cline) copre il 90% dei casi d'uso di Copilot a costo zero per posto.
I modelli base Qwen3 esistono, la famiglia Qwen3-Coder segue la stessa cadenza di rilascio. Se hai uno stack funzionante, Qwen2.5-Coder 32B è maturo, supportato dall'ecosistema e fa benchmark ben al di sopra di qualsiasi modello che girava su $2K di hardware un anno fa. Migra quando Qwen3-Coder arriva e mostra un vero delta di benchmark. Non aspettare per iniziare.
Con avvertenze. Il vanilla Qwen2.5-Coder 32B ha un problema noto dove Cline va in loop sui task multi-turno (issue Cline #1429), rileggendo file senza progredire. Due soluzioni funzionano. Prima, installa la variante Ollama community mychen76/qwen2.5_cline_roocode:32b con un prompt XML-style personalizzato. Seconda, aggiorna a Qwen3-Coder 30B-A3B che è stato addestrato con RL per i loop agent in stile Cline. Pineido testa entrambi durante lo sprint e consiglia Qwen3-Coder per gli acquirenti il cui caso d'uso principale sono i loop agent autonomi. Qwen2.5-Coder rimane eccellente per i workflow di modifica esplicita in stile Aider.
73,7% sul benchmark di riparazione codice di Aider per il blog ufficiale di QwenLM. Comparabile a GPT-4o. Il pattern diff-edit di Aider non innesca le quirk del tool-call che colpiscono Cline, quindi Qwen2.5-Coder 32B è genuinamente utilizzabile per i refactoring multi-file guidati da Aider. Esegui aider --openai-api-base http://your-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct.
32,5B denso (31,0B non-embedding) Parametri
Prezzo fisso.
Al Giorno 1 vedi il modello esatto, l'hardware esatto, lo stack agent esatto, i costi esatti e la postura di conformità esatta.
DiKostadin StambolievFondatore e Imaginator
Pineido, con sede a Strumica, North Macedonia, è una società di software che realizza siti web, negozi online, app web e mobile, automazione dei processi e IA per aziende locali ed estere. Il lavoro viene consegnato in sprint di 30 giorni a prezzo fisso, e il codice è del cliente.
Pubblicato Aggiornato