Qwen2.5-Coder 32B を自社ハードウェアにセットアップ、 エージェントスタックを14日間でプロダクション品質に

Qwen2.5-Coder 32B は、すべての公開コーディングベンチマークで GPT-4o 階層内に入ったオープンウェイトコードモデルです。2024年11月11日に Apache 2.0 でリリースされ、92 のプログラミング言語にわたる 5.5 兆トークンでトレーニングされています。

  • 14日間プロダクション移行
  • コーディング + リサーチエージェントスタック含む
  • 32.5B dense (31.0B non-embedding) パラメータ数
  • 128K tokens コンテキストウィンドウ
  • 14 d プロダクション移行

Qwen2.5-Coder 32B の概要

モデルとハードウェアを選ぶ際に重要なスペックです。

パラメータ数

32.5B dense(31.0B non-embedding)

コンテキストウィンドウ

128K tokens

ライセンス

Apache 2.0

リリース

2024年11月11日

トレーニングデータ

5.5T トークン、92 のプログラミング言語

HumanEval

92.7

MBPP

90.2

Aider(コード修復)

73.7

最小 VRAM(Q4_K_M)

19GB

最小 VRAM(Q5_K_M)

22GB

最小 VRAM(Q8_0)

34GB

RTX 4090 Q4 でのトークン/秒

42

RTX 5090 Q4 でのトークン/秒

55〜70

M3 Max Q4 でのトークン/秒

18

Qwen2.5-Coder 32B をプロダクションで動かすハードウェア

3つの階層、実際の SKU、実際のスループット数値。

  1. エントリー: Mac Mini M4 Pro 24GB($1,599)または RTX 4090($1,800)で Q4_K_M

    スループット: 毎秒 18〜42 トークン。最適用途: 個人開発者、小規模チーム、IDE 自動補完、コードレビュー。

  2. ミドル: RTX 5090 32GB($2,500)または 2x RTX 4090($3,600)

    スループット: 毎秒 55〜90 トークン。最適用途: 5〜15 名のエンジニアチーム、共有自動補完用 vLLM 提供、Q5/Q6 品質、コード生成サーバー。

  3. エンタープライズ: RTX Pro 6000 Blackwell 96GB($10〜14K)または A100/H100

    スループット: 毎秒 120〜200 トークン。最適用途: 30名以上のエンジニア組織、マルチテナントコードプラットフォーム、ファインチューニングループ、内部 Copilot 代替。

立ち上げ後にクライアントが言ったこと

決定がなされたときに部屋にいた人々からのフィードバック。

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Crew scheduling was a nightmare. Guys would show up at the wrong site or not at all. The automated dispatch board fixed that in week two.
Tom, Landscaping OwnerAtlanta
Three drivers called out on the same morning. The system reassigned every route before I finished my coffee. That used to take two hours of phone calls.
James, Fleet ManagerDallas

このモデルの量子化選択

GGUF、AWQ、FP8、INT4。

推奨量子化

シングルユーザーとコンシューマー GPU には Q4_K_M。VRAM が許す場合(RTX 5090 以上)は Q5_K_M または Q6_K でコード品質が向上。vLLM 提供には AWQ INT4。フリートを運用する場合のみ H100 での FP8。

トレードオフ

コードモデルは長文生成の量子化に敏感です。Q4 は IDE 自動補完と編集タスクには問題ありません。Q5_K_M と Q6_K はゼロから関数を書いたりマルチファイルリファクタリングで明らかに優れています。Q8_0 は RTX 4090 でオフロードが必要(~34GB)で、スループットが毎秒 42 から 22 トークンに低下します。

GGUF Q4_K_M

ファイルサイズ: 19GB。

GGUF Q5_K_M

ファイルサイズ: 22GB。

GGUF Q8_0

ファイルサイズ: 34GB。

AWQ INT4

ファイルサイズ: 18GB。

Qwen2.5-Coder 32B に接続するコーディングエージェント

2026 年で最良の「バジェット」エージェントコーダー: HumanEval で GPT-4o と同等、単一の RTX 4090 で Q4_K_M 動作。

Aider

最適。Aider の差分編集フォーマットは攻撃的なマルチターンツールループに依存しないため、Qwen2.5-Coder 32B のツール呼び出しの癖が問題になりません。Aider コード修復ベンチマークで 73.7%、GPT-4o と同等。aider --openai-api-base http://your-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct を実行。

Continue.dev

適合度が高い。provider: openai または vllm、apiBase をエンドポイントに設定した config.yaml。単一の RTX 4090 で Q4_K_M でのタブ自動補完が動作します。自動補完と編集ロールとして使用してください。レイテンシーが重要な場合はインライン補完に小型で高速なモデルを組み合わせてください。

Cline(回避策あり)

バニラの Qwen2.5-Coder 32B は Cline タスクでループすることがあります(進捗なしにファイルを再読み込み)。回避策: 厳格な <tool><param>value</param></tool> XML 形式を適用し、ターンあたり 1 つのツールのみを指定したカスタムシステムプロンプトを持つ mychen76/qwen2.5_cline_roocode:32b コミュニティ Ollama モデルを使用するか、Qwen3-Coder にアップグレード。

Roo Code(回避策あり)

Cline と同じ注意点。mychen76/qwen2.5_cline_roocode:32b カスタムプロンプトは Cline と Roo Code の両方を明示的にターゲットにしています。Architect モードは計画ステップをオフロードするため Code モードより寛容な傾向があります。

Qwen-Agent

Qwen2.5 向けの組み込みツール呼び出しテンプレートを持つネイティブ Qwen エージェントフレームワーク。関数呼び出し、MCP、コードインタープリター、RAG がバンドル。公式チャットテンプレートを使用するため、バニラの Qwen2.5-Coder 32B でのツール呼び出しに最も適したパス。

OpenHands(制限あり)

動作しますが SWE-bench では Qwen3-Coder 30B-A3B より性能が低い。Qwen2.5-Coder は Qwen3-Coder のようにエージェントループの RL トレーニングを受けていません。利用可能な 24GB GPU でこのモデルだけを実行できる場合のみ使用してください。

Cursor(クラウドのみ)

OpenRouter またはクラウド API 経由で利用可能ですが、カスタムローカルエンドポイント経由では利用できません。Cursor はバックエンドを通じてルーティングするため、Qwen2.5-Coder 32B を魅力的にするデータローカリティの主張が崩れます。Pineido では Cline をより良い選択肢として推奨します。

コーディングエージェントのユースケース

このモデル + エージェントスタックが実際の成果を出す場面。

Qwen2.5-Coder 32B に展開するリサーチエージェント

コード特化モデル。

Qwen-Agent

RAG、MCP、コードインタープリターが組み込まれています。チャットテンプレートのアライメントが正確であるため、Qwen2.5-Coder 32B に最適なリサーチスタックです。pip install -U qwen-agent[gui,rag,code_interpreter,mcp]。

AnythingLLM

リポジトリドキュメント上のコード対応 RAG。プロジェクトごとのワークスペース。プライベートコードベースと SDK ドキュメントに関するコードリサーチの質問に @agent モードが使用可能。

Open WebUI

デフォルトチャット UI。アドホックなコード Q&A とドキュメント検索に機能します。ドキュメントアップロードは PDF SDK マニュアル、RFC、ライブラリドキュメントをカバー。

GPT Researcher

コード隣接リサーチ(ライブラリ比較、フレームワークベンチマーク)に使用可能。純粋な非コードリサーチには汎用モデルがより良い選択肢。OPENAI_BASE_URL 上書きが機能します。

LlamaIndex

コードとドキュメントの RAG に最適なリトリーバルペアリング。LlamaIndex のツリーサマライザーと引用追跡は SDK ドキュメントをうまく処理します。上位に Qwen-Agent または LangGraph オーケストレーション層を組み合わせてください。

LangGraph

プロダクションオーケストレーション。マルチステップコードリサーチワークフロー(スタックトレースの解析、ドキュメント検索、修正案の作成)に便利。Qwen2.5-Coder のツール呼び出しの癖により、グラフに明示的なリトライロジックが必要な場合があります。

CrewAI

連続クルー。リサーチと執筆のペア(リサーチャーがドキュメントを読み、ライターがアーキテクチャ決定レコードを作成)に便利。LangGraph より高速にデモできます。

リサーチエージェントのユースケース

このモデル + リサーチエージェントスタックがチームに実際に役立つレポートを提供する場面。

プロダクションエージェントワークフロー向けフレームワーク

ワークフローの形状でフレームワークを選択してください。

Qwen-Agent

ネイティブ Qwen フレームワーク。Qwen2.5-Coder 32B に最適なツール呼び出しアライメント。

LangGraph

ツール呼び出しの癖に対する明示的なリトライロジックを含むプロダクションオーケストレーション。

DSPy

プロンプトコンパイル。Qwen2.5-Coder のツール呼び出しプロンプトの強化に便利。

Qwen2.5-Coder 32B を選ぶ組織

このモデルが正解となる3つのバイヤープロファイル。

  1. ソフトウェア会社、エンジニア 12 名

    タスク: IDE 自動補完、コードレビュー、リファクタリング、内部ツール。成果: 座席あたり月 $24〜40 の Copilot または Cursor ライセンスを置き換え。単一の RTX 5090 でチーム全体にサービス。3 ヶ月で ROI。コードが社外に出ない。

  2. フィンテック、SOC 2 下のエンジニア 25 名

    タスク: プライベートトレーディングシステムと独自アルゴリズムに対するコード生成。成果: Apache 2.0 + オンプレミスデプロイが SOC 2 審査をクリーンに通過。サードパーティ API へのコードスニペット漏洩なし。独自コードベースでファインチューニング可能。

  3. 防衛請負業者、ITAR 範囲のエンジニア 8 名

    タスク: 輸出規制ソフトウェアのコードレビューと生成。成果: エアギャップデプロイが ITAR を満たす。エンジニアごとに単一ワークステーションで Q5_K_M。サードパーティ API がコードベースに触れない。

Qwen2.5-Coder 32B vs 最も近い競合

このモデルが勝つ場面、負ける場面。

vs Llama 3.3 70B

Qwen2.5-Coder 32B は Llama 3.3 70B をすべてのコードベンチマークで 3〜8 ポイント上回り、3 分の 1 のコストのハードウェアで動作します。Llama 3.3 70B は汎用推論と非コードタスクで優位。コードには Qwen2.5-Coder、それ以外には Llama 3.3 を使用するか、両方実行してください。

vs GPT-4o

Qwen2.5-Coder 32B は HumanEval と MBPP で GPT-4o と同等、Aider でも同程度。GPT-4o は最難関の推論で優位。開発業務の 90%(自動補完、リファクタリング、テスト作成、PR レビュー)ではその差は見えません。

vs DeepSeek-Coder V2

Qwen2.5-Coder 32B は最も飽和しにくいコードベンチマークである EvalPlus で DeepSeek-Coder V2 を上回ります。Qwen2.5-Coder はデンス対 MoE の提供シンプルさでも優位(単一 32B 対 DSCv2 の MoE 複雑性)。

Pineido による Qwen2.5-Coder 32B エージェントセットアップ方法

4日目に Ollama または vLLM が単一の 24GB GPU で Qwen2.5-Coder 32B Instruct を提供。

4日目

Ollama が qwen2.5-coder:32b を Q4_K_M(24GB GPU で ~22GB)で実行。より高いスループットには vLLM が --tensor-parallel-size 1 --max-model-len 32768 で Qwen2.5-Coder-32B-Instruct を提供。128K フルウィンドウにはより多くの VRAM ヘッドルームが必要。

5日目

エージェントパスを選択。バニラの Qwen2.5-Coder は Aider と Continue.dev で動作。Cline または Roo Code には、カスタム XML ツールシステムプロンプトを持つ mychen76/qwen2.5_cline_roocode:32b をインストールするか、バイヤーに Qwen3-Coder 30B-A3B へのアップグレードを推奨。

6日目

--openai-api-base で Aider、config.yaml provider: openai または vllm で Continue.dev。Continue でタブ自動補完を有効化。

8日目

Open WebUI と AnythingLLM を稼働。リポジトリと SDK ドキュメント上のコード対応 RAG。

10日目

Qwen-Agent をインストール(pip install -U qwen-agent[gui,rag,code_interpreter,mcp])。ファイルシステムと GitHub 用の MCP サーバーを接続。

12日目

コードリサーチと執筆パイプライン用の LangGraph ワークフロー。モデルのツールフォーマットの癖を考慮したツール呼び出しノードの明示的なリトライロジック。

14日目

Aider スコアの再現、スループット数値、エージェントインベントリ、Qwen3-Coder へのアップグレードを推奨するかどうかの書面勧告を含むエビデンスパックを納品。

Qwen2.5-Coder 32B の14日間デプロイ方法

固定料金。

1日目

実際のコードベースでベンチマーク。VRAM に基づいて Q4_K_M または Q5_K_M を選択。自社スタックに言語カバレッジが合っているか確認(92 言語ですが品質は異なります)。

4日目

vLLM(RTX 5090 または Pro 6000)または Ollama(Mac、単一開発ワークステーション)で提供。OpenAI 互換エンドポイントを接続。Continue.dev または Cline IDE プラグインに接続。

9日目

オプション: QLoRA でプライベートコードベースでファインチューニング。リポジトリ上で BGE-M3 による埋め込み検索。RBAC、監査ログ、エグレスなしファイアウォールルール。

14日目

ペンテスト完了。Apache 2.0 NOTICE ファイル記入。移行完了。Copilot/Cursor の座席を置き換え。

当社が合うかどうかを決める質問

Qwen2.5-Coder 32B を商用製品に組み込んで出荷できますか?

はい。Apache 2.0、MAU 上限なし、製品内帰属表記なし、商用制限なし。コードベースでファインチューニングし、ファインチューニングされたウェイトを再配布し、商用製品に組み込むことができます。ソース配布物に NOTICE ファイルを保持すれば問題ありません。

作業中の開発者向けに Qwen2.5-Coder 32B を動かす最安のハードウェアは何ですか?

$1,599 の Mac Mini M4 Pro 24GB は Ollama を使用した Q4_K_M をすぐに実行し、デコード毎秒約 14〜18 トークン。1 名の開発者の IDE 自動補完には問題ありません。RTX 4090 は同じ量子化レベルで同程度の価格で毎秒 42 トークンを達成。RTX 5090 はそれを 55〜70 に引き上げ、Q5 または Q6 のヘッドルームあり。

Qwen2.5-Coder 32B は GitHub Copilot または Cursor を置き換えられますか?

ほとんどのスタックでの自動補完、リファクタリング、コードレビューについては、はい。HumanEval 92.7 は GPT-4o クラス。最難関の推論とニッチな言語では差が出ます。多くのチームが Qwen2.5-Coder と良い IDE プラグイン(Continue、Cline)で Copilot ユースケースの 90% を座席あたりゼロのコストでカバーできることを発見しています。

Qwen3-Coder を待つべきですか?

Qwen3 ベースモデルは存在し、Qwen3-Coder ファミリーは同じリリースサイクルに従います。動作するスタックがある場合、Qwen2.5-Coder 32B は成熟しており、エコシステムでサポートされており、1 年前には $2K のハードウェアで動作したどのモデルよりも大幅に優れたベンチマークを持っています。Qwen3-Coder がリリースされて実際のベンチマークデルタが示されたら移行してください。始めるのを待たないでください。

Qwen2.5-Coder 32B は Cline で動作しますか?

注意点があります。バニラの Qwen2.5-Coder 32B は Cline のマルチターンタスクでループする既知の問題があります(Cline issue #1429)。進捗なしにファイルを再読み込みします。2 つの修正が機能します。まず、カスタム XML スタイルのツールプロンプトを持つ mychen76/qwen2.5_cline_roocode:32b コミュニティ Ollama バリアントをインストール。次に、Cline スタイルのエージェントループのために RL トレーニングされた Qwen3-Coder 30B-A3B にアップグレード。Pineido はスプリント中に両方をテストし、主なユースケースが自律エージェントループのバイヤーには Qwen3-Coder を推奨します。Qwen2.5-Coder は Aider スタイルの明示的編集ワークフローに引き続き優れています。

Qwen2.5-Coder 32B の Aider スコアは何ですか?

QwenLM の公式ブログによると、Aider コード修復ベンチマークで 73.7%。GPT-4o と同等。Aider の差分編集パターンは Cline を悩ませるツール呼び出しの癖をトリガーしないため、Qwen2.5-Coder 32B は Aider 主導のマルチファイルリファクタリングに本当に使えます。aider --openai-api-base http://your-vllm:8000/v1 --model openai/Qwen2.5-Coder-32B-Instruct を実行。

32.5B dense (31.0B non-embedding) パラメータ数

30分のスコーピングコールをご予約ください。Qwen2.5-Coder 32B とエージェントスタックが最適かどうか、ご契約前にお伝えします。

固定料金。

1 日目に正確なモデル、ハードウェア、エージェントスタック、コスト計算、コンプライアンス姿勢をご確認いただけます。

あなたが手にするもの

  1. 0日目(今週): 30分スコーピングコール。ハードウェアショートリスト、モデル選択、エージェントスタック提案、コスト試算を金曜日までにお届け
  2. 1日目: 実際のコードベースでベンチマーク。VRAM に基づいて Q4_K_M または Q5_K_M を選択。自社スタックに言語カバレッジが合っているか確認(92 言語ですが品質は異なります)。

著者創業者・Imaginator

Pineido, 拠点: Strumica, North Macedonia, は、国内外の企業向けにウェブサイト、オンラインショップ、ウェブ・モバイルアプリ、業務の自動化、AI を開発するソフトウェア会社です。30 日間のスプリントを固定価格で納品し、コードはお客様のものになります。

公開日 更新日