DeepSeek Coder V2を自社ハードウェア上にセットアップ、 エージェントスタックを14日間でプロダクション品質に

DeepSeek Coder V2は、実環境のベンチマークでGPT-4 Turboを本格的に脅かした初のオープンウェイトのコーディングモデルでした。HumanEval 90.2、MBPP+ 76.2、LiveCodeBench 43.4、そして画期的な数字であるSWE-Bench 12.7、これは二桁を超えた初のオープンモデルです。

  • 14日で本番切り替え
  • コーディング+リサーチのエージェントスタック込み
  • 236 B合計 / 21Bアクティブ (MoE) パラメータ
  • 128K tokens コンテキストウィンドウ
  • 14 d プロダクション切替

DeepSeek Coder V2 一目で分かる仕様

モデルとハードウェアを選ぶ際に重要な仕様。

パラメータ

236B合計、トークンごとに21Bアクティブ

Liteバリアント

16B合計、トークンごとに2.4Bアクティブ

コンテキストウィンドウ

128K tokens

アーキテクチャ

DeepSeekMoE + Multi-head Latent Attention (MLA)

対応言語

338のプログラミング言語

学習トークン

合計10.2T(うちコード+数学の継続事前学習に6T)

ライセンス

DeepSeek License Agreement(商用利用可)

FP16 VRAM(フル)

~472 GB

FP8 VRAM(フル)

~240 GB

リリース日

2024-06-17

DeepSeek Coder V2をプロダクションで動かすハードウェア

3つの階層、実在のSKU、実測のスループット数値。

  1. エントリー階層: DeepSeek Coder V2 Lite (16B / 2.4Bアクティブ) を単一のRTX 4090 24GB上でQ4

    スループット: Liteで60~120 tok/s。最適: 個人開発者、IDE自動補完、ローカルのコード補完サーバー。

  2. 中位階層: Full 236BをINT4で4x A100 80GBまたは4x H100 80GB上に

    スループット: 単一ストリーム30~60 tok/s、バッチで200+ tok/s。最適: チーム全体のセルフホストCopilot代替、コードレビューボット、社内コーディングエージェント。

  3. エンタープライズ階層: 8x H100 SXMをFP8で、または8x H200をBF16で単一ノード

    スループット: 単一ストリーム100~200 tok/s、バッチで1000+ tok/s。最適: マルチテナントのコードAPI、Cursorクラスの製品ホスティング、エンタープライズSWE-agentプラットフォーム。

このモデルの量子化の選択

GGUF、AWQ、FP8、INT4。

推奨量子化

Full 236BはH100/H200上でFP8。Lite 16BはシングルGPUにQ4_K_M。フルモデルは4GPUデプロイ向けにINT4 (AWQ)。

トレードオフ

MoEアーキテクチャは密モデルより量子化に敏感です。FP8は実質的に無損失。INT4 AWQはHumanEvalとMBPPで1~3ポイント低下。INT4を下回ると、マルチ言語コードでモデルが急激に劣化します。

BF16 (full 236B)

約472GBの重み。8x 80GBノード(H100またはA100)が必要。無損失のリファレンス品質、メモリコストは最大。

FP8 (full 236B)

約240GBの重み。SGLangまたはvLLM経由でFP8 KVキャッシュを用い、8x H100 80GBノードに収まる。コードベンチマークでは実質的に無損失。

INT4 AWQ (full 236B)

約120GBの重み。4x 80GB GPUを対象。FP8と比べてHumanEvalとMBPPで1~3ポイント低下。

Q4_K_M (Lite 16B)

約10.4GBのGGUF、KVキャッシュを含めて約9~11GBのVRAM。単一のRTX 4090または5090で、32Kコンテキスト向けに余裕あり。

立ち上げ後にクライアントが言ったこと

決定がなされたときに部屋にいた人々からのフィードバック。

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
Crew scheduling was a nightmare. Guys would show up at the wrong site or not at all. The automated dispatch board fixed that in week two.
Tom, Landscaping OwnerAtlanta
Our food cost was a mystery until they wired the POS to the inventory system. Now I know the actual margin on every plate before the week ends.
Miguel, Restaurant OwnerMiami

DeepSeek Coder V2に接続するコーディングエージェント

DeepSeek Coder V2 236B(21Bアクティブ、MoE)はリリース時点でオープンウェイトのコーディング旗艦であり、SWE-AgentおよびOpenHandsのスキャフォールディングと組み合わせた際に、SWE-Benchで二桁を超えた初のオープンモデルでした。

Aider

最上位のdiff-apply成功率。Aiderはオリジナルのpythonベンチマークで73.7%、V2はAider Polyglotで約65%(リーダーボードで確認)。diff edit形式が安定して機能し、LlamaやCodestralより '適用失敗' エラーが少ない。

OpenHands

オープンウェイト群でSWE-bench Lite合格率が最高、約38~42%。DeepSeek-OpenHandsの組み合わせが、オリジナルのオープンソースSWE-benchブレークスルーを生みました。V2での自律的バグ修正のデフォルトスキャフォールディング。

Cline

DeepSeek APIまたはOllama Liteバリアント経由で強く適合。128KコンテキストがClineの冗長なシステムプロンプトとマルチファイルコンテキストを吸収します。クラウドAPIのトークンコストは主要ベンダー群で最安、キャッシュ入力$0.14/M。

Continue.dev

理想的なペア。Lite 16B(2.4Bアクティブ)は24GBのワークステーションカードで60+ tok/sで動作し、自動補完のレイテンシ予算を満たします。Full 236Bはchatと編集にAPI経由。標準のDeepSeek+Continue構成は、最も多くデプロイされているオープンウェイトスタックの一つです。

Cursor (BYOK)

CursorはBYOK構成でDeepSeekをカスタムモデルとして受け入れます。V2 Instructはchatと編集で機能します。Cursorの自社Composerは反復が速く、V2はタスクあたりコストで勝ります。

SWE-Agent

プリンストンの自律バグ修正スキャフォールディング。V2はSWE-benchで二桁を超えた初のオープンウェイトモデルであり、プリンストンチームのオープンウェイト基準実行の選択でした。

Roo Code

Clineのフォーク。V2はCodeモードの反復をうまく扱い、Architectモードはやや不向き(V2はコーディング調整型で広範な推論は弱い)。Architect=DeepSeek V3.2、Code=DeepSeek Coder V2を組み合わせると最もきれいな分担になります。

コーディングエージェントのユースケース

このモデル + エージェントスタックが実際の成果を生む場所。

DeepSeek Coder V2にデプロイするリサーチエージェント

適合度は低め。

GPT Researcher

ソースがGitHubリポジトリやAPIドキュメントである技術リサーチには使えます。純粋な文章リサーチ(法務ブリーフ、市場レポート)はV2のコーディングバイアスで品質が落ちます。代わりにDeepSeek V3またはV3.2にルーティングしてください。

Open Deep Research (HuggingFace)

技術専用リサーチ向けのニッチな適合:smolagentsフレームワークがループを引き締め、V2のコーディング強度がコード検索サブタスクに役立ちます。汎用リサーチには避けてください。

LangGraph deep-research

混在グラフではV2をコード分析ノードにのみ使ってください。合成と執筆のノードはDeepSeek V3.2かLlama 3.3 70Bにルーティングすべきです。

Pydantic AI

型付きコード抽出エージェントに強く適合。ソースファイルの読み取り、関数シグネチャの抽出、JSONスキーマの出力をV2はきれいに処理します。文章中心のリサーチ出力には適切ではありません。

LlamaIndex code-search

GitHubリポジトリの検索とコード質問応答。V2 + LlamaIndexはオープンウェイトのコードRAGのデフォルトです。論文やPDFのリサーチには汎用モデルを使ってください。

リサーチエージェントのユースケース

このモデル + リサーチエージェントスタックが、チームが実際に使うレポートを届ける場所。

プロダクションのエージェントワークフロー向けに導入するフレームワーク

ワークフローの形でフレームワークを選ぶこと。

誰がDeepSeek Coder V2を選ぶか

このモデルが正解となる3つの購入者プロファイル。

  1. エンジニアリング組織向けのセルフホストCopilot

    タスク: 50~500人の開発者にわたるIDE自動補完とchat。結果: Full 236BをFP8で4x H100に置くと多数の席で良く償却され、21BアクティブによりレイテンシはCodexと競合できる水準を保ちます。

  2. ロングテール言語のカバレッジ

    タスク: Rust、Zig、Elixir、OCaml、Solidityでのコード生成。結果: Qwenより狭いカバレッジに対し、338の対応言語がニッチなスタックでDeepSeek Coder V2に優位を与えます。

  3. SWE-agentバックエンド

    タスク: issue解決、PR生成、リポジトリレベルの推論。結果: SWE-Benchで10%を超えた初のオープンモデル(12.7%)であり、エージェント的コーディング製品の信頼できる基盤になります。

DeepSeek Coder V2 対 最も近いライバル

このモデルがどこで勝ち、どこで負けるか。

対 Qwen2.5-Coder 32B

Qwen 32Bは密で、単一の48GB GPUにBF16で収まり、HumanEvalで92.7(対90.2)、Apache 2.0です。DeepSeek Coder V2はMoEによる高バッチでのサービングコスト、ロングテール言語カバレッジ、SWE-Benchで勝ります。QwenはシングルGPUデプロイとライセンスの単純さで勝ります。

対 Codestral 22B

CodestralはFIM自動補完が速く256Kコンテキストを持ちますが、Mistral Non-Production Licenseは別途合意なしでは商用利用をブロックします。DeepSeek Coder V2の商用許容ライセンスとより強力な多段推論が、プロダクションチームでは勝ります。

対 DeepSeek Coder V2 Lite (16B / 2.4B)

Liteバリアントは単一の24GB GPUで動作し、ほとんどのチームに実用的な選択です。フル236Bは、SWE-Benchの優位やマルチテナント規模が必要なときにのみ、5倍のハードウェア出費に見合います。

PineidoがDeepSeek Coder V2上でエージェントをどう構築するか

2週間のスプリント。

  1. 1日目

    バリアント決定。ローカルのシングルGPU自動補完にはLite 16B、オーケストレーションにはDeepSeekクラウドAPI経由のフル236B。購入者がV2を特に求めているか、V3.2の方が適合かを確認します。

  2. 3日目

    24GB GPU上でOllama経由のローカルLiteデプロイ。Continue.devにLiteをtabAutocompleteModel、フル236Bをchatモデルとして接続。レイテンシのベースライン、トークンコストの予測。

  3. 6日目

    クライアントのコードベースに対するAider + OpenHands + Clineのテスト実行。diff-apply成功率、SWE-bench式タスク合格率、タスクあたりのトークン支出をすべて記録。

  4. 8日目

    エージェントフレームワークの接続。グラフワークフローにLangGraph、型付き抽出にPydantic AI。ネイティブツール呼び出しをテストし、スキーマ検証をロック。

  5. 11日目

    凍結したクライアントタスク上での評価ハーネス。diff-apply成功目標95%+、スキーマ適合99%、タスクあたり平均トークン予算を合意。

  6. 14日目

    プロダクション切替。SSO、監査ログ、開発者ごとのレート制限。DeepSeek APIキーのローテーションポリシー。製品ドキュメントにMITライセンスの帰属表示を同梱。

DeepSeek Coder V2を14日間でどうデプロイするか

固定料金。

1日目

Lite (16B) とFull (236B) の間で決定する。ほとんどのチームは、マルチGPUに踏み切る前に、1台のRTX 4090でLiteを使ってUXと品質を検証することから始めるべきです。

2~4日目

選んだモデルでvLLMを立ち上げる。Fullの場合は4~8基のGPUにテンソル並列を構成し、連続バッチングを有効化する。Liteならllama.cppかOllamaで十分です。

2週目

Continue.dev、Cline、または自社のIDEプラグインに接続する。自動補完用にFIMエンドポイント、説明用にchatエンドポイントを構成する。HumanEvalだけでなく、実際のコードベースでテストすること。

3~4週目

SWE-bench式のissue解決が必要ならエージェントハーネスを追加する。サンドボックス実行、リポジトリ上の検索、検証ループを重ねる。チームの実際のPRスループットに対してベンチマークすること。

236 B合計 / 21Bアクティブ (MoE) パラメータ

30分のスコーピング通話を予約してください。署名前に、DeepSeek Coder V2 + 私たちのエージェントスタックが正しい選択かどうかをお伝えします。

固定料金。

1日目に、正確なモデル、正確なハードウェア、正確なエージェントスタック、正確なコスト計算、正確なコンプライアンス態勢が見えます。

あなたが手にするもの

  1. 0日目(今週): 30分のスコーピング通話。ハードウェアの絞り込みリスト、モデルの選択、エージェントスタックの提案、コスト予測を金曜までに受信箱へ
  2. 1日目: Lite (16B) とFull (236B) の間で決定する。ほとんどのチームは、マルチGPUに踏み切る前に、1台のRTX 4090でLiteを使ってUXと品質を検証することから始めるべきです。

最初の打ち合わせで聞きたいこと

16B Liteとフル236Bのどちらを動かすべきか?

ほぼ全員にLite。1台の民生GPUで動作し、HumanEvalで81を達成し、同等ハードウェアでフルモデルよりトークンあたり高速です。フル236Bを選ぶのは、SWE-Benchの差が特に必要な場合か、数百席で償却する場合のみです。

商用利用できますか?

はい。DeepSeek License Agreementは、ホステッドサービスを含む商用利用を許可します。いくつかのユースケース制限(軍事、違法コンテンツ)は含みますが、MAU上限やロイヤルティはありません。ほとんどのプロダクションデプロイは対象内です。

なぜQwen2.5-CoderではなくDeepSeekを選ぶのか?

3つの理由。1つ、高バッチでのMoEサービング経済性。2つ、より広い言語カバレッジ(338対Qwenのより狭い集合)。3つ、エージェント的ワークフロー向けのより強いSWE-Bench数値。これらのどれも重要でなければ、Qwen2.5-Coder 32Bがよりシンプルで同等に強い選択です。

128Kコンテキストはリポジトリ全体の推論に使えますか?

おおむね。リコールは64Kまでは堅牢ですが、128Kのロングテールで劣化します。リポジトリレベルのタスクでは、生の詰め込みではなく、128Kコンテキストとコード埋め込みインデックス上の検索を組み合わせてください。

コーディングエージェントにはDeepSeek Coder V2とDeepSeek V3.2のどちらをデプロイすべきか?

V2が必須要件でない限りV3.2。DeepSeek V3.2-ExpはAider Polyglotで74.5%、SWE-bench Verifiedで67.8%を、GPT-5のごく一部のコストで達成します。V2は同じAiderベンチマークで約65%です。V3.2は指示追従でも強く、これはV2の著者がSWE-benchの主要ボトルネックとして指摘した差です。V2を選ぶのは、購入者が8x H100ノードでのセルフホストに21BアクティブパラメータのMoE形状を特に必要とする場合、またはコスト分析がV2のAPI価格帯を特に対象とする場合のみです。

DeepSeek Coder V2 Lite (16B) は24GB GPUでローカルのコーディングエージェントを動かせますか?

はい、これは小規模チームの正しい構成です。Liteは総計16Bパラメータで、トークンごとに2.4Bアクティブです。Q4_K_Mでは、単一のRTX 4090またはRTX 5090上で毎秒60~90トークンのデコードで動作します。Continue.dev + Liteは、個人開発者や2~5人のコンサルティング向けの標準的なペアプログラミング構成です。21Bアクティブが2.4Bアクティブを上回るオーケストレーションタスクには、DeepSeekクラウドAPI経由でフル236Bを使ってください。

著者創業者・Imaginator

Pineido, 拠点: Strumica, North Macedonia, は、国内外の企業向けにウェブサイト、オンラインショップ、ウェブ・モバイルアプリ、業務の自動化、AI を開発するソフトウェア会社です。30 日間のスプリントを固定価格で納品し、コードはお客様のものになります。

公開日 更新日