Mistral Large 3 を自社ハードウェアにセットアップ、 エージェントスタックを14日間でプロダクション品質に

Mistral Large 3 は2026年において西側ラボ最強のオープンウェイトモデルです。2025年12月2日にApache 2.0でリリースされ、6,750億パラメータの細粒度MoEとして提供され、トークンあたり410億がアクティブ、さらに25億パラメータの視覚エンコーダ、256Kコンテキストを備えます。

  • 14日間プロダクション移行
  • コーディング + リサーチエージェントスタック含む
  • 675B total, 41B active per token (MoE), 2.5B vision encoder パラメータ数
  • 256K tokens コンテキストウィンドウ
  • 14 d プロダクション移行

Mistral Large 3 の概要

モデルとハードウェアを選ぶ際に重要なスペックです。

パラメータ数

675B total、41B active per token、2.5B vision encoder

アーキテクチャ

粒状 MoE、マルチモーダル(テキスト + ビジョン)

コンテキストウィンドウ

256K tokens

ライセンス

Apache 2.0

リリース

2025年12月2日

トレーニング計算量

3,000 NVIDIA H200 GPU

MMLU-Pro

73.1(独立評価)

MATH-500

93.6

出力速度(Artificial Analysis)

~38 tok/s

最小 VRAM(NVFP4)

~340GB、8x A100/H100/B200

最小 VRAM(FP8)

~675GB、8x H200 ノード

最小 VRAM(Q3_K_S)

244GB

Mistral Large 3 をプロダクションで動かすハードウェア

3つの階層、実際の SKU、実際のスループット数値。

エントリー: Ollama Q4 GGUF の 4x RTX 4090/5090

スループット:10-25トークン/秒。最適な用途:ラボおよびパイロット作業のみで、本番運用には不向き。中小企業には単一GPU上のMistral 3 14Bまたは8Bの兄弟モデルを使う方が良いです。

ミドル: NVFP4 の 8x A100 80GB または 8x H100($150〜200K)

スループット:60-120トークン/秒。最適な用途:20-50ユーザーの企業が最大64Kコンテキストで視覚とテキストを実行する場合。--tensor-parallel-size 4 と Mistral ツールパーサーを備えたvLLMを使用。A100/H100ではNVFP4はMarlin FP4フォールバック経由で動作します(メモリの節約はあるが、FP8に対する高速化はなし)。

エンタープライズ: 8x H200 SXM 141GB($250〜300K)または 8x B200($300K+)

スループット: 毎秒 150〜300 トークン。最適用途: 完全 256K コンテキストプロダクション、マルチテナントデプロイ、ビジョンを使用したエージェントワークフロー。

このモデルの量子化選択

GGUF、AWQ、FP8、INT4。

推奨量子化

NVFP4はH100またはA100上で64K未満のコンテキストの本番向け(テキストではほぼ無損失、メモリはFP8の半分、tensor-parallel-size 4)。FP8は8x H200ノードでのフル256Kコンテキスト向け、およびファインチューニングを計画する場合に使用。GGUF Q4はラボおよびオフラインバッチ作業のみ。

トレードオフ

NVFP4は主にテキストで較正されているため、視覚データセットでのわずかな性能低下と64Kコンテキストを超えた後の品質低下が見込まれ、まさにそこがFP8へ切り替える地点です。A100またはH100ではvLLMはMarlin FP4にフォールバックします。メモリの利点は維持されますがFP8に対する高速化はなく、ネイティブのNVFP4高速化パスを持つのはB200のみです。FP8はファインチューニングにおいてもより精密な選択です。GGUF Q4は動作しますが、コンシューマGPUではスループットが帯域幅に制約され、ツール呼び出しパーサーにはMistral固有の設定が必要です。25億の視覚エンコーダはLLMの量子化に関わらずFP16で動作します。

NVFP4

ファイルサイズ: ~340GB。

FP8

ファイルサイズ: ~675GB。

GGUF Q3_K_S

ファイルサイズ: 244GB。

GGUF Q4

ファイルサイズ: 370GB。

Mistral Large 3 に接続するコーディングエージェント

2025年12月2日にApache 2.0でリリース、410億アクティブ / 6,750億総MoE、256Kコンテキスト、ネイティブな関数呼び出しとJSON出力。

Mistral Vibe CLI

Mistral の公式エージェント CLI。npm install -g @mistralai/vibe-cli。Mistral ツール形式にネイティブ対応。Zed 拡張機能として利用可能。バイヤーがすでに Mistral のエンタープライズ階層を利用している場合に最もスムーズなファーストパーティ体験。

Cline

Mistral は Cline の第一級プロバイダーです。OpenAI Compatible 設定は vLLM エンドポイントで動作します。Cline は Devstral 2 のツール呼び出し信頼性を支持しており、Mistral Large 3 は同じチャットテンプレートを継承しています。Plan および Act モードが機能します。

Aider

Mistral Large 3 はネイティブに動作します。ホスト型には aider --model mistralai/mistral-large-3 --api-key $MISTRAL_API_KEY、セルフホスト型には --openai-api-base http://your-vllm:8000/v1。編集フォーマットは Python、TypeScript、Go でクリーンに適用されます。

Continue.dev

provider: mistral または openai(カスタム apiBase)を使用した config.yaml。マルチモーダルフラッグシップには capabilities: [tool_use, image_input] を宣言。chat ロールと edit ロールが機能します。autocomplete ロールには小型で高速なモデルを組み合わせてください。

Roo Code

Cline のフォーク。同じ OpenAI 互換設定。マルチモード(Code、Architect、Ask、Debug)が機能します。Mistral Large 3 の 256K コンテキストにより Architect モードの完全なリポジトリコンテキストプランが利用可能になります。

OpenHands

動作しますが Devstral 2 がリポジトリ自律処理に適した Mistral モデルです。1 つのモデルに統合デプロイする場合のみ Mistral Large 3 を使用してください。LLM_BASE_URL を vLLM に設定し、SWE-bench Verified 通過率 35〜45% を期待してください。

Mistral Code

Mistral のエンタープライズコーディングバンドル: IDE アシスタント、モデル、ローカルデプロイ、サポート。Mistral Large 3 と Devstral 2 とツールを組み合わせ。ベンダーサポート付きパッケージを求め、独自スタックを組み立てたくないバイヤー向け。

コーディングエージェントのユースケース

このモデル + エージェントスタックが実際の成果を出す場面。

Mistral Large 3 に展開するリサーチエージェント

256Kコンテキストは深いドキュメント統合を処理します。

GPT Researcher

標準的な OPENAI_BASE_URL 上書き。Mistral Large 3 の指示追従は強力で、GPT Researcher のプランと実行パターンはプロンプト調整なしで動作します。5〜10 ソースのレポートが 4〜7 分で完成します。

AnythingLLM

汎用 OpenAI プロバイダーが動作します。Mistral の parallel_tool_calls フラグにより @agent モードがターンあたり複数のツールを呼び出せるため、マルチツールリサーチワークフローが高速化されます。

Open WebUI

ドキュメントアップロード、Web 検索、関数呼び出しがすべて機能します。256K コンテキストはマルチドキュメントリサーチチャットで際立っています。高速ストリーミングには Mistral の EAGLE 投機的デコーディングを組み合わせてください。

LangGraph

プロダクションリサーチオーケストレーション。Mistral Large 3 の 256K コンテキストにより LangGraph はチェックポイント圧縮なしでより長いエージェント状態を保持できます。langchain-mistral または apiBase 上書きの langchain-openai 両方が動作します。

CrewAI

ロールベースクルー。Mistral Large 3 の強力な指示追従と並列ツール呼び出しが CrewAI の連続パターンに適しています。エージェント設定で llm を設定してください。

AutoGen / AG2

GroupChat が動作します。256K コンテキストは DeepSeek V3.2 の 128K より多くのディベート履歴を吸収できます。Mistral の低出力速度(~38 t/s)がマルチエージェントディベートのボトルネックです。

LlamaIndex

ハイブリッドスタック: LangGraph または AutoGen ワークフロー内のツールとして LlamaIndex クエリエンジンを使用。Mistral の厳格な関数呼び出しモードは LlamaIndex の構造化ツール定義とクリーンに連携します。

リサーチエージェントのユースケース

このモデル + リサーチエージェントスタックがチームに実際に役立つレポートを提供する場面。

プロダクションエージェントワークフロー向けフレームワーク

ワークフローの形状でフレームワークを選択してください。

LangGraph

プロダクションオーケストレーション。256K コンテキストと LangGraph チェックポイントで非常に長いワークフローを処理。

AutoGen / AG2

GroupChat。Mistral の低出力速度がディベート重視のパターンのボトルネック。

DSPy

プロンプトコンパイル。Mistral の厳格なフォーマット追従と相性が良い。

Pydantic AI

型安全エージェント。Mistral Guidance(lark 文法)と Pydantic AI が両方とも構造化出力をターゲット。

LlamaIndex

リトリーバル層。LangGraph オーケストレーションを上位に組み合わせたハイブリッドスタック。

Mistral Large 3 を選ぶ組織

このモデルが正解となる3つのバイヤープロファイル。

  1. 欧州法律事務所、60名の弁護士、EU 多言語業務

    タスク: 多言語契約レビュー、ビジョンベースのドキュメント取り込み(スキャン PDF、証拠)、エージェント型ディスカバリー。成果: Apache 2.0 と Mistral の EU 出身により GDPR 姿勢が簡素化。1 つのモデルでビジョンとテキストを処理し、パイプラインの接着剤を一層削減。

  2. 医療画像コンサルタンシー、放射線科医 15 名

    タスク: 画像条件付きレポート作成、匿名化 DICOM エクスポートでのビジョン + テキスト Q&A。成果: 完全 HIPAA 対応セルフホストを持つオープンウェイトモデルにおける第一級マルチモーダル。256K コンテキストで長期的な縦断ケースに対応。

  3. 金融サービスプラットフォーム、90名のエンジニアチーム

    タスク: ドキュメント取り込み(ビジョン OCR + 推論)、多言語 KYC、ネイティブツール呼び出しを使用したエージェントワークフロー。成果: Apache 2.0 再配布により、座席単位ライセンスの手間なしにモデルをクライアント向け製品に組み込んで出荷可能。

Mistral Large 3 vs 最も近い競合

このモデルが勝つ場面、負ける場面。

vs DeepSeek V3.2

DeepSeek V3.2 は最難関の推論と定理証明で優位。Mistral Large 3 はマルチモーダル(ビジョンがネイティブ)、Apache 2.0 のシンプルさ(DeepSeek は MIT で同等ですが Mistral は欧米エンタープライズでの認知度が高い)、256K 対 128K コンテキストで優位。

vs Qwen3 235B A22B

Qwen3 235B はハードウェア最低要件(Q4 で 143GB 対 370GB)と純粋な推論ベンチマークで優位。Mistral Large 3 はマルチモーダルビジョンとトレーニングの出所(3,000 台の H200、完全開示)でリスク回避的なバイヤー向けに優位。

vs Llama 3.3 70B

クラスが異なります。Llama 3.3 70B は $7K の Mac で単一マシン展開可能。Mistral Large 3 は 8x H200 ノードが必要。SMB セルフホストには Llama、フロンティア品質 + ビジョン + Apache 2.0 がすべて必要な場合は Mistral Large 3。

Pineido による Mistral Large 3 エージェントセットアップ方法

4日目に vLLM が Mistral ツール呼び出しパーサーと 3 つの必須 Mistral フラグで Mistral Large 3 を提供。

4日目

--tokenizer_mode mistral、--config_format mistral、--load_format mistral、--enable-auto-tool-choice、--tool-call-parser mistral、--max-model-len 32768(メモリヘッドルーム検証後に引き上げ)、--tensor-parallel-size 8 で vLLM が Mistral Large 3 を提供。ツール呼び出しが壊れないよう mistral_common >= 1.8.6 が必須。推論には NVFP4、ファインチューニングには FP8。

5日目

mistralai/Mistral-Large-3-675B-Instruct-2512-Eagle コンパニオンモデルと num_speculative_tokens: 3 で EAGLE 投機的デコーディングを接続。出力品質を変えずにスループットが向上。

6日目

エディターエージェントを接続。--model mistralai/mistral-large-3 で Aider、Mistral プロバイダーで Cline、provider: mistral で Continue.dev、OpenAI 互換で Roo Code。Mistral 1.10.0 リリースごとに厳格な関数呼び出しを有効化。

8日目

Open WebUI と AnythingLLM を稼働。ドキュメントアップロードで画像マルチモーダリティをサポート。ワークスペースで機密ドキュメントセットを分離。

10日目

LangGraph ワークフロー。3つのワークフローを納品: 深いリサーチ、コードレビュー、顧客取り込み。Mistral Guidance lark 文法スキーマ検証を構造化出力ノードに接続。

12日目

Mistral Code(ベンダーサポート付きバンドル)または OpenHands リポジトリ自律処理。コーディング重視のバイヤー向けには Devstral 2 が SWE-bench Verified 72.2% を持つコーディングに特化しているため、Mistral Large 3 と並行して追加。

14日目

Prometheus メトリクスダッシュボード(vllm:num_requests_waiting、gpu_cache_usage_perc、time_to_first_token_seconds)、エビデンスパック、ランブック、エージェントインベントリを納品。

立ち上げ後にクライアントが言ったこと

決定がなされたときに部屋にいた人々からのフィードバック。

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
The Firebase-to-Supabase migration sounded terrifying. They moved 200k users without a single support ticket. We were live in 19 days.
Aisha, Engineering LeadToronto

Mistral Large 3 の14日間デプロイ方法

固定料金。

  1. 1日目

    ハードウェア監査。8x H100/H200/B200 ノードを確認。コンテキスト長の要件に応じて NVFP4 と FP8 を選択。ビジョンタスクを含む実際のプロンプトを実行。

  2. 4日目

    Mistral トークナイザー/設定/ロード形式で vLLM を通じて提供。ツール呼び出しパーサー('mistral')を有効化。ツール説明を含むシステムプロンプト。プロダクション用に temperature 0.1。

  3. 9日目

    必要に応じてビジョン対応リトリーバルを使用した RAG。SSO、監査、RBAC。256K 全体が不要であれば max-model-len を 32K または 64K に調整(KV キャッシュメモリを大幅節約)。

  4. 14日目

    ペンテスト完了。Apache 2.0 NOTICE ファイル記入。プロダクション移行。GDPR 姿勢に関連する場合は EU 居住性を確認。

当社が合うかどうかを決める質問

Mistral Large 3 のライセンスは何ですか?

Apache 2.0 で、ベース版と指示チューニング版の両方に適用されます。使用の制限も、派生物に関する条項も、売上に応じた上限もありません。2026年で最も制限の緩いオープンウェイトの主力モデルです。Pineido は、購入者が Apache 2.0 か MIT を求める場合に、特に Mistral Large 3 を勧めます(リスクを避けたい購入者の中には、Llama の Acceptable Use Policy や、DeepSeek の中国の管轄を伴う MIT への懸念から、それらを断る人もいます)。

Mistral Large 3 のプロダクション向け現実的な最低ハードウェアは何ですか?

NVFP4 ウェイトの 8x A100 80GB または 8x H100 が実用的な最低ライン、設備投資は $150K〜$200K です。それ以下では、マルチ GPU コンシューマーカード(4x RTX 5090 など)で Q4 GGUF を実行することになり、大幅な性能低下を伴います。675B 全体を必要としない 30 名以下の企業には、単一 GPU 上の小型兄弟モデル(Mistral 3 14B、8B、3B)が通常正しい選択です。

Mistral Large 3 のビジョン機能は実際に優れていますか?

はい。25 億パラメータのビジョンエンコーダーは組み込まれており、後付けではありません。スキャン PDF、チャート、図、写真、縦断的なマルチ画像ケースを処理します。最良の結果のためにアスペクト比を 1:1 に近く保ち、LLM の量子化に関わらずビジョンエンコーダーを FP16 で実行してください。ビジョンと多言語の両方を 1 つにまとめた初の主要オープンフロンティアモデルの一つです。

Mistral Large 3 と DeepSeek V3.2 のどちらを選ぶべきですか?

どちらもエンタープライズハードウェア上の 670B クラス MoE です。ビジョン、より長いコンテキスト(256K 対 128K)、または Apache 2.0 と欧米出身のトレーニングが必要な場合は Mistral Large 3 を選択してください。ビジョンなしで最大の推論と定理証明性能が必要な場合は DeepSeek V3.2 を選択してください。

コーディングエージェントには Mistral Large 3 と Devstral 2 のどちらを使うべきですか?

コーディング専用デプロイには Devstral 2。1 モデル多用途デプロイには Mistral Large 3。Devstral 2 は SWE-bench Verified 72.2%、4 台の H100 で動作し、Cline がそのツール呼び出し信頼性を公式に支持しています。Mistral Large 3 は 1 つのライセンスでコーディング + リサーチ + ドキュメント Q&A を求めるチーム向けの汎用モデル(675B total / 41B active)です。Pineido は両方を実行することが多いです: Mistral Large 3 をデフォルトエンドポイントとし、ボリュームが正当化する場合はコーディングレーンに Devstral 2 を追加します。

Mistral Large 3 に必要な vLLM フラグは何ですか?

3 つの Mistral 固有フラグが必須です: --tokenizer_mode mistral、--config_format mistral、--load_format mistral。関数呼び出しには --enable-auto-tool-choice と --tool-call-parser mistral も必要です。--tool-call-parser mistral がないと、vLLM はデフォルトパーサーを使用してツール呼び出しが空を返します。mistral_common >= 1.8.6 がインストールされていることを確認してください。そうでないとトークン化が HuggingFace デフォルトにフォールバックして壊れます。vLLM >= 0.17.0 を固定してください。

675B total, 41B active per token (MoE), 2.5B vision encoder パラメータ数

30分のスコーピングコールをご予約ください。Mistral Large 3 とエージェントスタックが最適かどうか、ご契約前にお伝えします。

固定料金。

1 日目に正確なモデル、ハードウェア、エージェントスタック、コスト計算、コンプライアンス姿勢をご確認いただけます。

あなたが手にするもの

  1. 0日目(今週): 30分スコーピングコール。ハードウェアショートリスト、モデル選択、エージェントスタック提案、コスト試算を金曜日までにお届け
  2. 1日目: ハードウェア監査。8x H100/H200/B200 ノードを確認。コンテキスト長の要件に応じて NVFP4 と FP8 を選択。ビジョンタスクを含む実際のプロンプトを実行。

著者創業者・Imaginator

Pineido, 拠点: Strumica, North Macedonia, は、国内外の企業向けにウェブサイト、オンラインショップ、ウェブ・モバイルアプリ、業務の自動化、AI を開発するソフトウェア会社です。30 日間のスプリントを固定価格で納品し、コードはお客様のものになります。

公開日 更新日