Gemma 4 (26B A4B)を自社ハードウェア上にセットアップ、 エージェントスタックを14日間でプロダクション品質に

GoogleはGemma 4で2つのことを正しく行いました。まず、Apache 2.0に切り替えました。

  • 14日間プロダクション移行
  • コーディング + リサーチエージェントスタック込み
  • 26B total / 3.8B active (MoE) パラメータ数
  • 256K tokens コンテキストウィンドウ
  • 14 d プロダクション移行

Gemma 4 (26B A4B) 概要

モデルとハードウェアを選ぶ際に重要なスペック。

パラメータ数

合計25.2B、トークンごとのアクティブ3.8B(MoE)

エキスパート数

合計128、トークンごとに8アクティブ + 1共有

コンテキストウィンドウ

256Kトークン

アーキテクチャ

ハイブリッドローカルスライディングウィンドウ + グローバルアテンション、Per-Layer Embeddings、p-RoPE

モダリティ

テキスト + 画像入力、テキスト出力

言語

35以上を即座に対応、140以上で事前学習

ライセンス

Apache 2.0(完全な商用利用、再配布可能)

Q4_K_M VRAM

約18GB(モデル)+ 256K時約5GB KVキャッシュ

BF16 VRAM

約52GB

リリース日

2026-04-09

立ち上げ後にクライアントが言ったこと

決定がなされたときに部屋にいた人々からのフィードバック。

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney
We had compliance docs in four different folders and two people who "knew where things were." Now everything is in one place with automatic expiry alerts.
Sarah, Compliance DirectorBoston

Gemma 4 (26B A4B)をプロダクションで動かすハードウェア

3つの階層、実際のSKU、実際のスループット数値。

  1. エントリー階層: RTX 4090 24GB、RTX 5080 16GB(Q4、タイト)、Mac Studio M3 Ultra 96GB

    スループット: RTX 4090でQ4_K_M時40〜80 tok/s。最適用途: ソロ開発者、長文書へのローカルRAG、マルチモーダル抽出。

  2. ミッド階層: 1x A6000 48GB(Q5またはBF16)、1x H100 80GB(フル256KコンテキストでBF16)

    スループット: シングルストリーム100〜200 tok/s、バッチで500+ tok/s。最適用途: 小規模チームのセルフホスト、エージェント型ワークフロー、内部マルチモーダルアシスタント。

  3. エンタープライズ階層: vLLMテンソル並列化による2〜4x H100、バッチサービング

    スループット: FP8でバッチ1000+ tok/s。最適用途: マルチテナントAPIサービング、ドキュメント理解パイプライン、エージェントプラットフォーム。

このモデルの量子化選択

GGUF、AWQ、FP8、INT4。

推奨量子化

24GBコンシューマーGPU向けにQ4_K_M。UnslothのUD-Q4_K_XLが24GBの最良ターゲット。48GB以上あればBF16。

トレードオフ

MoEモデルはエキスパートが小さいため、密結合モデルよりも積極的な量子化に対してやや敏感です。Q4_K_Mがスイートスポット。Q3はエージェント型とツール使用タスクを著しく劣化させます。VRAMに余裕があればQ5_K_Mが安全な選択です。

BF16

ファイルサイズ: 未定義。

Q8_0

ファイルサイズ: 未定義。

Q5_K_M

ファイルサイズ: 未定義。

Q4_K_M

ファイルサイズ: 未定義。

Gemma 4 (26B A4B)に接続するコーディングエージェント

Gemma 4 26B A4B MoEは2026年のオープンウェイトプール中、シングルGPUエージェントモデルとして最良です。

Aider

強力な適合性。Gemma 4 26BでのAider Polyglotはベンダーフラグ付きで約52〜58%(aider.chatリーダーボードで確認)。256Kコンテキストはリポマップと差分履歴が余裕を持って収まることを意味します。Diff編集フォーマットは確実に動作します。

Continue.dev

Day 1のOllamaサポート。24GBカードでチャットとtabAutocompleteModelの両方として使用。4Bアクティブパラメータの有効速度によりオートコンプリートレイテンシが実用的です。最初のトークンまで80〜150ミリ秒。

Cline

ネイティブ関数呼び出しによりClineのマルチステップオーケストレーションがモンキーパッチなしで機能します。256Kコンテキストはストレスなくclineの冗長なシステムプロンプトを吸収します。Gemma 4上で最良の小規模ショップ自律コーディングエージェント。

Cursor(Ollamaプロキシ経由のBYOK)

OpenAI互換ローカルプロキシ経由で実用的。CursorのファーストパーティComposerの方が速いですが、Gemma 4 + Cursor BYOKは規制対象バイヤーのプライバシー優先オプションです。

Roo Code

モード分離を持つClineフォーク。ArchitectモードとCodeモードの両方がGemma 4で動作します。小規模コンサルタンシーがエージェントスタックを再配布する場合、Apache 2.0ライセンスはLlama Community Licenseより簡単です。

smolagents

CodeAgentモードはGemma 4の推論と相性が良いです。軽量でLangChain依存なし、高速に起動します。Jupyterノートブックでの単発コーディングエージェントに最適。

コーディングエージェントのユースケース

このモデル + エージェントスタックが実際の成果を生む場面。

Gemma 4 (26B A4B)上にデプロイするリサーチエージェント

256Kコンテキスト + ネイティブツール呼び出し + Apache 2.0 + シングルGPU効率により、Gemma 4 26B A4Bは小規模チームのオープンウェイトリサーチエージェントのデフォルトです。

GPT Researcher

OllamaのOpenAI互換エンドポイント経由でドロップイン。256Kコンテキストにより100KトークンのリサーチブリーフをRAGなしで処理。STEMトピックの合成品質はGPT-4oとSonnet 4と本当に競争力があります。

STORM(Stanford)

Wikipedia形式の記事生成。Gemma 4の推論の深さは多視点的な質問生成フェーズをうまく処理します。クリーンに動作します。

LangGraph deep-research

参照用deep-researchテンプレートが24GB GPU上でローカルに動作します。ネイティブツール呼び出しにより、プランナー-リサーチャー-ライターのグラフノードにプロンプトエンジニアリングの負担がありません。

CrewAI

シングルOllamaバックエンドにリサーチャー-ライター-クリティックエージェントのクルー。LiteLLMプロキシがルーティングを処理。Apache 2.0によりクルーを製品として出荷する場合の再配布が簡単。

Open Deep Research(HuggingFace)

OpenAI Deep ResearchのsmolagentsベースクローンGemma 4 + このスタックは、現在のオープンウェイトプールで最も安価な信頼できるディープリサーチエージェントです。

Pydantic AI deep research

厳格なスキーマバリデーションを持つ型付きエージェントランタイム。Gemma 4のネイティブ関数呼び出しにより、ツール呼び出しがPydantic V2を通じてクリーンに検証されます。プロダクションリサーチパイプラインに最適。

リサーチエージェントのユースケース

このモデル + リサーチエージェントスタックがチームに実際に使えるレポートを届ける場面。

プロダクションエージェントワークフロー向けに導入するフレームワーク

ワークフローの形状でフレームワークを選択。

Gemma 4 (26B A4B)を選ぶのはこんなチーム

このモデルが正解となる3つのバイヤープロファイル。

  1. 長文書アナリスト

    タスク: 200ページのPDFを読む、契約書レビュー、数千ファイルにまたがるコードベースQ&A。成果: 256Kコンテキスト + ハイブリッドアテンション + 画像入力により、シングル24GB GPUで実際のドキュメントワークロードを処理。

  2. オンデバイスエージェントプラットフォーム

    タスク: 関数出力と画像グラウンディングを伴うマルチステップツール呼び出し。成果: ネイティブ関数呼び出し、高速な3.8Bアクティブ推論、Apache 2.0ライセンスにより、そのクラスで最もクリーンなエージェント型バックエンド。

  3. 規制対象SMBのセルフホスティング

    タスク: データを外部に送れない法律、医療、または金融チームのためにOpenAI APIを置き換える。成果: Apache 2.0によりカスタム条件の法的レビューが不要、MoE効率により単一ワークステーションが小規模チームの負荷を処理。

Gemma 4 (26B A4B) 対 最も近い競合モデル

このモデルが勝つ場面と負ける場面。

対 Mistral Small 22B(Mistral Small 3)

Mistral Smallは密結合でサービングが単純、許容ライセンスのApache 2.0も持ちます。Gemma 4 26B A4Bは数学と科学推論、長コンテキスト(256K対32K)、そしてMistral Smallにはないマルチモーダル画像入力で優位。Mistralは小バッチでの生のシングルストリーム速度と密結合モデルをサービングする単純さで優位。画像や長文書を一切扱わないならMistralを、それ以外ならGemma 4がより強力なワークステーションのデフォルトです。

対 Qwen3 32B

Qwen3 32Bは密結合で中国語カバレッジが強く、一部のコーディングベンチマークで僅差で優位。Gemma 4 26B A4Bは推論効率(3.8Bアクティブ対32B密結合)、Apache 2.0ライセンスの明確さ、マルチモーダルサポートで優位。

対 Gemma 3 27B

Gemma 4 26B A4BはGemma 3 27Bをコード(LiveCodeBench v6が29.1%から77.1%に跳躍)、長コンテキスト再現率(RULER 128Kが13.5%から66.4%へ)、数学、エージェント型ツール使用で大差で上回り、MoEスパース性のおかげではるかに速く動作し、カスタムGemmaライセンスをApache 2.0に置き換えています。2026年にGemma 3 27BよりGemma 4 26B A4Bを選ばない理由はありません。

PineidoがGemma 4 26B A4Bにエージェントをセットアップする方法

2週間スプリント。

1日目

ハードウェア決定。RTX 5090 32GB(KVキャッシュ余裕を持ってQ4が収まる)、RTX Pro 6000 96GB(256KコンテキストでFP16)、またはMac Studio M3 Ultra 128GB。Apache 2.0ライセンスレビュー(不要ですが、クライアントのために文書化)。

3日目

Ollama + Gemma 4 26Bを取得。ツールスキーマを持つ/api/chatでネイティブ関数呼び出しをテスト。レイテンシベースライン: デコード30〜50 tok/s、最初のトークンまで80〜150ミリ秒。

6日目

エージェントフレームワーク選択。グラフ構造ワークフローにはLangGraph、型付きツール抽出にはPydantic AI、委任パターンにはCrewAI。プロンプトテンプレートハックなしでネイティブツール呼び出しを接続。

8日目

256Kコンテキスト使用計画。リポマップサイズを調整し、RAG取得しきい値を設定してコンテキストが200K未満に収まるようにします(安全マージン)。長コンテキスト取得埋め込みをインデックス化(BGE-M3または同等品)。

10日目

固定されたクライアントタスクスイートに対する評価ハーネス。ツール呼び出し成功率、スキーマ適合率、エンドツーエンドタスク合格率。SLA: ツール呼び出し成功95%、スキーマ適合99%。

14日目

プロダクション移行。前面にSSO + 監査ログ。Apache 2.0帰属を出荷(NOTICEファイル)。シングルマシンデプロイは単一障害点を意味するため、リカバリ計画を文書化。

14日間でGemma 4 (26B A4B)をデプロイする方法

固定料金。

  1. 1日目

    Hugging FaceでUnsloth UD-Q4_K_XL GGUFを取得。GPUに24GB以上のVRAMがあることを確認。llama.cppで-ngl 99によるスモークテストを実行

  2. 2日目

    プロダクションサービング向けにOllamaまたはvLLMへ移行。ワークロードに必要な場合のみ256Kコンテキストを設定(KVキャッシュは線形にスケール)。そうでなければメモリの余裕のために32K〜64Kに上限を設定

  3. 3〜5日目

    マルチモーダルをテスト: ビジョンエンコーダを通じて画像を渡し、OCRとバウンディングボックス出力を検証。ツールスキーマのネイティブ関数呼び出しを接続

  4. 第2週

    以前のモデルと比較ベンチマーク。100万トークンあたりのコスト、評価セットの品質、ツール呼び出し成功率を測定。10%カナリアでプロダクションに展開

当社が合うかどうかを決める質問

27Bと26B A4Bのどちらですか?

Gemma 3は27B密結合でした。Gemma 4のワークステーション階層は26B A4B(MoE)と31B密結合として提供されます。26B A4Bは24GBシングルGPUに近いターゲットです。Gemma 4 27Bは存在しません。

Apache 2.0への切り替えで何が変わりましたか?

Gemma 3はGoogleが一方的に更新できる「Prohibited Use Policy」を持つカスタムGoogleライセンスを使用していました。Gemma 4は標準のApache 2.0でリリースされます。カスタム条項なし、利用可能な用途の例外なし、法務チームのレビュー負担なし。これがリリースで最も大きな実質的な変更です。

MoEアーキテクチャはデプロイを難しくしますか?

わずかに難しくなります。25.2Bのパラメータすべてがメモリに収まる必要がありますが、トークンごとにアクティブ化されるのは3.8Bのみなので、密結合メモリコストとスパースコンピューティングコストを両方負担します。llama.cpp、vLLM、SGLang、OllamaはすべてGemma 4 MoEを2026年半ばからネイティブに処理します。1つの実際の落とし穴: RTX 4090のようなAda世代カードでは、Gemma 4が異種のアテンションヘッド次元を使用するため、vLLMが遅いTRITON_ATTNバックエンドを自動選択してスループットを絞ることがあります。Ollamaまたはパッチ適用済みvLLMビルドでサービングし、Multi-Token Prediction(2026年6月にGGUFへ追加)を有効化すると、精度の損失なくデコードを1.4〜2.2倍高速化できます。

Mistral SmallまたはQwen3よりGemma 4を選ぶべきですか?

長コンテキスト、マルチモーダル、英語西洋系ワークロードにはYES。256Kや画像が不要な場合はMistral Smallがシンプルさで優位。中国語作業や予測可能なレイテンシのために完全密結合アーキテクチャが欲しい場合はQwen3が優位。

Gemma 4 26B A4Bはネイティブ関数呼び出しをすぐに使えますか?

はい。Gemma 4はチャットテンプレートにネイティブのツール呼び出しサポートを導入し、ReActスタイルの関数呼び出しにプロンプトエンジニアリングが必要だった以前のGemmaとは異なります。Ollamaの/api/chatエンドポイントは構造化されたtool_callsブロックを返し、LangChainのChatLlamaCppおよびChatOllamaラッパーはネイティブのbind_toolsを公開し、Pydantic AI型付きツールパターンはカスタムアダプターなしで動作します。シンプルなツールスキーマではヒット率96〜99%、深くネストされた引数では88〜92%に低下します。

エージェントワークフローにGemma 4 26B A4BとGemma 4 31B Denseのどちらをデプロイすべきですか?

90%のエージェントワークロードには26B A4B。MoEアーキテクチャはトークンごとに3.8Bパラメータをアクティブ化し、約8倍速いデコードで31B近い品質を提供します。この速度の優位性はエージェントの1タスクあたり10〜50回のLLM呼び出しにわたって積み重なります。ファインチューニングワークフロー、またはArena Eloの小さな差が重要な最も要求の高い推論タスクにのみ31B Denseを選択。Gemma 4 26B A4Bがプロダクションのデフォルトです。

26B total / 3.8B active (MoE) パラメータ数

30分のスコーピングコールをご予約ください。Gemma 4 (26B A4B)と弊社エージェントスタックが最適な選択かどうか、契約前にお伝えします。

固定料金。

1日目に正確なモデル、正確なハードウェア、正確なエージェントスタック、正確なコスト計算、正確なコンプライアンス状況をご確認いただけます。

あなたが手にするもの

  1. 0日目(今週): 30分のスコーピングコール。ハードウェアショートリスト、モデル選択、エージェントスタック提案、コスト予測を金曜日までにお届け
  2. 1日目: Hugging FaceでUnsloth UD-Q4_K_XL GGUFを取得。GPUに24GB以上のVRAMがあることを確認。llama.cppで-ngl 99によるスモークテストを実行

著者創業者・Imaginator

Pineido, 拠点: Strumica, North Macedonia, は、国内外の企業向けにウェブサイト、オンラインショップ、ウェブ・モバイルアプリ、業務の自動化、AI を開発するソフトウェア会社です。30 日間のスプリントを固定価格で納品し、コードはお客様のものになります。

公開日 更新日