Phi-4を自社ハードウェア上にセットアップ、 エージェントスタックを14日間でプロダクション品質に

Phi-4は、シングルGPUで本格的な推論が必要なときに選ぶモデルです。147億パラメータ、MITライセンス、密結合デコーダアーキテクチャ、そして検証可能な回答を持つ合成データに大きく依存した学習レシピ。

  • 14日間プロダクション移行
  • コーディング + リサーチエージェントスタック込み
  • 14B dense パラメータ数
  • 16K tokens コンテキストウィンドウ
  • 14 d プロダクション移行

Phi-4 概要

モデルとハードウェアを選ぶ際に重要なスペック。

パラメータ数

14B(密結合)

コンテキストウィンドウ

16Kトークン

アーキテクチャ

デコーダのみのTransformer

学習トークン数

約10T(合成データ重視のミックス)

ライセンス

MIT(商用利用完全可能)

FP16 VRAM

約28GB

Q4_K_M VRAM

約9GB

推論バリアント

Phi-4-reasoning, Phi-4-reasoning-plus

リリース日

2024-12-12

利用可能なプラットフォーム

Hugging Face, Azure AI Foundry, Ollama, llama.cpp

Phi-4をプロダクションで動かすハードウェア

3つの階層、実際のSKU、実際のスループット数値。

エントリー階層: Mac Mini M4 24GB統合メモリ、RTX 3090 24GB、RTX 4070 Ti 16GB(Q4使用)

スループット: Mac Mini M4で10〜30 tok/s、RTX 3090で40〜70 tok/s。最適用途: ソロ開発者、ローカルエージェント、オフライン推論ワークフロー。

ミッド階層: RTX 4090 24GBまたはシングルA6000 48GB(Q5またはBF16)

スループット: 60〜120 tok/s、BF16フル品質。最適用途: 小規模チームのセルフホスト、内部RAGと推論、コードレビューボット。

エンタープライズ階層: 1x H100 80GBまたは2x L40S(vLLMによるバッチサービング)

スループット: バッチで200〜600 tok/s。最適用途: 数学、構造化抽出、またはエージェントバックエンド向けのプロダクションマルチテナントAPI。

このモデルの量子化選択

GGUF、AWQ、FP8、INT4。

推奨量子化

ローカル向けにQ4_K_M。28GB以上のVRAMがあればBF16。合成学習データが均等に分布しているため、Phi-4は量子化耐性が異常に高いです。

トレードオフ

Q4_K_MはBF16比でMATHとGPQAで約1〜2ポイント低下しますが、これはそのサイズクラスで最小の差です。Q3は推論チェーンを壊し始めます。12GB以上あればQ5_K_Mが安全な中間点です。

BF16

ファイルサイズ: 未定義。

Q8_0

ファイルサイズ: 未定義。

Q5_K_M

ファイルサイズ: 未定義。

Q4_K_M

ファイルサイズ: 未定義。

Phi-4に接続するコーディングエージェント

Phi-4 14Bは数学と構造化推論において驚異的な性能を発揮する小型密結合モデルですが、マルチファイルリポジトリ作業では限界があります。

Aider

小規模リポジトリでのwhole編集フォーマットで動作。Phi-4でのAider Polyglotは約28〜35%。16Kコンテキスト予算のためaider --map-tokens 4096と積極的なファイルピン止めが必要。diff履歴がウィンドウをオーバーフローするとマルチファイルリファクタリングは予測可能な形で失敗。

Continue.dev

インライン編集とオープンファイル上のチャットに最適。自動補完モデルではなくチャットモデルとして設定してください。14Bパラメータ数ではキーストロークレベルの提案には最初のトークンレイテンシが遅すぎます。自動補完には小さいモデル(DeepSeek Coder V2 LiteまたはQwen2.5 Coder 7B)との組み合わせが最適です。

Cline

16Kの壁にすぐ衝突。Clineは最初のターンだけで6K〜9Kトークンのシステムプロンプトを出力します。ターン3でコンテキストが枯渇。Clineのプロンプトトリミング実験モードを使用する場合か、非常に小さい単一ファイルタスクのみに実用的です。

Cursor(ローカルプロキシ経由のBYOK)

OpenAI互換プロキシを介したllama.cpp上のPhi-4はチャットに機能します。2026年のCursorのコンテキスト詰め込みは積極的で、非自明なファイルで16Kウィンドウを飽和させます。限定的な用途のみです。

Claude Code(BYOKルート)

Anthropic互換ブリッジとPhi-4の組み合わせは理論的には可能です。実際には、Claude Codeのツール使用プロトコルはAnthropicクラスのツール呼び出し信頼性を前提としています。Phi-4コミュニティツールバリアントは5〜12%の確率でツール呼び出しを落とします。非推奨。

smolagents

HuggingFaceの小型エージェントフレームワークが最適です。LLMがPythonを直接出力するCodeAgentモードはPhi-4の推論強みに合致。クライアントパイプラインの構造化抽出エージェントにPhi-4とsmolagentsの組み合わせを使用しています。

コーディングエージェントのユースケース

このモデル + エージェントスタックが実際の成果を生む場面。

Phi-4上にデプロイするリサーチエージェント

16Kコンテキストが主な制約です。

GPT Researcher

小規模スコープで実用的。ソースURLを5〜8に制限し、最終合成前に各ソースを要約。STEMトピックでの合成推論品質は、より大きなモデルと競争力があります。

STORM(Stanford)

Phi-4-reasoningのアウトライン駆動構造がここで役立ちます。多視点的な質問生成フェーズはうまく機能します。16Kウィンドウのため記事合成フェーズには積極的なチャンク分割が必要です。

Open Deep Research(HuggingFace)

smolagentsベースで、自然と短コンテキストです。Phi-4に最も適した小型モデルです。20ソース未満のクライアント向け単発市場レポートでこれを使用した実績があります。

Pydantic AI ResearchAgentパターン

型付きスキーマが規律を強制します。Phi-4はクリーンな構造化出力を生成し、Pydantic V2バリデーションは高速です。狭い抽出後合成パイプラインに適しており、広範なオープンエンドリサーチには向きません。

LlamaIndex サブ質問クエリエンジン

複雑なクエリをサブ質問に分解し、取得したコンテキストに対して順次実行。各サブ質問は16Kに収まり、最終合成もバジェット内に収まります。Phi-4リサーチに最適なアーキテクチャパターンです。

リサーチエージェントのユースケース

このモデル + リサーチエージェントスタックがチームに実際に使えるレポートを届ける場面。

プロダクションエージェントワークフロー向けに導入するフレームワーク

ワークフローの形状でフレームワークを選択。

  1. LangGraph

  2. CrewAI

  3. AutoGen

  4. DSPy

  5. Pydantic AI

  6. smolagents

Phi-4を選ぶのはこんなチーム

このモデルが正解となる3つのバイヤープロファイル。

ローカルエージェント開発者

タスク: ラップトップまたはMac Miniでのマルチステップ計画とツール使用。成果: Phi-4 reasoningはオフラインで実用的な速度で動作し、JSONと構造化出力を信頼性高く処理し、デバイス上にとどまります。

数学・STEMチューターアプリ

タスク: ステップバイステップの推論でオリンピックレベルの問題を解く。成果: Phi-4-reasoning-plusはAIME 2025で約82.5%に達し、5分の1のサイズでDeepSeek-R1-Distill-70Bを上回ります(AIMEの単一実行はノイズが多いため、Microsoftは50回以上の生成を平均しています)。

構造化抽出パイプライン

タスク: 請求書、契約書、医療メモからJSONにフィールドを抽出。成果: 合成データ学習によりPhi-4は厳格なスキーマと不確実時の拒否に異常に優れており、1ドキュメントあたりの推論コストが安価です。

Phi-4 対 最も近い競合モデル

このモデルが勝つ場面と負ける場面。

  1. 対 Llama 3.1 8B

    Phi-4は約84%大きい(14.7B対8B)ですが、MATH、GPQA、HumanEvalで15〜25ポイント上回ります。Llama 3.1 8Bは多言語カバレッジ、128Kコンテキスト、ロングテールの事実的な想起で優勝します。

  2. 対 Mistral Small 22B

    Mistral Smallはクリエイティブライティング、多言語、32Kコンテキストで優勝。Phi-4は数学、構造化出力、推論で明確に勝ります。Phi-4はMistralのリサーチライセンスに対してMITライセンスです。

  3. 対 Qwen2.5 14B

    Qwen2.5 14Bは128Kコンテキスト(対16K)を持ち、中国語とコードのカバレッジが強いです。Phi-4は西洋数学とSTEMベンチマークで上回ります。言語とコンテキストのニーズで選択してください。

PineidoがPhi-4 14Bにエージェントをセットアップする方法

2週間スプリント。

1日目

バリアント選択。抽出エージェントにはPhi-4 base、STEMリサーチ(32Kコンテキスト)にはPhi-4-reasoning-plus、ネイティブツール呼び出しにはPhi-4-mini。ツール呼び出しModelfile選択(zac/phi4-toolsまたはカスタム)。

3日目

vLLM + Outlinesを24GB GPU(RTX 4090またはA6000)にFP16でデプロイ。guided_jsonとguided_regexをクライアントスキーマに対してテスト。ヒットレート目標99%、または任意の量子化からFP16にエスカレート。

6日目

すべてのツール入力と出力のPydantic V2スキーマ定義。厳格なresult_typeバリデーションでPydantic AIエージェントランタイムを構成。失敗モードのマッピング(モデルが無効なJSONを出力する場合、再生成でリトライまたはフォールバック)。

9日目

コンテキストバジェット強制。すべてのプロンプトにTiktoken基準のプリフライトトークンカウント。LangGraphノードレベル要約またはsmolagentsショートメモリモードを固定。プロンプトが14Kトークン(2Kセーフティマージン)を超える場合はハードフェイル。

11日目

クライアントタスクスイートに対する評価ハーネス。スキーマ適合率、エンドツーエンドタスク合格率、平均コンテキスト使用率。プロダクションSLAを確定。

14日目

プロダクション移行。小さいフットプリントのためシングルマシンデプロイが現実的。監査ログ、プロンプトログ、Pydanticバリデーションエラーがすべて1箇所に集まります。

立ち上げ後にクライアントが言ったこと

決定がなされたときに部屋にいた人々からのフィードバック。

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
Kwame, Digital DirectorSingapore
This wasn't theoretical. They got into the weeds with us and didn't leave until the code was live.
Marcus, Engineering ManagerGermany

14日間でPhi-4をデプロイする方法

固定料金。

  1. 1日目

    OllamaでPhi-4を取得: ollama pull phi4。ハードウェア上のベースラインtok/sを検証し、推論評価セットを実行

  2. 2日目

    localhost:11434のOpenAI互換エンドポイント経由でアプリケーションに接続。JSONモードとツール呼び出しのラウンドトリップをテスト

  3. 3〜5日目

    品質が不足している場合は、数学重視タスクのためにPhi-4-reasoning-plusを評価。そうでなければサンプリングを調整(推論にはtemperature 0〜0.3)し、ステップバイステップの出力を強制するシステムプロンプトを追加

  4. 第2週

    プロダクション向けにvLLMまたはTGIへ移行。リクエストのバッチ処理、プレフィックスキャッシングの有効化、Prometheusメトリクスのセットアップ、以前のOpenAI請求との100万トークンあたりのコスト比較を実施

まず最初によく聞かれること

Phi-4は本当にMITライセンスですか?

はい。Microsoftは2025年初頭にPhi-4と推論バリアントの両方をMITでリリースしました。商用制限なし、MAU上限なし、MIT標準条件を超える利用規定条項なし。製品に使用し、ファインチューニングし、再配布できます。

Phi-4はなぜ30倍大きいモデルに勝てるのですか?

正解の推論パスが既知の学習問題を生成し、Pivotal Token SearchとDPOを使ってPhi-4にそのパスを辿るよう教えたためです。一般的な405Bより狭い範囲ですが、学習したトピックでは競争力があります。

16Kコンテキストで十分ですか?

ほとんどの推論と構造化出力タスクでは十分です。長文書RAGではチャンク分割を積極的に行うか、取得のためにLlama 3.1 8Bのような128Kモデルとペアにする必要があります。Phi-4-reasoningバリアントは推論の深さを拡張しますが、コンテキスト長は拡張しません。

MacBookで快適に動作しますか?

24GB Mac Mini M4またはM4 Pro MacBookでは、Phi-4はQ4_K_MでOllamaまたはLM Studio経由で1秒あたり10〜25トークンで動作します。16GB Macでは Q4を実行できますが、意味のあるコンテキストではメモリ圧迫が発生します。24GBが快適な下限です。

Microsoft Phi-4 14Bはツール呼び出しをネイティブにサポートしていますか?

ベースのmicrosoft/phi-4リリースにはネイティブのツール呼び出しチャットテンプレートは付属していません。コミュニティModelfileバリアント(zac/phi4-tools、jacob-ebey/phi4-tools)がカスタムプロンプトテンプレートと解析レイヤーでギャップを埋めています。小型の兄弟モデルPhi-4-miniにはMicrosoft公式のツール呼び出しサポートがあります。2026年のPhi-4 14Bプロダクションツール使用では、コミュニティバリアントを使用するか、テンプレートを自分で構築する計画を立ててください。信頼性は量子化により88〜95%です。

Phi-4 14BはAiderで実際のコードベースに使用できますか?

小規模リポジトリのみです。Phi-4ベースは16Kコンテキストウィンドウを持ちます。Aiderのリポマップだけで中規模コードベースのトークンを8K〜12K消費し、ファイル、diff、会話には4K〜8Kしか残りません。失敗モードはサイレントな品質劣化です: Aiderが古いコンテキストを切り捨て、モデルが以前の決定を見失います。回避策: aider --map-tokens 4096、/addで特定ファイルをピン止め、30ファイル以上のリポジトリではPhi-4-reasoning(32K)に切り替えてください。

14B dense パラメータ数

30分のスコーピングコールをご予約ください。Phi-4と弊社エージェントスタックが最適な選択かどうか、契約前にお伝えします。

固定料金。

1日目に正確なモデル、正確なハードウェア、正確なエージェントスタック、正確なコスト計算、正確なコンプライアンス状況をご確認いただけます。

あなたが手にするもの

  1. 0日目(今週): 30分のスコーピングコール。ハードウェアショートリスト、モデル選択、エージェントスタック提案、コスト予測を金曜日までにお届け
  2. 1日目: OllamaでPhi-4を取得: ollama pull phi4。ハードウェア上のベースラインtok/sを検証し、推論評価セットを実行

著者創業者・Imaginator

Pineido, 拠点: Strumica, North Macedonia, は、国内外の企業向けにウェブサイト、オンラインショップ、ウェブ・モバイルアプリ、業務の自動化、AI を開発するソフトウェア会社です。30 日間のスプリントを固定価格で納品し、コードはお客様のものになります。

公開日 更新日