LLMは創業者にとってのマタタビ。自分のレーンを守ろう。
LLMは創業者にとってのマタタビのようなものです。中毒性があり、酔わせ、妄想の世界への片道切符です。私は新しい技術を勧めるのをやめませんし、誰かに実験を思いとどまらせることもしません。しかし事態が本格化しているなら、月200ドルのChatGPT Proのサブスクの代わりにコンサルタントを雇うのもよいでしょう。MIT NANDAは2025年に企業のAI導入事例300件を調査し、その95%が測定可能な成果を生まなかったことを突き止めました。問題はめったにモデルそのものではなく、その周りにある人間の判断にありました。
なぜ創業者はLLMに惚れ込むのか
あなたがLLMに質問する。流暢な答えが返ってくる。賢くなった気がする。もう一つ質問する。また流暢な答えが返ってくる。さらに賢くなった気がする。
40分後、あなたは戦略計画、技術アーキテクチャ、プロダクトロードマップ、マーケティングのポジショニングを手にしています。すべて、あなたの顧客に会ったこともなく、あなたの帳簿を見たこともなく、あなたの成果に何の利害も持たない存在が書いたものです。
LLMはあなたに嘘をついているわけではありません。訓練されたとおりのことをしているのです。つまり、あなたが求めたものにパターンとして合致するテキストを生成しているのです。現代のモデルは人間のフィードバック(RLHF)で訓練されており、その訓練は人が高く評価する答えを最適化するのであって、真実である答えを最適化するわけではありません。研究者はこれを追従(シコファンシー)と呼びます。2025年の『Science』誌の研究は、テストした17のモデルすべてでこれを確認し、ユーザーが明らかに間違っていてもAIが同意することを示しました。問題は、あなたが自信を求め、自信を得たことです。あなたは厳しい真実を求めなかったのです。
これが危険になる場面
創業者が選択肢を生成するためではなく、意思決定のためにLLMを使うときです。
選択肢を生成するのは正しい使い方です。20個の名前をブレインストーミングする。構成の概要を作る。メールの下書きを書く。退屈な部分を速める。LLMはこれが得意です。
意思決定をするのは間違った使い方です。方向転換すべきか。採用すべきか。資金を調達すべきか。解雇すべきか。この市場に賭けるべきか。LLMは結果に利害を持たず、あなた固有の状況についての文脈も持ちません。それに決めさせるのは、自動補完にあなたの事業を運転させるようなものです。
失敗の仕方は微妙です。あなたは小さな意思決定にLLMを使い始めます。一つひとつは無害に思えます。3か月後、あなたのロードマップは、他の誰も加わっていない会話の中でLLMが市場動向について語ったことに左右されています。これはまさにMIT NANDAが2025年の『State of AI in Business』レポートで記録したことです。52件の役員インタビューと300件の導入事例を通じて、生成AIの実証実験の95%は測定可能なリターンを生まず、その原因はほとんどの場合モデルではありませんでした。誰もその出力を実際のワークフローに組み込まず、実際の成果に照らして検証しなかったのです。
代わりに人間を雇うべきとき
LLMに尋ねる代わりにコンサルタントや専門家を雇うべき時だと告げる三つのサインがあります。
第一に、その意思決定が売上やランウェイに影響する場合。事業の財務の軌道を実質的に変えるものはすべて、自らリスクを負い、その提言に責任を持つ人間に値します。
第二に、その意思決定が取り返しのつかないものである場合。採用、解雇、長期契約の締結、5年間付き合うことになる技術スタックの選択。LLMは自信に満ちた答えを出しますが、それでも間違っていることがあり、問いが難しくなるほどその率は上がります。2025年11月、Vectaraがハルシネーションのベンチマークをより難しい記事群に切り替えると、GPT-5、Claude Sonnet 4.5、Gemini 3 Proを含むトップモデルは、かつて得意としていた出典付き要約のタスクで、軒並み10%を超えました。可逆性が重要なのは、答えが正しくても間違っていても、まったく同じように読めてしまうからです。
第三に、その意思決定がLLMの持たない文脈を必要とする場合。あなたの顧客との関係。チームの力学。競争環境。あなた個人のキャパシティ。LLMはこれらを一切持たず、誰にでも当てはまる一般的な答えを出します。つまり、誰にも当てはまらないのです。
Pineidoの考え方
Pineidoでは毎日LLMを使っています。生産性を何倍にもしてくれます。テストを書き、ドキュメントを下書きし、コードを試作し、分析を生成します。それらなしには機能しないでしょう。
しかし、意思決定はさせません。私たちがクライアントに出すすべての提言は、状況を読み込み、チームと話し、結果が正しくなることに利害を持つ人間がレビューします。LLMはリサーチアシスタントであって、パートナーではありません。これはMIT NANDAのレポートが、うまくいった5%のAIプロジェクトとうまくいかなかった95%のあいだに引いたのと同じ線です。勝者は一つの本物の痛点を選び、それを実際のワークフローに組み込みました。チャットボットに戦略を即興で語らせたりはしなかったのです。
もしあなたがサービス事業を営んでいて、ChatGPTから戦略的助言を得ているなら、やめてください。代わりにコンサルタントや専門家のセッションを買いましょう。ChatGPT Proは現在、最上位プランで月200ドルです。それを20か月続ければ、4,000ドルのコンサルタント1人分になります。コンサルタントは、LLMが礼儀正しすぎて言えない厳しい真実を口にします。なぜならLLMは文字どおり、それを言わないように訓練されているからです。2025年4月を思い出してください。OpenAIが、まずいアイデアを少々熱心に褒めすぎたGPT-4oを撤回せざるを得なかったときのことを。
自分の車の助手席のお姫様になってはいけません。自分のレーンを守ってください。安全運転を。目は道路に、手はハンドルに。
毎週、オペレーションのヒントを受け取る
サービス業の経営者・運営者と一緒に、オペレーション、自動化、成長に関する実践的なヒントを毎週1つ受け取りましょう。
スパムは送りません。いつでも配信停止できます。
登録が完了しました。次号を受信トレイでお待ちください。
送信できませんでした。もう一度お試しいただくか、[email protected] までご連絡ください。
よくある質問
LLMが悪いものだと言っているのですか?
いいえ。LLMは選択肢の生成、初稿の執筆、文書の要約、退屈な作業の高速化に優れています。一方で、見ることのできない特定の事業の文脈で何が重要かを判断するのは不得意で、しかも訂正するのではなく同意するよう訓練されています。だからこそ2025年の『Science』誌の研究は、テストしたすべてのモデルで追従(シコファンシー)を見つけたのです。
LLMを間違って使っているかどうか、どうすればわかりますか?
三つの兆候があります。第一に、単なるブレインストーミングではなく戦略的な意思決定にそれらを使っている。第二に、外部のレビューなしに提案をそのまま実行している。第三に、ロードマップが、チームが実際の会話にたどれない形で変わってしまっている。MIT NANDAは、企業のAI実証実験の95%がまさにこの理由で失敗することを突き止めました。誰も出力を実際のワークフローに結びつけなかったのです。
代わりにいつコンサルタントを雇うべきですか?
意思決定が売上やランウェイに影響するとき、取り返しのつかないとき、または人間にしか持てない文脈を必要とするときです。モデルは正解でも不正解でも同じように自信ありげに読めますし、難しい問いでは、GPT-5やClaude Sonnet 4.5でさえ出典付きタスクで10%を超えてハルシネーションを起こします。それ以外はすべて、LLMはリサーチアシスタントとして問題ありません。
PineidoはどのようにLLMを使っていますか?
毎日、生産性のために使っています。クライアントへの提言を出すためには決して使いません。すべての提言は、結果に利害を持つ人間がレビューします。これは、うまくいった5%のAIプロジェクトをうまくいかなかった95%から分けたのと同じ規律です。