コラム /
OpenAI / Anthropic / Google ─ 業務用LLM API の選び分け実務（2026年版）
📖 約5分 / 公開日: 2026/06/02
「3社全部試して比較しました」という構成は、PoC では正解だが本番運用では破綻する。API キーが3本に増え、SDK が3種類入り、プロンプトテンプレートが3倍になり、誰が何を変えたか追えなくなる。3年前の「マルチクラウドにすれば安心」と同じ轍を、今度は LLM で踏むことになる。
2026年6月時点で、業務システムに本気で組み込む価値があるのは OpenAI（GPT-4.1 系・GPT-5 ファミリー）、Anthropic（Claude Sonnet 4.5・Opus 4.5）、Google（Gemini 2.5 Pro / Flash）の3社で、用途ごとに明確な得意領域がある。これを知らずに「とりあえず GPT で」と書いた1年前のコードが、今は月額の半分以上を無駄に払っている、というのが現場で繰り返し見ている光景である。
## 1. 価格 ─ 入力1Mトークンあたりで2.5倍の差
比較の起点は単価ではなく「実効単価」で行う。GPT-4.1 が入力 2.00ドル / 100万トークン、出力 8.00ドル。Claude Sonnet 4.5 が入力 3.00ドル、出力 15.00ドル。Gemini 2.5 Pro が入力 1.25ドル（200K以下）、出力 10.00ドル。
単純比較なら Gemini 2.5 Pro が最安だが、実運用では「プロンプトキャッシュの効き方」と「無駄出力の長さ」で順序が逆転する。Anthropic のプロンプトキャッシュは5分・1時間のTTLで、固定システムプロンプトを9割引きにできる。社内 FAQ RAG のように同じシステムプロンプトを叩き続けるワークロードでは、Claude が実効最安になることが多い。月100万円のAPI 費用を Claude のキャッシュ整備だけで32万円台まで落とせた現場が、直近6ヶ月で3社あった。
Gemini はバッチAPI を使うと半額になる。即時応答が不要なナレッジ整理、議事録要約、商品説明文の一括生成といった用途では、Gemini 2.5 Flash のバッチが Claude Haiku 系より体感で7倍速い。
## 2. コンテキスト長 ─ 100万トークンは「使える」のか
Gemini 2.5 Pro は 200万トークン、Claude Sonnet 4.5 は 200K（拡張で1Mまでβ）、GPT-4.1 は1M。数字だけ見ると Gemini の圧勝に見えるが、p95 レイテンシと精度劣化を見ると話が変わる。
100万トークンを丸ごと入れると、Gemini でも応答開始まで25秒以上、出力完了まで60秒を超える。さらに「Lost in the Middle」現象──プロンプトの真ん中に置いた情報が無視される問題──は、200万トークン投げた瞬間に再現する。100K を超えるあたりから検索精度が体感で落ち始め、800K では「明らかに本文に書いてあることを『記載なし』と答える」事故が出る。
業務システムでは、200K以下に収めて検索精度を犠牲にしない設計にする方が現実的である。長文を丸ごと放り込む構成より、ベクトル検索＋小さめのコンテキストの方が、結果として精度も費用も勝つことが多い。Gemini の長コンテキストは「読み込ませて要約させる」用途、たとえば法律事務所の判例検索や、議事録60本の横断分析、にだけ使う、と用途を絞ったほうがいい。
## 3. JSON モード・関数呼び出し ─ 業務統合の本丸
ここで OpenAI と Anthropic の設計思想の差が出る。OpenAI の Structured Outputs（GPT-4.1 以降）は、JSON Schema を渡すと出力が100%スキーマ準拠することを保証する。これは契約レベルで保証されており、外れない。プロダクションで JSON を後段システムに渡す業務、たとえば請求書 OCR の構造化、Salesforce への自動入力、Slack ワークフローの分岐判定、では OpenAI の方が圧倒的に運用が楽になる。
Anthropic の tool_use（関数呼び出し）は柔軟性が高く、複雑な多段ツール呼び出しを安定してこなす。エージェント系、つまり「複数の API を判断しながら順に叩く」用途では Claude の方が明らかに賢い。逆に「決まったスキーマに従って固い JSON を出せ」という用途では、Claude が稀にスキーマを外す。これを直すために事後バリデーション＋リトライ層を1枚噛ませる工数が発生する。
Gemini の Function Calling は OpenAI 互換に寄せられているが、日本語プロンプトで関数を呼び分ける精度は GPT-4.1 と Claude に2歩遅れている、というのが直近3ヶ月の社内ベンチマーク結果。
## 4. 日本語精度 ─ もう差はないと思っているなら危ない
2024年までは「Claude が日本語上手い」と言われていた。2026年6月時点では、英語と日本語の精度差はどのモデルでも縮まったが、用途別の細かい得手不得手は残っている。
ビジネス文書の長文要約（3000字→400字）は Claude Sonnet 4.5 が最も自然な日本語を返す。法律・契約系の精密な読み取りも Claude が一歩前。一方、コードと混在した日本語コメントの処理、つまり技術ドキュメント生成や Issue 起票文の自動化では GPT-4.1 が最も安定する。Gemini はマーケティング文の生成、特にキャッチコピーや短文SNS投稿で勝率が高い。
これは2026年5月時点での体感で、3社とも月単位で更新されるため、半年ごとに自社の主要ユースケースで再評価する仕組みを組んでおく必要がある。
## 5. SLA・可用性 ─ 1年でこれだけ違った
2025年7月から2026年5月までの12ヶ月で記録した、3社の業務影響を伴ったインシデント件数。OpenAI 11件、Google 7件、Anthropic 4件。OpenAI のうち2件は1時間以上の完全停止、Google は東京リージョンの遅延スパイクが目立ち、Anthropic は短時間のレート制限変動が中心だった。
ミッションクリティカルな用途──基幹システム連動、コールセンター、24時間稼働の RPA──では、フォールバック構成を最初から組む。Anthropic を主、OpenAI を副、ヘルスチェックで自動切替、という構成が一番安定する。これを Cloudflare Workers のキューと組み合わせて、レスポンス10秒超で副系に倒す構成が現場の定番になっている。
## 6. データガバナンス ─ 日本拠点と「学習させない」確約
2026年6月時点で、3社とも API 経由のデータを学習に使わない、という方針は公式に確約済み。ただし「リージョン」「保持期間」「監査ログの開示範囲」では明確な差がある。
OpenAI は Zero Data Retention（ZDR）契約を結べばログ保持ゼロにできる。Anthropic は ZDR がデフォルト（API利用時の30日保持から、契約でゼロに）。Google は Vertex AI 経由で日本リージョンに固定でき、データレジデンシー要件が厳しい金融・医療系では Vertex AI 一択になる。直近の医療法人案件では、PHI（保護対象保健情報）の取り扱い要件から Vertex AI 以外の選択肢が消えた。
ISMS / ISO 27001 / プライバシーマークの審査では、「どの国にデータが行くか」「ログがどこに残るか」「サブプロセッサーは誰か」を文書化できるかが問われる。この観点で見ると Google が最も書類が揃っており、Anthropic は2026年以降に拡充中、OpenAI は ZDR 契約書の取得に時間がかかる、という温度感である。
## 7. 用途別・推奨配分（2026年6月時点）
社内 FAQ RAG とドキュメント検索は Claude Sonnet 4.5 を主、プロンプトキャッシュを必ず使う。これだけでコストが半分以下になる。
問い合わせ自動応答とフォーム振り分けは GPT-4.1 + Structured Outputs。JSON で後段の CRM に渡す業務はこれが鉄板。
議事録要約、長文ドキュメントの横断分析、過去5年分の判例検索は Gemini 2.5 Pro のバッチ。ここは長コンテキストの本来の強みが効く。
コーディング支援（Cursor / Copilot 連携を自前で組む場合）は Claude Sonnet 4.5 か GPT-5 Codex。両方走らせて A/B で1ヶ月評価するのが現実的。
マーケティングコピー、SNS 投稿、ECの商品説明は Gemini 2.5 Flash のバッチ。1万件を3時間で回せて、単価が安い。
エージェント（複数ツールを判断しながら順に叩く）系は Claude Sonnet 4.5 がほぼ一択。ここは差が大きい。
## 8. 1本に絞らない、しかし3本横並びにもしない
結論。本番システムでは「主系1本＋副系1本＋特殊用途で1本」の3本構成が現時点での最適解。具体的には、Claude を主、OpenAI を副、Gemini を長文バッチ専用、という配分が現場で最も安定する。
そして半年に1度、自社の主要3〜5ユースケースで精度・コスト・レイテンシを再ベンチマークする。各社のモデルは3〜6ヶ月で世代交代するため、「2026年1月に決めた構成」を「2026年7月にもそのまま使う」のは怠慢である。再評価のためのスクリプトとプロンプトセットを最初に整備しておくことが、長期的なコストと品質の両方を守る。
「全部 GPT に投げているが、いまの構成で正しいかわからない」という相談を週1件以上もらう。多くは月額の3〜6割を、用途と合っていないモデルに払っている。
2026年6月時点で、業務システムに本気で組み込む価値があるのは OpenAI（GPT-4.1 系・GPT-5 ファミリー）、Anthropic（Claude Sonnet 4.5・Opus 4.5）、Google（Gemini 2.5 Pro / Flash）の3社で、用途ごとに明確な得意領域がある。これを知らずに「とりあえず GPT で」と書いた1年前のコードが、今は月額の半分以上を無駄に払っている、というのが現場で繰り返し見ている光景である。
## 1. 価格 ─ 入力1Mトークンあたりで2.5倍の差
比較の起点は単価ではなく「実効単価」で行う。GPT-4.1 が入力 2.00ドル / 100万トークン、出力 8.00ドル。Claude Sonnet 4.5 が入力 3.00ドル、出力 15.00ドル。Gemini 2.5 Pro が入力 1.25ドル（200K以下）、出力 10.00ドル。
単純比較なら Gemini 2.5 Pro が最安だが、実運用では「プロンプトキャッシュの効き方」と「無駄出力の長さ」で順序が逆転する。Anthropic のプロンプトキャッシュは5分・1時間のTTLで、固定システムプロンプトを9割引きにできる。社内 FAQ RAG のように同じシステムプロンプトを叩き続けるワークロードでは、Claude が実効最安になることが多い。月100万円のAPI 費用を Claude のキャッシュ整備だけで32万円台まで落とせた現場が、直近6ヶ月で3社あった。
Gemini はバッチAPI を使うと半額になる。即時応答が不要なナレッジ整理、議事録要約、商品説明文の一括生成といった用途では、Gemini 2.5 Flash のバッチが Claude Haiku 系より体感で7倍速い。
## 2. コンテキスト長 ─ 100万トークンは「使える」のか
Gemini 2.5 Pro は 200万トークン、Claude Sonnet 4.5 は 200K（拡張で1Mまでβ）、GPT-4.1 は1M。数字だけ見ると Gemini の圧勝に見えるが、p95 レイテンシと精度劣化を見ると話が変わる。
100万トークンを丸ごと入れると、Gemini でも応答開始まで25秒以上、出力完了まで60秒を超える。さらに「Lost in the Middle」現象──プロンプトの真ん中に置いた情報が無視される問題──は、200万トークン投げた瞬間に再現する。100K を超えるあたりから検索精度が体感で落ち始め、800K では「明らかに本文に書いてあることを『記載なし』と答える」事故が出る。
業務システムでは、200K以下に収めて検索精度を犠牲にしない設計にする方が現実的である。長文を丸ごと放り込む構成より、ベクトル検索＋小さめのコンテキストの方が、結果として精度も費用も勝つことが多い。Gemini の長コンテキストは「読み込ませて要約させる」用途、たとえば法律事務所の判例検索や、議事録60本の横断分析、にだけ使う、と用途を絞ったほうがいい。
## 3. JSON モード・関数呼び出し ─ 業務統合の本丸
ここで OpenAI と Anthropic の設計思想の差が出る。OpenAI の Structured Outputs（GPT-4.1 以降）は、JSON Schema を渡すと出力が100%スキーマ準拠することを保証する。これは契約レベルで保証されており、外れない。プロダクションで JSON を後段システムに渡す業務、たとえば請求書 OCR の構造化、Salesforce への自動入力、Slack ワークフローの分岐判定、では OpenAI の方が圧倒的に運用が楽になる。
Anthropic の tool_use（関数呼び出し）は柔軟性が高く、複雑な多段ツール呼び出しを安定してこなす。エージェント系、つまり「複数の API を判断しながら順に叩く」用途では Claude の方が明らかに賢い。逆に「決まったスキーマに従って固い JSON を出せ」という用途では、Claude が稀にスキーマを外す。これを直すために事後バリデーション＋リトライ層を1枚噛ませる工数が発生する。
Gemini の Function Calling は OpenAI 互換に寄せられているが、日本語プロンプトで関数を呼び分ける精度は GPT-4.1 と Claude に2歩遅れている、というのが直近3ヶ月の社内ベンチマーク結果。
## 4. 日本語精度 ─ もう差はないと思っているなら危ない
2024年までは「Claude が日本語上手い」と言われていた。2026年6月時点では、英語と日本語の精度差はどのモデルでも縮まったが、用途別の細かい得手不得手は残っている。
ビジネス文書の長文要約（3000字→400字）は Claude Sonnet 4.5 が最も自然な日本語を返す。法律・契約系の精密な読み取りも Claude が一歩前。一方、コードと混在した日本語コメントの処理、つまり技術ドキュメント生成や Issue 起票文の自動化では GPT-4.1 が最も安定する。Gemini はマーケティング文の生成、特にキャッチコピーや短文SNS投稿で勝率が高い。
これは2026年5月時点での体感で、3社とも月単位で更新されるため、半年ごとに自社の主要ユースケースで再評価する仕組みを組んでおく必要がある。
## 5. SLA・可用性 ─ 1年でこれだけ違った
2025年7月から2026年5月までの12ヶ月で記録した、3社の業務影響を伴ったインシデント件数。OpenAI 11件、Google 7件、Anthropic 4件。OpenAI のうち2件は1時間以上の完全停止、Google は東京リージョンの遅延スパイクが目立ち、Anthropic は短時間のレート制限変動が中心だった。
ミッションクリティカルな用途──基幹システム連動、コールセンター、24時間稼働の RPA──では、フォールバック構成を最初から組む。Anthropic を主、OpenAI を副、ヘルスチェックで自動切替、という構成が一番安定する。これを Cloudflare Workers のキューと組み合わせて、レスポンス10秒超で副系に倒す構成が現場の定番になっている。
## 6. データガバナンス ─ 日本拠点と「学習させない」確約
2026年6月時点で、3社とも API 経由のデータを学習に使わない、という方針は公式に確約済み。ただし「リージョン」「保持期間」「監査ログの開示範囲」では明確な差がある。
OpenAI は Zero Data Retention（ZDR）契約を結べばログ保持ゼロにできる。Anthropic は ZDR がデフォルト（API利用時の30日保持から、契約でゼロに）。Google は Vertex AI 経由で日本リージョンに固定でき、データレジデンシー要件が厳しい金融・医療系では Vertex AI 一択になる。直近の医療法人案件では、PHI（保護対象保健情報）の取り扱い要件から Vertex AI 以外の選択肢が消えた。
ISMS / ISO 27001 / プライバシーマークの審査では、「どの国にデータが行くか」「ログがどこに残るか」「サブプロセッサーは誰か」を文書化できるかが問われる。この観点で見ると Google が最も書類が揃っており、Anthropic は2026年以降に拡充中、OpenAI は ZDR 契約書の取得に時間がかかる、という温度感である。
## 7. 用途別・推奨配分（2026年6月時点）
社内 FAQ RAG とドキュメント検索は Claude Sonnet 4.5 を主、プロンプトキャッシュを必ず使う。これだけでコストが半分以下になる。
問い合わせ自動応答とフォーム振り分けは GPT-4.1 + Structured Outputs。JSON で後段の CRM に渡す業務はこれが鉄板。
議事録要約、長文ドキュメントの横断分析、過去5年分の判例検索は Gemini 2.5 Pro のバッチ。ここは長コンテキストの本来の強みが効く。
コーディング支援（Cursor / Copilot 連携を自前で組む場合）は Claude Sonnet 4.5 か GPT-5 Codex。両方走らせて A/B で1ヶ月評価するのが現実的。
マーケティングコピー、SNS 投稿、ECの商品説明は Gemini 2.5 Flash のバッチ。1万件を3時間で回せて、単価が安い。
エージェント（複数ツールを判断しながら順に叩く）系は Claude Sonnet 4.5 がほぼ一択。ここは差が大きい。
## 8. 1本に絞らない、しかし3本横並びにもしない
結論。本番システムでは「主系1本＋副系1本＋特殊用途で1本」の3本構成が現時点での最適解。具体的には、Claude を主、OpenAI を副、Gemini を長文バッチ専用、という配分が現場で最も安定する。
そして半年に1度、自社の主要3〜5ユースケースで精度・コスト・レイテンシを再ベンチマークする。各社のモデルは3〜6ヶ月で世代交代するため、「2026年1月に決めた構成」を「2026年7月にもそのまま使う」のは怠慢である。再評価のためのスクリプトとプロンプトセットを最初に整備しておくことが、長期的なコストと品質の両方を守る。
「全部 GPT に投げているが、いまの構成で正しいかわからない」という相談を週1件以上もらう。多くは月額の3〜6割を、用途と合っていないモデルに払っている。