AI Gatewayとは?AI APIの管理・監視

《 Cloudflare完全ガイド 目次へ 》

前のページのWorkers AIで、Cloudflare上でAIモデルを動かせることを見ました。しかし実際のアプリケーションでは、Workers AIだけを使うとは限りません。OpenAIのAPIも、AnthropicのAPIも、Googleのモデルも、必要に応じて呼ぶことになります。

そうやってAIの呼び出しが増えてくると、必ず同じ悩みにぶつかります。

  • 今月、いったい何回呼んで、いくらかかっているのか分からない
  • 同じ質問が何度も来ているのに、毎回モデルに投げて課金されている
  • どこかの利用者が異常な回数を叩いていても気づけない
  • プロバイダ側が障害を起こすと、アプリごと止まる
  • どんな内容を送って、どんな回答が返ってきたのか、あとから調べられない

AI Gatewayは、こうした問題をまとめて解決するためのサービスです。

このページで分かること

  • AI Gatewayが何をするものなのか
  • どうやって使い始めるのか(URLを差し替えるだけ)
  • キャッシュ・レート制限・フォールバックなど主な機能
  • 料金と、無料でどこまで使えるか
  • 2026年8月のWorkers AIとの統合で何が変わったか

AI Gatewayとは

AI Gatewayは、アプリケーションとAIモデルの間に置く中継地点(プロキシ)です。

第1章で学んだCloudflareのプロキシと発想は同じです。Webサイトへのアクセスをいったんオレンジ雲が受け取ることで、キャッシュもセキュリティも統計も後から足せるようになりました。AI Gatewayは、それをAI APIへの呼び出しに対して行います。

AI Gatewayを挟むと何が変わるか
図1:AI Gatewayを挟むと何が変わるか

大事なのは、アプリケーションの作りを変えなくてよいという点です。呼び出し先のURLをAI Gatewayのものに差し替えるだけで、あとは今までどおりのコードが動きます。

たとえばOpenAIのAPIを使っていたなら、こうなります。

変更前: https://api.openai.com/v1/chat/completions
変更後: https://gateway.ai.cloudflare.com/v1/{アカウントID}/{ゲートウェイ名}/openai/v1/chat/completions

送るデータの形も、返ってくるデータの形も変わりません。使っているSDKもそのままです。この「1行の変更で始められる」という手軽さが、AI Gatewayの最大の特徴です。

対応しているプロバイダはOpenAI・Anthropic・Google(Gemini)・Workers AI・Replicateなど多数あり、さらに増え続けています。

主な機能

分析とログ

すべての呼び出しについて、リクエスト数・トークン数・費用・エラー率・応答時間がダッシュボードに集計されます。プロバイダごと、モデルごとの内訳も見られるので、「先月より高いのはどのモデルのせいか」がすぐ分かります

さらに、リクエストとレスポンスの中身そのものもログとして保存できます。「利用者から回答がおかしいと言われた」ときに、実際に何を送って何が返ったかを確認できるのは、AIアプリの開発では特に重要です。

キャッシュ

同じ内容のリクエストが来たときに、モデルを呼ばずに保存しておいた回答を返す機能です。

AI APIは1回の呼び出しが高価で、しかも遅いという特徴があります。よくある質問への回答や、同じ文章の要約など、毎回同じ結果でよい処理をキャッシュするだけで、費用と待ち時間の両方が大きく下がります

ただし、キャッシュが向く用途と向かない用途があります。個々の利用者に合わせた回答や、会話の続きにあたるリクエストは、キャッシュしてはいけません。

レート制限

一定時間内の呼び出し回数に上限を設ける機能です。第2章のRate Limitingと同じ考え方ですが、こちらはAIへの呼び出しに対して働きます。

AIアプリでこれが必要になる理由は、悪意ある利用者に限りません。自分で書いたコードのバグで無限ループになり、一晩で高額な請求が発生する――というのは、AI開発でよくある事故です。上限を決めておけば、被害はそこで止まります。

支出の上限(Spend Limits)

回数ではなく金額で上限を決める機能です。モデル別・プロバイダ別・独自のタグ別に「今月ここまで」と決められます。回数より直感的で、費用が心配な段階では特に有効です。

リトライとフォールバック

プロバイダ側でエラーが返ってきたときに自動でやり直したり、別のモデルに切り替えたりできます。

たとえば「まずOpenAIに投げる。障害や過負荷で失敗したらWorkers AIのモデルに切り替える」という設定にしておけば、片方が止まってもアプリ全体は動き続けます。単一のAIプロバイダに依存するリスクを、コードを書かずに下げられます。

統一されたAPI(Unified API)

プロバイダごとに違うエンドポイントとリクエスト形式を、1つの窓口にまとめる機能です。

  • POST /ai/run:すべてのモデル・すべての種類に対応する共通の入口
  • POST /ai/v1/chat/completions:OpenAIのSDKがそのまま使える形式
  • POST /ai/v1/responses:OpenAIのResponses API互換の形式

これを使うと、モデルを乗り換えるときにコードをほとんど書き換えずに済みます。AIモデルの入れ替わりが速い現在、この乗り換えやすさは実務上とても大きな価値があります。

動的ルーティング(Dynamic Routing)

リクエストの内容に応じて、送り先のモデルを切り替える仕組みです。ダッシュボード上で条件を組み立てるので、アプリのコードは変更しません。

  • 短い質問は安いモデル、長い質問は高性能なモデルへ
  • 利用者の10%だけ新しいモデルに流して結果を比べる(A/Bテスト)
  • 地域によって送り先を変える

ガードレールとDLP

ガードレールは、送信するプロンプトと返ってきた回答を検査し、有害な内容を検出・ブロックする機能です。検査自体もWorkers AIのモデルで行われるため、トークン量に応じた課金が発生します。

DLP(Data Loss Prevention)は、第3章のDLP・CASBで扱ったものと同じ仕組みです。個人情報やクレジットカード番号などがAIに送られていないかを検査します。「社員が機密情報を外部のAIに貼り付けてしまう」ことへの対策になります。

鍵の一元管理(BYOK)

各プロバイダのAPIキーをCloudflare側に安全に保管しておき、アプリのコードにはキーを持たせない、という運用ができます。Cloudflareの秘密情報管理(Secrets Store)と連携しており、平文のキーをあちこちにコピーせずに済みます。

料金

AI Gatewayの中核機能は全プラン無料です。

項目 内容
ダッシュボード分析・キャッシュ・レート制限 全プラン無料
ログの保存件数 Workers無料プラン:合計10万件 / Workers有料プラン:1ゲートウェイあたり1,000万件
DLPスキャン 全プラン無料(無料アカウントは既定のプロファイル2種類、Zero Trust契約でフル)
ガードレール Workers AIのトークン課金(プロンプトと回答の長さに応じる)
Logpush(ログの外部転送) Workers有料プランのみ。月1,000万リクエストまで込み、超過分は100万あたり0.05ドル
統合請求(Unified Billing) クレジット購入時に5%の手数料。推論の単価自体への上乗せはなし

つまり、AI Gatewayを挟むこと自体には基本的に費用がかかりません。無料アカウントでも分析・キャッシュ・レート制限がそのまま使えます。挟まない理由がほとんどない、という位置づけのサービスです。

なお、AI Gatewayを通しても各プロバイダへの支払いは別途発生します。AI Gatewayは請求を肩代わりする仕組みではなく、見えるようにする仕組みです(統合請求を使う場合を除きます)。

Workers AIとの統合(2026年8月)

2026年8月7日、CloudflareはAI GatewayとWorkers AIを1つのコントロールプレーンに統合しました。これは第7章を読むうえで重要な変更です。

以前は、「モデルを動かす」のがWorkers AI、「呼び出しを管理する」のがAI Gatewayという別々の製品で、AI Gatewayを使うには自分で設定して経由させる必要がありました。

統合後は次のようになっています。

  • 同じAIバインディング・同じAPIエンドポイントで両方が使える
  • Workers AIへの呼び出しは既定でAI Gatewayを通る
  • 何も設定しなくても、すべてのリクエストがログに記録され、トークン数と費用がモデルごとに集計される
  • AI Gatewayにチャージしたクレジットで、Workers AIも外部プロバイダも支払える
  • 前払いクレジットを使うと、Workers AIの一部モデルのレート制限が緩和される

言い換えると、Workers AIを使い始めた時点で、このページで説明した観測機能は既に効いているということです。あらためて有効化する必要はありません。

外部のプロバイダを呼ぶ場合だけは、これまでどおりURLの差し替え(またはBYOKの設定)が必要です。

導入するかの判断

AI Gatewayを挟むべきかどうかは、次の質問で決められます。

  • AIの呼び出しが本番のアプリケーションに含まれるか → 含まれるなら挟むべきです。費用と障害の可視化は、事故が起きてからでは間に合いません
  • 複数のプロバイダを使う、または将来使う可能性があるか → 統一APIとフォールバックの価値が大きくなります
  • 同じ内容の呼び出しが繰り返されるか → キャッシュだけで費用が目に見えて下がります
  • 個人の実験用スクリプトか → 無理に挟む必要はありませんが、費用が見えるという理由だけでも十分に元は取れます

初心者が注意するポイント

  • キャッシュの有効期限は用途に合わせて決める:短くしすぎれば効果がなく、長すぎれば古い回答が返り続けます。まずは短めから始めて様子を見てください
  • 利用者ごとの回答をキャッシュしない:会話の続きや個人向けの内容をキャッシュすると、他人の回答が返る事故につながります。キャッシュの対象は慎重に選んでください
  • ログには送信内容がそのまま残ります:機密情報を扱うアプリでは、ログの保存設定とDLPの併用を検討してください
  • レート制限か支出上限は必ず設定する:無限ループによる高額請求は、AI開発で最も起きやすい事故です
  • 無料プランのログは10万件まで:試作段階でも、思ったより早く到達します。件数の管理が必要なら有料プランを検討してください
  • フォールバック先の品質は違います:切り替え先のモデルで回答の質が変わることを前提に設計してください

関連サービス

  • Workers AI:Cloudflare上でモデルを動かす。2026年8月にAI Gatewayと統合
  • Workers:AI Gatewayを呼び出すアプリケーションの実行環境
  • Rate Limiting:Webサイト側のアクセス制限。考え方は共通
  • DLP・CASB:情報漏えい対策。AI Gatewayのスキャンと同じ仕組み
  • Workers KV:AI Gatewayのキャッシュとは別に、アプリ側で結果を保持したい場合の選択肢

まとめ

  • AI Gatewayは、アプリとAIモデルの間に置く中継地点。呼び出し先のURLを差し替えるだけで導入できる
  • 分析・ログ・キャッシュ・レート制限・支出上限・リトライ・フォールバック・統一API・動的ルーティング・ガードレール・DLP・鍵の一元管理を提供する
  • 中核機能は全プラン無料。挟むこと自体に費用はかからない
  • 2026年8月7日にWorkers AIと統合され、Workers AIの呼び出しは既定でAI Gatewayを通るようになった
  • AIの呼び出しが本番に含まれるなら、最初から挟んでおくのが安全

ここまでで、AIモデルを動かす方法と、その呼び出しを管理する方法が分かりました。しかし、AIに「自分のサイトの内容」や「社内のマニュアル」について答えさせようとすると、モデルはそれを知らないため答えられません。次のページでは、この問題を解決するRAGという考え方を扱います。

次に読む

→ ガイドの目次に戻る

※本記事の情報は 2026年8月時点のものです。

タイトルとURLをコピーしました