はじめに
OneGateway は企業向けの統合 AI ゲートウェイ兼 Token 管理プラットフォームです。分散しているモデルサービスを 1 つの統合エンドポイントに集約し、従業員、業務アプリケーション、AI エージェントがモデルを利用できるようにすると同時に、企業がアクセス権限、利用コスト、呼び出しの安全性を一元管理できるようにします。
複数のチームがそれぞれ異なる AI モデルを使い始めると、企業はいくつもの問いに同時に答える必要があります。誰がどのモデルを使えるのか、費用はどこに使われているのか、プロバイダーに障害が発生したときにどうサービスを継続するのか、機密性の高いコンテンツをどう扱うのか。OneGateway はこれらの機能を統合エンドポイントとコンソールに集約し、各アプリケーションが個別に接続・開発・保守する手間を削減します。
主な機能
| 機能 | 解決する課題 |
|---|---|
| 統合アクセスとモデル管理 | 1 つのエンドポイントから複数プロバイダーのモデルを呼び出せ、アプリケーションが個別に接続する必要がありません |
| 高可用ルーティングと負荷分散 | 同じモデルを複数のプロバイダーで提供し、失敗時はリトライポリシーに従ってバックアップを試行します |
| キーと組織の権限管理 | 上流のキーを一元管理し、人やアプリケーションごとに個別に権限を付与します |
| クォータ管理ときめ細かな課金 | 期間ごとにクォータを割り当て、Token 量または呼び出し回数で課金します |
| 利用状況の分析と呼び出しの追跡 | 費用と利用量を部署・メンバー・モデル別にドリルダウンでき、個々の呼び出しを追跡できます |
統合アクセスとモデル管理
統合エンドポイントを通じて OpenAI、Anthropic、DeepSeek、MiniMax、Moonshot などのモデルサービスに接続できるほか、プロトコル互換の企業独自のセルフホストモデルも接続できます。アプリケーションは OpenAI や Anthropic などのインターフェース形式でリクエストでき、OneGateway の API URL、API Key、モデル ID を設定するだけで、既存の呼び出し方法のまま呼び出しを開始できます。
- 移行コストが低い:既存のアプリケーションはリクエスト先のアドレスとキーを OneGateway のものに置き換えるだけで、通常は主要な呼び出しロジックを書き換える必要はありません。
- プロバイダー間の差異はプラットフォームが吸収:プラットフォームが各プロバイダーのインターフェースの違いを統一的に吸収するため、インターフェース形式、エラーコード、ストリーミングレスポンスはアプリケーション側で一貫した体験になります。
- モデルの範囲は管理者が管理:管理者がプロバイダーへの接続、利用可能なモデル、料金を一元的に設定し、メンバーは利用可能なモデルで利用を許可されたモデルを確認して、コンテキスト長、料金、最近の稼働状況を比較できます。
高可用ルーティングと負荷分散
同じモデルを複数のプロバイダーで提供できます。OneGateway は優先度に従ってプロバイダーを選択し、同じ優先度の中では重みに従ってリクエストを振り分けます。プライマリのプロバイダーで呼び出しが失敗した場合は、リトライポリシーと組み合わせてバックアップのプロバイダーを試行でき、単一サービスへの依存を減らせます。
- 優先度と重み:優先度はプライマリとバックアップの順序を決め、同じ優先度の中では重みに従ってトラフィックを振り分けます。複数のプロバイダー間の比率調整に使えます。
- 失敗時のリトライ:リトライのトリガーとなるステータスコードとリトライ回数を設定できます。失敗が続くプロバイダーは候補から自動的に除外され、回復後に再び候補に戻ります。
- 容量の上乗せ:同じモデルに複数のプロバイダーを接続すると、単一プロバイダーのレート制限の影響を抑え、全体として利用可能な容量を増やせます。
- アプリケーションからは透過的:アプリケーションは同じモデル ID を使い続けられ、各プロバイダーのアドレスやキーを自前で管理する必要はありません。管理者はモデルルーティングビューで、提供関係、応答時間、プライマリ/バックアップの構成を確認できます。
以上は同じモデルをどのプロバイダーで処理するかの選択です。異なるモデルの間で選択したい場合(複雑度による振り分け、モデルの段階的な置き換え、モデルが利用できないときの切り替え)は、インテリジェントルーティングプラグインを使用してください。
キーと組織の権限管理
上流プロバイダーのキーは管理者が一元的に設定し、メンバーとアプリケーションは OneGateway が発行する API Key を使うため、上流の元のキーに触れることはありません。
- 用途ごとの権限付与:各キーにはクォータ、有効期限、利用可能なモデル、IP 制限を個別に設定でき、有効化・無効化や削除もできるため、アプリケーションや用途ごとに権限を分けて付与できます。キーの漏えいが疑われる場合はすぐに無効化し、そのキーを使ったリクエストが拒否されていることを確認できます。
- 階層的なアクセス制御:ロールが表示されるメニューと実行できる操作を制御し、API Key 上の制限によって呼び出せるモデル、クォータ、有効期限、送信元 IP をさらに絞り込みます。
- 組織単位のデータ分離:プラットフォームは組織ごとに業務データを分離し、部署は組織上の所属の管理と費用の分析に使われます。
- セルフサービスと代理管理の併用:メンバーは自分のキーを自分で管理し、個人の利用状況を確認できます。管理者はメンバーに代わってキーを作成し、制限を一括で調整できます。詳しくはユーザーの管理と API Keys の管理をご覧ください。
クォータ管理ときめ細かな課金
- 期間クォータ:メンバーに期間ごとにリセットされる消費上限を割り当てます。選択できる期間は現在の環境の画面表示に従います。部署単位でメンバーをまとめて選択して割り当てることもできます。
- 上限接近時の通知:通知を有効にすると、クォータの使用量が 80% に達した時点でメンバーに通知し、クォータを使い切って慌てる事態を防ぎます。
- 多層的な制限:API Key に個別のクォータを設定して、単一アプリケーションの消費をさらに制限できます。引き換えコード機能が有効な環境では、引き換えコードを使ってメンバーの残高をチャージすることもできます。
- 2 つの課金方式:モデルは Token 使用量または呼び出し回数で課金でき、入力、出力、キャッシュ読み取り、キャッシュ作成などの料金を個別に設定し、グループ料金の料金倍率と組み合わせて費用を計算します。
企業はこれをもとに呼び出しコストを照合し、クォータを計画して、無計画な消費を減らせます。具体的なルールはクォータと引き換えコードをご覧ください。
利用状況の分析と呼び出しの追跡
- 推移と分布:ダッシュボード、コストと利用量の画面で、リクエスト数、成功とエラーの状況、Token 使用量、費用の推移を確認し、部署、メンバー、モデル、プロバイダー別に利用状況を分析できます。
- 個々の呼び出しを追跡可能:リクエストログには、実際に使われたモデルとプロバイダー、所要時間、最初のトークンまでの時間、Token 使用量、課金明細が記録され、呼び出しの問題を特定しやすくなります。
- 管理操作の記録:設定変更は別途監査記録に残り、誰がいつ何を変更したかを追跡できます。
- ロールに応じた閲覧範囲:メンバーは個人のデータを確認し、管理者はダッシュボードと分析で組織全体の状況を把握します。
拡張プラグイン
OneGateway はプラグインによって、統合された呼び出しエンドポイントにモデルの選択、レスポンスの再利用、コンテンツチェックの機能を追加します。管理者は業務の必要に応じて有効化・設定できます。
- インテリジェントルーティング:リクエストを上流に送る前に、使用するモデルを決定します。呼び出し側は 1 つの仮想モデル名(例:
og-auto)を指定するだけで、ゲートウェイがリクエストの複雑度に応じて簡単・中程度・複雑の 3 段階のモデルを選択します。あるモデルを一定割合で別のモデルに段階的に置き換えたり、プライマリモデルの失敗時に候補モデルへ自動で切り替えたりすることもできます。課金は実際に使われたモデルで行われ、呼び出し側のインターフェースの変更は不要です。 - セマンティックキャッシュ:同一または意味の近い、一致条件を満たすリクエストに対して過去の回答を再利用し、モデルによる重複した生成を減らします。たとえば「商品に満足できません。返金を申請するにはどうすればよいですか?」と「購入後に返金したいのですが、どう操作すればよいですか?」は同じ回答を再利用できる場合があります。ヒットした場合は上流のモデルにリクエストしません。回答が安定しているよくある質問や製品に関する問い合わせに適しており、実際の効果はヒット率、キャッシュの有効期間、セマンティック検索のオーバーヘッドによって異なります。
- ガードレール:リクエストがモデルに送信される前と、回答が呼び出し元に返される前にテキストをチェックし、ルールに従ってブロックまたはマスキングします。機密情報の検出、プロンプトインジェクションの検知、コンテンツモデレーションに利用でき、ヒットしたイベントを記録して、企業がコンテンツの安全性ポリシーを統一的に適用できるようにします。
3 つの機能はいずれも、対応するインターフェースのストリーミング/非ストリーミング呼び出しの両方に対応しています。対応範囲と設定方法はインテリジェントルーティング、セマンティックキャッシュ、ガードレールをご覧ください。
デプロイモード
OneGateway は SaaS モードとハイブリッドデプロイモードに対応しており、企業のネットワーク条件、モデルの配置場所、データ管理の要件に応じてデプロイ方式を選択できます。
リアルタイムの呼び出しは Token Gate(データプレーン)が処理し、プロトコル変換、ルーティングと転送、課金の差し引き、およびインテリジェントルーティング、セマンティックキャッシュ、ガードレールなどのプラグイン機能を担います。
- SaaS モード:プラットフォームが提供するクラウドサービスを利用します。自分でデプロイする必要はなく、登録後すぐに接続できます。
- ハイブリッドデプロイモード:企業の社内ネットワークに専用の Token Gate をデプロイします。社内ネットワーク上のセルフホストモデルを呼び出す場合や、呼び出しトラフィックを企業ネットワークの外に出さないことが求められる場合に適しています。社内モデルを呼び出す場合、リクエストは Token Gate を経由して対象モデルに直接届きます。関連する処理サービスも企業ネットワーク内にデプロイされている場合は、リクエストとレスポンスの内容を社内ネットワークにとどめることができ、設定、クォータ、利用量などの管理データのみがクラウドのコンソールと同期されます。外部の Embedding、複雑度の分類モデル、セキュリティ審査モデル、判定サービスを有効にした場合は、関連するテキストが引き続きそれらのサービスに送信されます。詳しくはよくある質問をご覧ください。
使い始める
モデルをすぐに試したい場合は Playground で対話を始められます。Claude Code、Codex などのクライアントで使いたい場合は、よく使うツールとの連携を参照してください。
- メンバーと開発者:クイックスタートに従って API Key を取得し、最初の呼び出しを行います。
- 管理者:モデルサービスの接続を担当する場合は、プロバイダーとモデルから設定を始めます。
接続、権限、クォータ、キャッシュ、ガードレールに関するよくある疑問は、よくある質問(FAQ)をご覧ください。