UStackUStack
Sub2API icon

Sub2API

Sub2APIはオープンソースのAI APIゲートウェイ。複数の上流AIアカウントにサブスク枠を配分・管理し、APIキー認証/スケジューリング/利用追跡を提供。

Sub2API

Sub2APIとは?

Sub2APIは、オープンソースのAI APIゲートウェイプラットフォームです。AI製品のサブスクリプションからAPIクォータを分散・管理します。ユーザーが上流AIサービスに直接統合する代わりに、Sub2APIが認証、課金関連の会計、負荷分散、リクエスト転送を処理し、プラットフォーム生成のAPIキーを作成します。

このプロジェクトは、複数の上流アカウントをプールして一貫したゲートウェイ経由で提供するセットアップ向けに設計されており、マルチアカウント対応、クォータ認識スケジューリング、同時実行数とレート制限の制御などの機能を含みます。

主な機能

  • 上流接続向けマルチアカウント管理(OAuthやAPIキーなどの複数上流アカウントタイプ対応)。1つのゲートウェイで複数の上流アカウントをサービス可能。
  • APIキー配布(ユーザー向けAPIキーの生成・管理)。ユーザーは複数の上流認証情報を管理せず、Sub2APIに対して認証。
  • トークンレベル利用追跡とコスト計算。課金関連会計向けにトークンレベルで利用を追跡・計算。
  • スティッキーセッション付きスマートスケジューリング。マルチアカウント環境で上流アカウントをインテリジェントに選択しつつ、セッションルーティングを安定化。
  • 同時実行制御と設定可能レート制限(ユーザーごと・アカウントごとの同時実行制限、リクエスト・トークンレート制限)。オーバーロード防止とスループット管理。
  • Webインターフェース経由の管理ダッシュボード。監視と管理に使用。
  • iframe使用の外部システム統合。管理ダッシュボード拡張(例: 決済やチケットシステムの埋め込み)。

Sub2APIの使い方

  1. セルフホストするか公式リレーサービスを利用するか決定。リポジトリにセルフホスト不要ユーザー向け公式リレーPinCCを記載。
  2. セルフホストの場合、PostgreSQL 15+とRedis 7+が利用可能なLinuxサーバー(amd64またはarm64)にSub2APIをインストール。
  3. リポジトリのワンクリックスクリプトでインストールし、サービス起動とブート時有効化。
  4. ブラウザでセットアップウィザードを開く(READMEにhttp://YOUR_SERVER_IP:8080を記載)。データベース/Redis設定と管理者アカウント作成。
  5. 管理ダッシュボードから設定とユーザーAPIキーを管理。ユーザーはSub2API発行のAPIキーを使ってプラットフォーム経由で上流AIサービスを呼び出し。

ユースケース

  • 複数上流サブスクアカウントのプーリング: Sub2APIでクォータ利用を一元化し、単一ゲートウェイ経由でユーザーに提供しつつ、リクエストを上流アカウントに分散。
  • チーム向けクォータ配分: チームメンバーに個別Sub2API APIキーを発行し、Sub2APIがトークンレベル利用追跡、スケジューリング、リミット管理。
  • リミット付きスループット管理: ユーザーごと・アカウントごとの同時実行制限とリクエスト/トークンレート制限を設定し、負荷形成と上流飽和リスク低減。
  • 運用可視性と管理: 上流プロバイダーダッシュボードに頼らず、ビルトイン管理ダッシュボードでゲートウェイ監視・管理。
  • 内部ワークフロー拡張: iframeで外部システム(決済やチケットなど)を管理ダッシュボードに埋め込み、運用プロセス支援。

FAQ

  • Sub2APIは特定ドメインに紐づく? リポジトリによると、Sub2APIは公式にsub2api.orgpincc.aiのみ使用。他のSub2API名称サイトはサードパーティデプロイの可能性があり、関連なし。ユーザーは独自確認を。

  • Sub2APIのデプロイ方法は? プロジェクトに2つの方法記載: GitHub Releasesからプリビルドバイナリをダウンロードするスクリプトインストール、またはDocker Composeデプロイ(PostgreSQLとRedisコンテナ含む)。

  • Sub2APIがサポートする上流アカウントは? 機能リスト記載の通り、OAuthやAPIキーなど複数上流アカウントタイプ対応。

  • Nginxをリバースプロキシで使う場合の注意は? READMEによると、Sub2API(またはCRS)とCodex CLIでNginx使用時、httpブロック内にunderscores_in_headers on;を追加。Nginxがデフォルトでアンダースコア含むヘッダーをドロップするため、マルチアカウントセットアップのスティッキーセッションルーティングが壊れる。

代替案

  • 公式リレーサービス(PinCC)を使用:Sub2APIをセルフホストしたくない場合、リポジトリがSub2APIベースの公式リレーとしてPinCCを指しており、デプロイ/メンテ不要で即利用したいユーザー向け。
  • クォータとルーティング用のセルフマネージドAPIゲートウェイを使用:インフラをすでに運用中の場合、APIキー/認証/レート制限/リクエスト転送をサポートするゲートウェイ/ルート管理ソリューションを探せます。Sub2APIとは異なり、トークンレベル利用追跡やAIサブスク指向クォータ配分が含まれない可能性あり。
  • カスタムプロキシサービスを構築:上流AIプロバイダへリクエストをルーティングし制限を強制するアプリケーションレイヤープロキシを実装可能。Sub2API比で、sticky sessionsやトークンレベル会計などの機能に通常より多くのエンジニアリング作業が必要。
  • マルチテナントAPI管理アプローチを使用:汎用API管理プラットフォームで認証とスロットリングを一元化可能だが、Sub2APIのクォータ配分とトークンベース利用会計ワークフローに合わせるには追加カスタマイズが必要な場合あり。
Sub2API | UStack