UStackUStack
Sub2API icon

Sub2API

Sub2API ist ein Open-Source AI-API-Gateway zur Verteilung und Verwaltung von Subscription-Quotas über mehrere Upstream-Konten – mit Auth, Scheduling & Usage-Tracking.

Sub2API

Was ist Sub2API?

Sub2API ist eine Open-Source AI-API-Gateway-Plattform, die hilft, API-Quotas aus AI-Produkt-Subscriptions zu verteilen und zu verwalten. Statt dass jeder Nutzer direkt mit Upstream-AI-Services integriert, stellt Sub2API plattformgenerierte API-Keys bereit, während es Authentifizierung, abrechnungsbezogene Buchhaltung, Load Balancing und Request-Weiterleitung übernimmt.

Das Projekt ist für Setups konzipiert, in denen mehrere Upstream-Konten gebündelt und über ein einheitliches Gateway bereitgestellt werden, inklusive Features wie Multi-Account-Support, quota-bewusstem Scheduling und Steuerungen für Concurrency und Rate Limiting.

Wichtige Features

  • Multi-Account-Management für Upstream-Verbindungen (unterstützt mehrere Upstream-Account-Typen wie OAuth und API Key), sodass ein Gateway mehrere Upstream-Konten bedienen kann.
  • API-Key-Verteilung (Generierung und Verwaltung von API-Keys für Nutzer), damit Nutzer sich bei Sub2API authentifizieren statt mehrere Upstream-Credentials zu verwalten.
  • Token-level Usage-Tracking und Kostenberechnung zur Nachverfolgung und Berechnung der Nutzung auf Token-Ebene für abrechnungsbezogene Buchhaltung.
  • Intelligentes Scheduling mit Sticky Sessions, das Upstream-Konten smart auswählt und Session-Routing in Multi-Account-Umgebungen stabil hält.
  • Concurrency-Control und konfigurierbares Rate Limiting (pro-Nutzer- und pro-Account-Concurrency-Limits; Request- und Token-Rate-Limits), um Überlastung zu vermeiden und Throughput zu managen.
  • Admin-Dashboard für Monitoring und Management über eine Weboberfläche.
  • Integration externer Systeme zur Erweiterung des Admin-Dashboards mit iFrames (z. B. Einbettung von Zahlungs- oder Ticket-Systemen).

So nutzt du Sub2API

  1. Entscheide, ob du selbst hosten oder den offiziellen Relay-Service nutzen möchtest. Das Repository erwähnt den offiziellen Relay PinCC für Nutzer, die nicht selbst hosten wollen.
  2. Bei Selbsthosting: Installiere Sub2API auf einem Linux-Server (amd64 oder arm64) mit PostgreSQL 15+ und Redis 7+.
  3. Installiere mit dem bereitgestellten One-Click-Script aus dem Repository, starte den Service und aktiviere ihn beim Boot.
  4. Öffne den Setup-Wizard im Browser (README verweist auf http://YOUR_SERVER_IP:8080), um Datenbank/Redis-Einstellungen zu konfigurieren und ein Admin-Konto zu erstellen.
  5. Im Admin-Dashboard: Verwalte Einstellungen und User-API-Keys; Nutzer rufen dann Upstream-AI-Services über die Plattform mit ihren Sub2API-API-Keys auf.

Anwendungsfälle

  • Bündelung mehrerer Upstream-Subscription-Konten: Nutze Sub2API, um Quota-Nutzung zu zentralisieren und Nutzer über ein einziges Gateway zu bedienen, während Requests über Upstream-Konten verteilt werden.
  • Quota-Verteilung für Teams: Gib Teammitgliedern individuelle Sub2API-API-Keys, während Sub2API Token-Nutzung trackt und Scheduling sowie Limits managed.
  • Throughput-Management mit Limits: Konfiguriere pro-Nutzer- und pro-Account-Concurrency-Limits plus Request/Token-Rate-Limits, um Last zu formen und Upstream-Sättigung zu reduzieren.
  • Operative Sichtbarkeit und Administration: Nutze das integrierte Admin-Dashboard, um das Gateway zu überwachen und zu verwalten, statt nur auf Upstream-Provider-Dashboards angewiesen zu sein.
  • Erweiterung interner Workflows: Betten externe Systeme (z. B. Zahlung oder Ticketing) per iFrames ins Admin-Dashboard ein, um operative Prozesse zu unterstützen.

FAQ

  • Ist Sub2API an eine bestimmte Domain gebunden? Das Repository gibt an, dass Sub2API offiziell nur sub2api.org und pincc.ai nutzt. Andere Sites mit dem Sub2API-Namen könnten Third-Party-Deployments sein und sind nicht affiliated; Nutzer sollten unabhängig prüfen.

  • Wie deploye ich Sub2API? Das Projekt beschreibt zwei Deployment-Methoden: Installation via Script, das Pre-Built-Binaries aus GitHub Releases lädt, oder Deployment mit Docker Compose (inkl. PostgreSQL- und Redis-Containern).

  • Welche Upstream-Konten unterstützt Sub2API? Es unterstützt mehrere Upstream-Account-Typen, inkl. OAuth und API Key (wie in der Feature-Liste angegeben).

  • Was tun bei Nginx als Reverse Proxy? Die README weist darauf hin, dass bei Nginx mit Sub2API (oder CRS) und Codex CLI underscores_in_headers on; im http-Block hinzugefügt werden sollte, da Nginx standardmäßig Headers mit Underscores dropt und das Sticky-Session-Routing in Multi-Account-Setups stören kann.

Alternativen

  • Offiziellen Relay-Service nutzen (PinCC): Wenn Sie Sub2API nicht selbst hosten möchten, verweist das Repository auf PinCC als offiziellen Relay auf Basis von Sub2API – für Nutzer, die sofortigen Zugriff ohne Deployment/Wartung wünschen.
  • Selbstverwaltetes API-Gateway für Quotas und Routing einsetzen: Wenn Sie bereits Infrastruktur betreiben, suchen Sie nach Gateway-/Routing-Lösungen mit Unterstützung für API-Keys, Authentifizierung, Rate Limiting und Request-Forwarding; anders als bei Sub2API fehlt oft Token-basiertes Usage-Tracking und AI-Subscription-orientierte Quota-Verteilung.
  • Eigenen Proxy-Service entwickeln: Implementieren Sie einen Application-Layer-Proxy, der Requests an Upstream-AI-Provider weiterleitet und Limits durchsetzt; im Vergleich zu Sub2API erfordert das meist mehr Entwicklungsaufwand für Features wie Sticky Sessions und Token-basiertes Accounting.
  • Multi-Tenant-API-Management-Ansatz verwenden: Allgemeine API-Management-Plattformen zentralisieren Auth und Throttling, erfordern aber oft Anpassungen, um Sub2API’s Quota-Verteilung und tokenbasiertes Usage-Accounting-Workflow zu erreichen.
Sub2API | UStack