Manifest

Was ist Manifest?

Manifest ist der Open-Source-LLM-Router für OpenClaw. Er erfasst Ihre Anfragen und leitet jede Anfrage an das Modell weiter, das er als kostengünstigste Wahl ermittelt, um die Token-Nutzungskosten zu senken.

Laut Projektseite führt Manifest die Anfragenbewertung lokal auf Ihrem Rechner durch (in weniger als 2 ms) und leitet die Anfrage dann an das am besten passende Modell weiter. Es verfolgt zudem Token- und Nachrichten-Kosten und ermöglicht das Setzen von Nutzungsgrenzen oder Warnungen.

Wichtige Funktionen

• Lokale Anfragenbewertung für Routing-Entscheidungen: Manifest analysiert jede Anfrage lokal in weniger als 2 ms, bevor sie weitergeleitet wird.
• Weiterleitung zum kostengünstigsten Modell: Statt allen Traffic an ein einziges Modell zu senden, wählt Manifest pro Anfrage das passendste Modell aus.
• Kostenverfolgung pro Nachricht: Die Seite beschreibt die Messung von Token-Kosten für Nachrichten und gibt Hinweise zur Überwachung von Einsparungen.
• Nutzungsgrenzen und Warnungen: Sie können Grenzen oder Warnungen setzen, wenn ein Budget überschritten wird.
• Datenschutzorientierte Telemetrie: Die Seite betont, dass Manifest Ihren Inhalt nicht erfasst; es nutzt nur Telemetrie-Metadaten und führt die Anfragenbewertung on-device durch. Es wird auch eine „Cloud-Version“ als blindes Proxy erwähnt, das Datenschutz durch Architektur unterstützt.
• OpenTelemetry-kompatible Telemetrie: Manifest verwendet den OpenTelemetry-Standard zur Erfassung und Export von Telemetriedaten.
• Open Source und einsehbar: Manifest ist vollständig Open Source, gedacht zum Einsehen, Erweitern und Self-Hosting (keine Black Boxes).
• Native OpenClaw-Plugin: Die Installation wird als Ein-Kommando-Setup ohne Programmieraufwand beschrieben.

So verwenden Sie Manifest

1. Installieren Sie Manifest als natives OpenClaw-Plugin mit dem auf der Seite beschriebenen Ein-Kommando-Installer.
2. Konfigurieren Sie OpenClaw so, dass Anfragen vor der Modellauswahl an Manifest weitergeleitet werden.
3. Senden Sie Anfragen über OpenClaw; Manifest bewertet jede Anfrage lokal und leitet sie an das ausgewählte Modell weiter.
4. Überprüfen Sie die von Manifest erzeugten Kosten- und Token-Daten, dann setzen Sie Nutzungsgrenzen oder Warnungen, um im Budget zu bleiben.
5. Bei Telemetrie-Export nutzen Sie das vom Projekt beschriebene OpenTelemetry-Format, um es in Ihren Observability-Workflow zu integrieren.

Anwendungsfälle

• Ausgaben senken bei variierender Anfragenkomplexität: Wenn einige Aufgaben klein (oder weniger leistungsfähig) sind und andere anspruchsvoller, leitet Manifest jede Anfrage an ein kostengünstigeres Modell weiter.
• Budgets in aktiven Deployments durchsetzen: Teams können Nutzungsgrenzen oder Warnungen setzen, damit Kosten pausieren oder Benachrichtigungen ausgelöst werden, wenn Schwellenwerte erreicht sind.
• Unter Datenschutzbeschränkungen arbeiten: Wenn Sie on-device-Entscheidungen bevorzugen, geschieht die Anfragenbewertung auf Ihrem Rechner und Inhalte werden nicht erfasst (nur Telemetrie-Metadaten).
• Modellnutzungskosten überwachen und prüfen: Durch Verfolgung der Kosten pro Nachricht und Export von Telemetrie via OpenTelemetry verstehen Sie, wie der Token-Verbrauch sich im Laufe der Zeit ändert.
• Routing-Logik self-hosten oder prüfen: Da Manifest Open Source ist und Inspection/Self-Hosting unterstützt, können Entwickler das Verhalten überprüfen und an ihre Umgebung anpassen.

FAQ

Erfassen Sie Manifest meinen Inhalt?

Die Seite betont, dass Manifest Ihren Inhalt nicht erfasst und nur Telemetrie-Metadaten nutzt. Die Anfragenbewertung erfolgt auf Ihrem Rechner.

Wie entscheidet Manifest, welches Modell verwendet wird?

Manifest analysiert jede Anfrage lokal (in weniger als 2 ms, laut Seite) und leitet sie an das am besten passende/kostengünstigste Modell basierend auf dieser lokalen Bewertung weiter.

Kann ich überwachen, wie viele Tokens und Kosten genutzt werden?

Ja. Die Seite beschreibt die Verfolgung von Token-/Nachrichten-Kosten und bietet Funktionen zum Setzen von Grenzen oder Warnungen bei Budgetüberschreitung.

Ist Manifest Open Source?

Ja. Die Seite sagt, Manifest sei vollständig Open Source und einsehbar, erweiterbar oder self-hostbar.

Wie wird Telemetrie gehandhabt?

Manifest verwendet den OpenTelemetry-Standard zur Erfassung und Export von Telemetriedaten. Die Seite betont den Datenschutz, indem sie angibt, dass nur Telemetrie-Metadaten erfasst werden.

Alternativen

• Selbstverwaltete LLM-Routing-Dienste: Statt eines OpenClaw-Plugins könnten Sie Ihren eigenen Router-Dienst betreiben, der Modelle pro Anfrage auswählt und Bequemlichkeit gegen benutzerdefinierte Kontrolle über Routing und Bewertung eintauscht.
• OpenTelemetry-basierte Überwachung ohne Routing: Wenn Ihr Hauptziel die Überwachung von Kosten und Modellnutzung ist, können Sie sich auf Telemetrie-/Observability-Tools konzentrieren statt auf Modellauswahl und Routing.
• Single-Model-Deployments mit manueller Modellauswahl: Manche Setups leiten alle Anfragen an ein Modell weiter (oder verlangen vom Client eine Auswahl). Das ist einfacher, zielt aber nicht darauf ab, Modelle pro Anfrage je nach Kosteneffizienz zu wechseln.
• Andere AI-Proxy/Gateway-Ansätze: Je nach Stack können Sie ein AI-Gateway/Proxy-Muster zur Vermittlung von Anfragen nutzen, wobei der Workflow vom OpenClaw-Plugin-Modell von Manifest abweichen kann.