ElevenLabs Guardrails 2.0

Was ist ElevenLabs Guardrails 2.0?

ElevenLabs Guardrails 2.0 ist eine überarbeitete Steuerschicht in ElevenAgents für Voice-AI-Agents, die konfigurierbare Sicherheits- und Verhaltensschutzmaßnahmen benötigen, bevor Antworten den Endnutzer erreichen. Sie ist so konzipiert, dass Agents markenkonform, thematisch passend und compliant auf Enterprise-Skala bleiben, indem sie Agents zu korrekten Ausgaben lenkt und unsichere oder off-policy Antworten verhindert.

Da AI-Agents nicht-deterministisch sind und in langen Gesprächen abdriften können – oder durch adversarische Eingaben beeinflusst werden – nutzt Guardrails 2.0 mehrschichtige Abwehrstrategien. Es kombiniert System-Prompt-Härtung mit Echtzeit-Prüfungen von Benutzereingaben und Agent-Antworten sowie Optionen für den Umgang mit Verstößen.

Wichtige Funktionen

• System-Prompt-Härtung (Focus Guardrail): Definiert erlaubtes und verbotenes Verhalten im System-Prompt und verstärkt diese Anweisungen durchgehend im Gespräch, um Abweichungen vom Ziel zu reduzieren.
• Benutzereingabe-Validierung (Manipulation Guardrails): Erkennt Prompt-Injection- und Anweisungs-Override-Versuche in Benutzernachrichten; bei erkannten Sicherheitsrisiken kann das Gespräch beendet werden.
• Agent-Antwort-Validierung (Policy Enforcement): Bewertet jede Agent-Antwort in Echtzeit gegen konfigurierte Policies und kann regelverstoßende Antworten vor der Zustellung an den Nutzer blockieren.
• Vorgefertigte und benutzerdefinierte Guardrails: Umfasst vorgefertigte Schutzmaßnahmen für gängige Risikobereiche sowie Custom Guardrails, mit denen Teams domänenspezifische Policies in natürlicher Sprache definieren.
• Konfigurierbares Enforcement-Verhalten: Unterstützt Execution Modes, die Latenz gegen Strenge abwägen, Exit Strategies (Beenden, Übertragen, Eskalation zu einem Menschen oder Wiederholung mit Korrekturanweisungen) sowie Content Sensitivity Levels pro Inhaltskategorie.
• Operative Sichtbarkeit und Governance-Unterstützung: Protokolliert jeden Guardrail-Trigger in den Gesprächsanalysen (welcher Guardrail ausgelöst wurde und welche Aktion ergriffen), und kann sensitive Informationen aus Transkripten, Aufzeichnungen und Webhook-Payloads nach Gesprächsende redigieren.

So verwenden Sie ElevenLabs Guardrails 2.0

1. Definieren Sie Basisverhalten im System-Prompt mit erlaubten und verbotenen Anweisungen, die Ihr Voice-Agent befolgen soll.
2. Aktivieren Sie die mehrschichtigen Guardrails für die zwei Echtzeit-Checkpoints: Validieren Sie Benutzereingaben auf Manipulationsversuche und Agent-Ausgaben gegen Ihre Policies.
3. Fügen Sie Custom Guardrails hinzu, indem Sie domänenspezifische Regeln in natürlicher Sprache für die Risiko- und Compliance-Anforderungen Ihrer Anwendung schreiben.
4. Wählen Sie Enforcement-Konfiguration: Legen Sie Guardrail-Execution-Modes fest, um Latenz und Strenge auszugleichen, konfigurieren Sie Exit-Strategies für ausgelöste Verstöße und passen Sie Content-Sensitivity-Levels an, um Überblockierungen zu vermeiden.
5. Überprüfen Sie protokollierte Trigger und verfeinern Sie Policies mithilfe der Gesprächsanalysen; optional Conversation-History-Redaktion aktivieren, um sensible Inhalte aus gespeicherten Ausgaben zu entfernen.

Anwendungsfälle

• Customer-Support-Voice-Agents: Halten Sie Antworten thematisch passend und internen Policies entsprechend in langen Hin-und-Her-Gesprächen, während regelverstoßende Antworten blockiert werden.
• Sales und Lead-Qualifizierung: Verstärken Sie konsistentes, zielgerichtetes Verhalten aus dem System-Prompt und validieren Sie Antworten in Echtzeit, um abweichende Anleitungen zu verhindern.
• Interne Workflow-Unterstützung: Schützen Sie hochwertige interne Interaktionen, indem Prompt-Injection- und Anweisungs-Override-Versuche gestoppt werden, die den Agent vom Auftrag abbringen könnten.
• Compliance-sensible Inhaltsbehandlung: Nutzen Sie Content Guardrails, um potenziell sensible oder unsichere Inhaltskategorien mit einstellbaren Schwellenwerten zu filtern.
• Domänenspezifische Policy-Enforcement: Erstellen Sie Custom Guardrails, um Geschäfts- oder Regulierungsbeschränkungen (in natürlicher Sprache) zu kodieren und sie automatisch über Gespräche hinweg durchzusetzen.

FAQ

Verlässt sich Guardrails 2.0 nur auf einen Systemprompt?
Nein. Während die Systemprompt-Härtung (mit dem Focus Guardrail) die Grundlage bildet, fügt Guardrails 2.0 unabhängige Echtzeit-Prüfungen auf Benutzereingabe-Manipulation und Verletzungen der Agentenrichtlinien hinzu.

Was passiert, wenn ein Guardrail ausgelöst wird?
Guardrails 2.0 kann konfigurierte Aktionen ausführen, wie das Beenden des Gesprächs, Weiterleitung zu einem anderen Agenten, Eskalation zu einem Menschen oder Wiederholung mit korrigierenden Anweisungen.

Können Guardrails die Voice-Latenz beeinflussen?
Ja. Die Funktion umfasst Ausführungsmodi, mit denen Teams zwischen Geschwindigkeit und Strenge wählen können. Ein Modus führt Guardrails parallel zur Antwort aus (mit der Möglichkeit, dass ein Bruchteil einer Sekunde Audio abgespielt wird), ein anderer Modus hält Antworten zurück, bis sie vollständig freigegeben sind.

Wie werden Richtlinienverletzungen nachverfolgt?
Jeder Auslöser wird in den Gesprächsanalysen protokolliert, inklusive welcher Guardrail ausgelöst wurde und welche Aktion ergriffen wurde – hilft Teams, Prompts und Guardrails im Laufe der Zeit zu optimieren.

Kann sensible Daten nach einem Anruf entfernt werden?
Ja. Nach Beendigung eines Anrufs kann Guardrails 2.0 sensible Informationen automatisch aus Transkripten, Aufzeichnungen und Webhook-Payloads schwärzen, während Daten für Analysen, QA und Training erhalten bleiben.

Alternativen

• Manuelle Moderation und nachträgliche Überprüfung: Statt Antworten in Echtzeit zu blocken oder umzuleiten, können Teams Transkripte nach Anrufen analysieren. Dies erhöht typischerweise das Risiko, dass unsicherer Inhalt Nutzer erreicht, und verlangsamt Feedback-Schleifen.
• Nur-Prompt-basierte Steuerungen: Nur auf einen gehärteten Systemprompt zu setzen reduziert Komplexität, adressiert aber Nicht-Determinismus und adversarische Benutzereingaben nicht so effektiv wie mehrschichtige Prüfungen.
• Anwendungseitige Inhaltsfilterung: Filter für Eingabe- und Ausgabeströme in der aufrufenden Anwendung implementieren. Dies kann ähnliche Sicherheitsziele erreichen, erfordert aber eigene Logik für Evaluierung und Protokollierung.
• Allgemeine Safety-Klassifizierer ohne Richtlinienorchestrierung: Standalone-Moderationsmodelle für Inhaltsdetektion können bei der Screening unsicherer Inhalte helfen, bieten aber nicht denselben einheitlichen Ansatz für Eingabevalidierung, Antwortblockierung, Ausstiegsstrategien und Analysenprotokollierung wie hier beschrieben.