ElevenLabs Guardrails 2.0

ElevenLabs Guardrails 2.0とは？

ElevenLabs Guardrails 2.0は、ElevenAgents内の再設計された制御レイヤーで、応答がエンドユーザーに届く前に設定可能な安全・行動保護が必要な音声AIエージェント向けです。エージェントをブランド・トピックに沿ったものに保ち、エンタープライズ規模で準拠させるために設計されており、エージェントを正しい出力へ導き、不安全またはポリシー外の応答を防ぎます。

AIエージェントは非決定的で、長時間の会話で漂移したり、敵対的入力で押されたりする可能性があるため、Guardrails 2.0は多層防御を使用します。システムプロンプトの強化とユーザー入力・エージェント応答のリアルタイムチェックを組み合わせ、違反時の処理オプションを提供します。

主な機能

• システムプロンプト強化 (Focus Guardrail): システムプロンプトで許可・不許可の動作を定義し、会話全体で指示を強化して目標外漂移を低減。
• ユーザー入力検証 (Manipulation Guardrails): ユーザー消息でプロンプトインジェクションや指示上書きの試みを検知；セキュリティリスク検知時は会話を終了可能。
• エージェント応答検証 (Policy enforcement): 設定ポリシーに対し全エージェント返信をリアルタイム評価し、ルール違反応答をユーザーに届く前にブロック。
• プリビルドおよびカスタムガードレール: 一般的なリスク領域向けプリビルド保護と、チームが自然言語でドメイン特化ポリシーを定義するCustom Guardrailsを含む。
• 設定可能な施行動作: レイテンシ対厳格さのトレードオフを担うexecution modes、exit strategies（終了、転送、人間エスカレーション、修正指示での再試行）、およびコンテンツカテゴリごとのcontent sensitivity levelsをサポート。
• 運用可視性とガバナンス支援: 会話アナリティクスに全ガードレール発火をログ（どのガードレールが発火し、取られたアクション）、通話終了後にトランスクリプト・録音・webhookペイロードからredact sensitive information可能。

ElevenLabs Guardrails 2.0の使い方

1. システムプロンプトで基本動作を定義：音声エージェントが従う許可・不許可指示を使用。
2. 多層ガードレールを有効化：2つのリアルタイムチェックポイントでユーザー入力の操作試みを検証し、エージェント出力をポリシーで検証。
3. Custom Guardrailsを追加：アプリケーション特化のリスク・準拠ニーズ向けに自然言語でドメイン特化ルールを記述。
4. 施行設定を選択：ガードレール実行モードを応答レイテンシと厳格さのバランスに設定、発火違反のexit strategiesを設定、過剰ブロックを避けるコンテンツ感度レベルを調整。
5. ログ発火をレビューしポリシーを洗練：会話アナリティクスを使用；オプションで保存出力から機密コンテンツを除去する会話履歴redactionを有効化。

ユースケース

• カスタマーサポート音声エージェント: 長時間のやり取りで応答をトピック・内部ポリシーに沿わせ、設定ルール違反返信をブロック。
• 営業・リード資格付け: システムプロンプトで一貫した目標指向動作を強化し、リアルタイムで応答を検証してメッセージ外ガイダンスを防止。
• 内部ワークフロー支援: プロンプトインジェクション・指示上書き試みを停止し、高影響内部インタラクションを保護。
• 準拠感度コンテンツ処理: Content Guardrailsで潜在的に感度・不安全なコンテンツカテゴリを調整可能閾値でスクリーニング。
• ドメイン特化ポリシー施行: ビジネス・規制制約を自然言語でエンコードしたCustom Guardrailsを作成し、通話全体で自動施行。

FAQ

Guardrails 2.0はシステムプロンプトのみに依存しますか？ いいえ。システムプロンプトの強化（Focus Guardrail使用）が基盤ですが、Guardrails 2.0はユーザー入力の操作やエージェント応答のポリシー違反に対する独立したリアルタイムチェックも追加します。

ガードレールがトリガーされた場合、何が起こりますか？ Guardrails 2.0は、会話終了、別エージェントへの転送、人間へのエスカレーション、修正指示での再試行などの設定されたアクションを実行できます。

ガードレールは音声遅延に影響しますか？ はい。この機能には、速度と厳格さのトレードオフを選択できる実行モードが含まれます。一つのモードは応答と並行してガードレールを動作させ（数分の1秒のオーディオが再生される可能性あり）、もう一つのモードは完全にクリアされるまで応答を保留します。

ポリシー違反はどのように追跡されますか？ すべてのトリガーは会話アナリティクスにログされ、どのガードレールが発火したか、どのアクションが取られたかが記録され、チームがプロンプトとガードレールを時間とともに改善するのに役立ちます。

通話後に機密データを削除できますか？ はい。通話終了後、Guardrails 2.0はトランスクリプト、レコーディング、Webhookペイロードから機密情報を自動的に削除しつつ、アナリティクス、QA、トレーニングに必要なデータを保持します。

代替案

• 手動モデレーションと事後レビュー： リアルタイムで応答をブロック/リダイレクトする代わりに、通話後のトランスクリプトを分析します。これにより、危険なコンテンツがユーザーに届くリスクが増大し、フィードバックループが遅くなります。
• プロンプトのみの単層制御： 強化されたシステムプロンプトのみに依存すると複雑さが減りますが、非決定論性や敵対的ユーザー入力に対しては多層チェックほど効果的ではありません。
• アプリケーション側のコンテンツフィルタリング： 呼び出しアプリケーションの入力/出力ストリームにフィルタを実装します。類似の安全目標を達成できますが、評価ロジックとログを自力で構築・維持する必要があります。
• ポリシーオーケストレーションなしの汎用安全分類器： スタンドアロンのモデレーションモデルでコンテンツ検知を行うと危険コンテンツのスクリーニングに役立ちますが、ここで説明する入力検証、応答ブロック、終了戦略、アナリティクスログの統一アプローチを提供しない可能性があります。