Guardrails 2.0

Guardrails 2.0は、ElevenLabsのElevenAgents向け制御レイヤー。AI音声エージェントをトピックに沿って保ち、ポリシーに合わせて、商用環境でより安全に運用できます。

概要

Guardrails 2.0はElevenLabsのElevenAgents向け制御レイヤーで、音声エージェントがチームの指示、安全ルール、運用目標に沿って動くよう設計されています。エージェントの挙動に対して多層的なチェックを追加し、逸脱の抑制、操作の試みの検出、ポリシー違反の応答をユーザーに届く前にブロックできるようにします。

この製品は、サポート、営業、マーケティング、社内ワークフローなどの本番音声エージェント導入を対象としています。制御はエージェント設定またはAPIで構成でき、ページではConversation Analytics、任意のZero Retention Mode、対象顧客向けの通話後削除を含む、エンタープライズ導入向けのより広い信頼・安全性スタックの一部として位置付けられています。

主要機能

システムプロンプトの強化

強化されたシステムプロンプトが基準となるポリシーを提供し、Focus Guardrailが会話全体を通じてその指示を強化することで、長く複雑なやり取りでの逸脱を抑えます。

ユーザー入力の検証

ユーザー入力をプロンプトインジェクションや指示上書きの試みに対して検証し、セキュリティリスクのある会話を終了することもできます。

エージェント応答の検証

各応答はユーザーに届く前に設定済みポリシーに照らして評価され、安全でない出力や話題から外れた出力をリアルタイムでブロックできます。

カスタムガードレール

Custom Guardrailsにより、チームは自然言語でドメイン固有のルールを書き、ブロックか許可かの判定で通話全体に自動適用できます。

設定可能な強制動作

実行モード、終了戦略、コンテンツ感度、ガードレールごとの切り替え設定により、適用の厳しさやトリガー後の動作を細かく制御できます。

ログ記録と通話後の削除

トリガーとアクションはConversation Analyticsに記録され、通話終了後には機微情報を文字起こし、録音、Webhookペイロードから削除できます。

適用領域

エージェントを話題に沿って維持する
サポートやオンボーディングの会話のように、逸脱が誤った回答につながりうる長い通話や複雑な通話で、音声エージェントを台本どおりに保ちたいときにGuardrails 2.0を使います。
プロンプトインジェクションのリスクを低減する
ユーザーが指示を上書きしたり、モデルを安全でない振る舞いに誘導しようとする可能性がある、顧客向けワークフローで操作防止と応答チェックを適用します。
ドメインポリシーを強制する
エスカレーションルール、禁止トピック、規制対象の表現要件など、会社固有のポリシーをカスタムガードレールで適用します。
ライブ通話向けに挙動を調整する
チームが低リスクと高リスクの問題を異なる方法で扱いたいライブ音声対話向けに、終了戦略と感度レベルを設定します。
レビューと削除のワークフローを支援する
ログ記録と削除を通話後のQAワークフローと組み合わせ、レビュー用の文字起こしや録音を使いながら、保存済みアーティファクトから機微情報を除去します。

Pros and Cons

Pros

会話履歴の削除やZero Retention Modeを含む一部の制御は、エンタープライズ専用として説明されています。
ページには、対応するすべての統合先や各ガードレール種別の詳細な制限は記載されていません。
ガードレールは異なる強制モードで動作できるため、より厳しい設定では、応答を即時にストリーミングする場合より遅延が増える可能性があります。

Cons

システムプロンプトだけに頼らず、多層的なチェックを使います。
逸脱した挙動、プロンプトインジェクション、安全でない応答という3つの一般的なリスクに対応します。
自然言語でカスタムのドメイン固有ルールを定義できます。
強制動作、終了戦略、感度レベルをチーム側で選べます。
Conversation Analyticsとトリガーログにより可視性を提供します。

FAQ

Guardrails 2.0はどうやって有効にしますか？

Guardrails 2.0はElevenAgentsで設定します。ページでは、エージェント設定のSecurityタブで有効化できるほか、API経由でも設定できると説明されています。

Guardrails 2.0は実際に何をしますか？

ページでは、システムプロンプトの強化、ユーザー入力の検証、エージェント応答の検証という3つの層があると説明しています。これらが連携して指示を強化し、操作の試みを検出し、配信前にポリシー違反の応答をブロックします。

独自のガードレールルールを定義できますか？

ページによると、カスタムガードレールを使えば、ドメイン固有のポリシーを自然言語で定義し、各通話に対して自動的に適用できます。軽量モデルが各応答を評価し、ブロックか許可かを判定します。

Guardrailsはポリシー違反をどう扱いますか？

はい。ページでは、実行モードを使って、ガードレールを応答と並行して実行してほぼ遅延なく処理するか、完全にクリアされるまで応答を保留するかを選べると説明しています。また、会話を終了する、別のエージェントに引き継ぐ、人間にエスカレーションする、修正指示を付けて再試行する、といった終了戦略も定義できると記載されています。

削除機能とゼロ保持機能は誰でも使えますか？

会話履歴の削除とZero Retention Modeは、エンタープライズ顧客向けとして説明されています。ページでは、利用については営業への問い合わせが案内されています。

Quick Facts

カテゴリ: AI音声エージェント / 安全性
プラットフォーム: ElevenAgents
主な利用者: サポート、営業、マーケティング、社内ワークフロー向けに音声エージェントを導入するチーム
ソースドメイン: elevenlabs.io
提供状況: ElevenAgentsでalpha版として利用可能。エージェント設定またはAPIで構成可能
価格: ページに単体価格の記載なし。ElevenLabsは有料プランと、営業問い合わせのエンタープライズオプションを提供

Guardrails 2.0の代替品

Wallie

Wallieは、画面を見てチャットを聞き、設定したペルソナでライブ解説を生成するオープンソースAI streamer。自分のキーでローカル実行でき、顔出しなし配信や自律配信、リアルタイム反応に最適です。

CreateOS Sandbox

CreateOS Sandboxは、FirecrackerマイクロVM上でコードやエージェントのワークロードを実行できる分離型コンピュート環境です。SDK、CLI、MCPで制御可能。

Codex Plugins

Codex Plugins は、再利用可能なスキル、アプリ連携、MCPサーバーを Codex app や Codex CLI で使えるワークフローにまとめます。接続サービスの作業や共有チームワークフローを拡張できます。

PXZ AI

画像、動画、音声、ライティング、チャットのツールを統合したオールインワンAIプラットフォームで、創造性とコラボレーションを高めます。

Gemma AI

Gemma AIは、プッシュ通知の代わりに予定に合わせて電話でリマインドする通話型リマインダーアプリです。Googleカレンダー同期と会話形式の操作に対応。

CAMB.AI Streams

CAMB.AI Streams は、YouTube、Twitch、X などの配信でライブ音声を多言語にリアルタイム吹き替え。SRT、RTMP、HLS対応で既存のライブワークフローに接続し、後編集なしで多言語配信を実現します。