Fabraix Playground

Fabraix Playgroundは、AIエージェントへのプロンプトインジェクションを試すWebベースのチャレンジサイト。Kaiとの対話で秘密のアクセスコードを引き出し、承認済みの突破を週次賞へ応募できます。

概要

Fabraix Playgroundは、AIエージェントに対するプロンプトインジェクションのスキルを試すブラウザベースのチャレンジサイトです。現在のチャレンジ「The Gatekeeper」では、プレイヤーは会話を通じて、Kaiという名前のAIアシスタントから秘密のアクセスコードを引き出すことを求められます。

このページは、守られたチャット演習として体験を構成しています。Kaiは質問に答え、根拠のある応答のためにライブWeb検索を利用しますが、同時にソーシャルエンジニアリング、プロンプトインジェクション、操作の試みに抵抗するよう訓練されています。目標を達成するとラウンドは終了し、成功した突破はサインイン後に週次賞の審査とリーダーボード掲載のために提出できます。

主な機能

対話型プロンプトインジェクションチャレンジ

このチャレンジでは、防御用AIアシスタントKaiが提示され、会話を通じて秘密のアクセスコードを引き出すことが求められます。

Web検索に基づくアシスタント

アシスタントはリアルタイムのWeb検索に基づいて応答すると説明しており、最新情報を認識するモデルに対するテストを意図しています。

メッセージごとの採点と勝利条件

各メッセージはガードレールによって採点され、目的が達成されるとラウンドが終了します。

アカウントベースの提出フロー

突破を週次賞に応募する前に、サインイン手順が必要です。

順位表掲載前の手動審査

承認済みの突破は、即時ではなくスタッフの審査後にリーダーボードへ追加されます。

保存されたセッション履歴

履歴エリアには、サインインしたアカウントに紐づく過去のチャットとトランスクリプトが保存されます。

主なユースケース

プロンプトインジェクションの練習
直接的なツールアクセスではなく会話テクニックを使って、守られたAIアシスタントから隠しコードを引き出す練習にこのチャレンジを活用できます。
守備的アシスタントの挙動テスト
ライブでWeb認識型のアシスタントを使い、最新情報に基づきながらも防御側のルールに制約された状態でモデルがどのように振る舞うかを確認できます。
トランスクリプトの確認と反復
履歴ビューから過去のセッションとトランスクリプトを確認し、何を試したか、会話がどのように進んだかを分析できます。
リーダーボードへの参加
順位表ページで承認済みの突破を追跡し、現在の週次チャレンジ期間内で提出がどのように比較されるかを確認できます。

Pros and Cons

Pros

プロンプトインジェクション技術を試すための、会話ベースの具体的な方法を提供しています。
サイト上で、チャレンジの状態、目的、難易度、タイミングを確認できます。
アカウントに紐づく過去のチャットとトランスクリプト用の履歴ページが含まれています。
承認済みの突破レビュー付きの順位表と週次賞の仕組みがあります。
操作の試みに抵抗するよう明確に設計された守備的なアシスタントを使用しており、演習の焦点が明確です。

Cons

ソースには、Webアプリ以外の詳細なセットアップ手順、連携機能、対応プラットフォームは示されていません。
リーダーボードへの掲載は即時ではなく、提出はスタッフの審査後に反映されます。
公開ページでは、チャレンジモードの全容や今後のロードマップは説明されていません。

FAQ

参加する前にサインインする必要がありますか？

参加前にサインインして、突破成功を週次賞に応募できるようにします。サイトでは、勝利がリーダーボードに表示される前に審査されることも示されています。

チャレンジの目的は何ですか？

チャレンジの目的は、会話を通じてAIアシスタントから秘密のアクセスコードを引き出すことです。現在のチャレンジは、AIアシスタント「Kai」が登場する「The Gatekeeper」を中心にしています。

チャット以外にプラットフォームは何を提供していますか？

ソースには、現在のチャレンジを含むチャット画面、過去のチャットとトランスクリプトの履歴画面、週次ランキングの順位表ページが示されています。アシスタントが使うライブWeb検索以外の連携機能や外部ツールは示されていません。

チームで進捗やトランスクリプトを共有できますか？

ソースでは、別のチームワークフローや共同作業機能については説明されていません。ただし、提出はアカウントに紐づき、過去のセッションとトランスクリプトもアカウントに紐づくと記載されています。

利用制限や提出ルールはありますか？

チャレンジには時間制限があり、順位表ページでは提出が表示前に審査されると案内されています。制限、セッション時間、その他のプラットフォーム上の制約についての詳細はソースにありません。

Quick Facts

カテゴリ: AIチャットチャレンジ
プラットフォーム: Webアプリ
主な用途: プロンプトインジェクションのテスト
ソースドメイン: playground.fabraix.com
現在のチャレンジ: The Gatekeeper
賞品: 最も承認された突破に対する週次賞2,000ドルの賞金プール