Fabraix Playground icon

Fabraix Playground

Fabraix Playground 是一个基于网页的挑战站,用于测试 AI agent 的提示注入。围绕与 Kai 的受控聊天,玩家尝试获取秘密访问代码,并可提交已通过审核的突破参与每周奖品评选。

Fabraix Playground

概述

Fabraix Playground 是一个基于浏览器的挑战站,用于测试针对 AI agent 的提示注入能力。当前挑战“The Gatekeeper”要求玩家通过与名为 Kai 的 AI 助手对话,提取一个秘密访问代码。

该页面将体验设定为一次受控聊天练习:Kai 会回答问题,并使用实时网页搜索提供有依据的回复,但它也经过训练以抵抗社会工程、提示注入和操纵尝试。当达成目标时,本轮结束;成功的突破结果可在登录后提交,供每周奖品审核和排行榜收录。

核心功能

交互式提示注入挑战

该挑战提供一位名为 Kai 的防御型 AI 助手,要求你通过对话提取秘密访问代码。

基于网页搜索的助手

该助手声称其回复基于实时网页搜索,因此这段对话旨在测试一个具有网页感知能力的最新模型。

按消息评分与胜利条件

每条消息都会由护栏进行评分,当目标达成时本轮结束。

基于账户的提交流程

在提交突破结果以参与每周奖品评选之前,必须先登录账户。

人工审核后进入排名

已通过审核的突破结果会在工作人员审核后加入排行榜,而不是立即显示。

已保存的会话历史

历史区域会保留与已登录账户关联的过往聊天和记录。

常见用例

  • 提示注入练习

    利用该挑战练习通过对话方式诱导受控 AI 助手泄露隐藏代码,而不是直接访问工具。

  • 测试受控助手行为

    使用这个具备网页感知能力的实时助手,观察模型在基于最新信息但仍受防御规则约束时会如何表现。

  • 记录回顾与迭代

    通过历史视图回顾过往会话和记录,以研究你尝试了什么以及对话是如何推进的。

  • 参与排行榜

    在排行榜页面跟踪已获批准的突破结果,看看提交内容在当前每周挑战周期中的表现。

Pros and Cons

Pros

  • 提供了一个具体的、基于对话的方式来测试提示注入技术。
  • 网站上展示了挑战状态、目标、难度和时间信息。
  • 包含一个用于查看账户关联历史聊天和记录的历史页面。
  • 提供排行榜和每周奖品机制,并配有已通过审核的突破结果审查流程。
  • 使用了一位明确设计为抵抗操纵尝试的受控助手,使练习更聚焦、更清晰。

Cons

  • 源内容未显示除网页应用之外的详细设置步骤、集成或支持平台。
  • 排行榜位置不会立即更新;提交内容会在工作人员审核后才会显示。
  • 公开页面没有说明挑战模式的完整范围或未来路线图。

FAQ

参与之前我需要登录吗?

你需要先登录,然后再进行解题,这样你的突破结果才能提交参加每周奖品评选。网站还说明,胜利会在出现在排行榜前经过审核。

这个挑战的目标是什么?

该挑战的目标是通过对话从 AI 助手那里提取秘密访问代码。当前挑战围绕“The Gatekeeper”,即名为 Kai 的 AI 助手展开。

除了聊天本身,平台还提供什么?

源内容显示了一个聊天界面、当前挑战、用于查看过往聊天和记录的历史视图,以及用于每周排名的排行榜页面。除助手使用的实时网页搜索外,没有显示任何其他集成或外部工具。

团队可以共享进度或记录吗?

源内容没有描述单独的团队工作流或协作功能。它确实说明,提交结果会与你的账户绑定,过往会话和记录也会与你的账户绑定。

是否有任何使用限制或提交规则?

该挑战有时间限制,排行榜页面说明提交内容在显示前会经过审核。源内容没有提供关于限制、会话时长或其他平台约束的完整细节。

Quick Facts

类别
AI 聊天挑战
平台
网页应用
主要用途
提示注入测试
源域名
playground.fabraix.com
当前挑战
The Gatekeeper
奖品
每周 2,000 美元奖金池,奖励获批突破最多者