Hopscotch icon

Hopscotch

Hopscotch 是开发者 API 网关,通过统一接口访问来自多个提供商的 500 多个 AI 模型,支持模型切换、故障转移、用量监控,以及按密钥、成员和工作区控制支出。

Hopscotch

多提供商 AI 访问与成本控制

Hopscotch 是用于访问多个提供商所提供的 500 多个 AI 模型目录的 API 网关,其中包括 Anthropic、OpenAI 和 Google。它通过一个 API 和余额提供这些模型,因此团队可以更改请求中指定的模型,而不必为每个模型来源分别维护提供商集成、账户和账单。

该服务旨在将模型访问与运营控制结合起来。开发者可以使用兼容 OpenAI 的配置,以及聊天补全、Responses API 和 models 端点;团队则可以定义路由配置文件,按密钥、成员或工作区限制支出,并查看请求活动和用量。定价采用按量付费:用户购买额度,并按每个提供商的代币目录价付费;定价页面未说明加价、额外费用或订阅。

核心功能

统一模型 API

通过一个基础 URL、密钥和余额,使用来自 Anthropic、OpenAI、Google 及其他提供商的 500 多个模型。

指定模型与提供商可见性

将指定模型保留为请求的模型,并在 Activity 日志中查看实际提供服务的提供商。

路由与故障转移

在路由配置文件中定义按顺序排列的备用模型。当上游尝试失败时,Hopscotch 可以重试请求,并沿配置的路由继续处理。

支出控制

为密钥分配每日、每周或每月重置的额度限制,并为成员和工作区设置月度限制。可能超出限制的请求会在访问提供商之前被拒绝。

日志与用量分析

在 Activity 日志中查看请求,将日志导出为 CSV,并使用 Usage 视图按模型、提供商、密钥和成员细分支出。

模型比较 playground

在 playground 中对最多三个模型使用同一个提示进行比较;与其他请求一样,请求费用会通过已连接的密钥计费。

实际使用场景

  • 构建多模型应用

    开发者可以通过更改基础 URL 和密钥来连接现有的 OpenAI SDK 工作流,然后通过更改 model 字段选择来自多个提供商的模型。这适用于测试模型,或在不同模型系列之间切换,而不必为每个提供商安装单独的 SDK。

  • 增强模型请求的韧性

    工程团队可以将首选模型和备用模型放入按顺序排列的路由配置文件中。如果上游提供商失败,请求可以沿配置的重试、备用模型或备用提供商路径继续处理,而不要求应用代码发起新请求。

  • 管理团队和项目支出

    共享一个 AI 预算的团队可以将密钥分配给应用或环境,设置基于重置周期的密钥限制,并对成员或工作区应用月度限制。可能超出这些控制项的请求会在到达提供商之前被拦截。

  • 在上线前评估模型

    技术负责人可以使用 playground 向最多三个模型发送相同的提示,然后在更改生产代码中使用的模型之前比较响应和成本。

  • 审计用量并排查请求问题

    运营人员可以使用 Activity 日志和 Usage 视图调查单个请求、确定提供服务的提供商、将记录导出为 CSV,并按模型、提供商、密钥或成员分析支出。

Pros and Cons

Pros

  • 一个 API 和余额即可访问多个提供商提供的 500 多个模型。
  • 可以在密钥、成员和工作区级别应用支出限制,并在请求超出配置限制之前将其拦截。
  • Activity 日志、CSV 导出和用量细分功能可以帮助了解请求和代币支出情况。
  • 当上游尝试失败时,路由配置文件和备用提供商可以帮助应用沿选定的故障转移路径继续运行。
  • 支持使用自带提供商密钥,且没有月度上限;这些请求由提供商直接计费。

Cons

  • 某些由提供商托管的功能(包括网页搜索、音频和托管工具)不支持通过 Hopscotch 的提供商账户使用。
  • 路由和故障转移行为取决于是否配置路由配置文件;如果未指定备用路由,该服务不会自动替换为其他模型。
  • 文档所述工作流要求更改连接设置并使用 Hopscotch 模型名称,因此现有应用仍需要进行少量集成修改。

FAQ

如何将应用连接到 Hopscotch?

设置采用兼容 OpenAI 的工作流:更改基础 URL、API 密钥和模型名称。网站展示了聊天补全和 Responses API 端点,以及用于查看可用模型目录的 models 端点。

我可以在不创建单独提供商集成的情况下切换模型吗?

可以。您可以将模型名称更改为目录中的其他模型,同时继续使用相同的密钥、余额和限制。模型名称包含提供商信息,例如 anthropic/claude-sonnet-5。

Hopscotch 会自动替换我选择的模型吗?

不会。Hopscotch 会运行所请求的模型。路由配置文件可以按用户选择的顺序指定备用模型;如果所请求的模型或提供商无法完成请求,Hopscotch 可以重试并沿配置的路由继续处理。

提供商发生中断或返回错误时会怎样?

请求可以重试、转到路由配置文件中的下一个模型,或在聊天请求中通过备用提供商发送。如果所有已配置的尝试都失败,请求将返回错误。

支出限制如何执行?

可以为单个密钥、成员和工作区设置支出限制。密钥限制可以按日、周或月重置;如果请求会超出限制,系统会在请求到达提供商之前拒绝该请求。

Quick Facts

类别
开发者工具
主要工作流
用于访问多提供商模型的兼容 OpenAI 的 API
模型目录
500+ 个模型
计费模式
按量付费;按提供商每个代币的目录价计费,不加价、不收取额外费用或订阅费
控制项
密钥、成员和工作区限制;路由、日志和用量分析
来源域名
hopscotchlabs.ai