Nimble icon

Nimble

Nimble 是托管式 API,可将文本转换为结构化决策,为每个允许选项返回答案及概率。适用于路由、标签分类、评分、策略检查和代理操作控制等工作流,支持软件依据置信度推进处理,并将不确定案例转交人工审核,适合需要明确选项与概率信号的文本决策场景。

Nimble

Nimble 决策模型

Nimble 是用于将文本转换为类型化决策的托管式 API。你可以提供一个状态(例如客户消息)以及一个或多个带有允许答案的问题。Nimble 会为每个选项返回答案及概率,使软件能够处理置信度较高的结果,并将不确定案例转交人工审核。

该产品通过相同的请求格式提供 Nimble-v4 和 Nimble-v4-max。网站将 9B 的 Nimble-v4 定位为适用于高吞吐量路由、标签分类和分流,将 27B 的 Nimble-v4-max 定位为适用于策略检查、评分和代理决策步骤。文档中列出的问题类型包括真值概率检查、命名选项分类和有序评分。

功能

类型化决策输出

发送一个状态以及允许的答案或等级,然后接收选定答案及每个选项对应的概率。

Noul 问题

询问某个陈述是否为真,并接收其在 0 到 1 范围内的估计概率。

Choice 问题

为分类任务列出可能的答案,并接收选定选项及可用选项的概率。

Score 问题

提供从最低到最高排列的等级,并接收预期等级以及这些等级之间的概率分布。

多问题请求

在一次请求中放入多个问题。网站称 Nimble 会读取一次状态,并为每个问题返回答案。

两种模型规模

对于高吞吐量路由、标签分类和分流,可使用 9B 的 Nimble-v4;对于策略检查、评分和代理的下一步操作,可使用 27B 的 Nimble-v4-max。

使用场景

  • 支持工单路由

    将收到的工单分类到计费、技术、账户或销售等部门,然后利用返回的概率将置信度较高的案例直接发送到相应队列,并审核含义不明确的案例。

  • 高吞吐量标签分类

    在工作流需要选定类别和置信度信号,而不是不受约束的文本回复时,大规模地为文本应用一致的标签。

  • 策略检查

    评估请求或回复是否符合既定策略;对于决策具有更大运营重要性的检查,可使用较大的模型。

  • 回复评分

    根据 1–5 等有序等级为回复评分,并保留概率分布,以供审核或后续质量分析。

  • 代理操作控制

    在自动化代理工作流中将决策结果用作控制门槛,例如决定代理是否应执行下一步操作,或暂停并等待人工处理。

Pros and Cons

Pros

  • 在决策旁返回概率,有助于基于置信度进行路由和升级至人工处理。
  • 支持多种类型化问题格式,以及在一次请求中提交多个问题。
  • 提供适用于高吞吐量工作的较小模型和适用于影响更重大的检查的较大模型,并使用相同的请求格式。
  • 提供有文档记录的 API 请求示例,以及验证电子邮件后可获得价值 3,000 次决策额度的注册优惠。

Cons

  • 现有证据未记录集成、SDK、部署选项、除示例 bearer 密钥请求之外的身份验证方式或运行限制。
  • 提供审查的定价页面返回了 404,因此无法确认定价、配额和付费方案详情。
  • 已发布的基准数据基于一次公共套件运行,该运行被描述为尚未登上 Decision Index 榜单;网站称该套件占榜单总分的 20%。

FAQ

Nimble 是什么?

Nimble 是托管式决策模型 API。请求包含一个状态和一个或多个类型化问题,响应会为可用选项提供答案及概率。

Nimble 请求如何工作?

文档中的快速入门示例会向 Bespoke Labs API 发送请求,其中包含 bearer API 密钥、模型名称、状态和 questions 对象。示例使用 nimble-latest 模型标识符。

Nimble 支持哪些问题类型?

Nimble 支持 noul 问题,用于估计某个陈述为真的可能性;支持 choice 问题,用于从命名选项中进行选择;还支持 score 问题,用于将项目置于有序等级中。

应该使用哪个 Nimble 模型?

Nimble-v4 面向高吞吐量路由、标签分类和分流,而 Nimble-v4-max 面向策略检查、评分和代理的下一步操作。两者使用相同的请求格式并返回概率。

有哪些已记录的定价或初始额度?

网站称,用户注册并验证电子邮件后,可获得价值 3,000 次决策的额度。所提供的定价页面返回了 404,因此这里没有记录其他定价、配额或付费方案详情。

Quick Facts

类别
AI 决策模型 / 托管式 API
模型
Nimble-v4(9B)和 Nimble-v4-max(27B)
问题类型
noul、choice 和 score
输出
每个问题的答案及概率分布
访问方式
通过 Bespoke Labs API 托管;产品网站提供注册入口
初始优惠
验证电子邮件后可获得价值 3,000 次决策的额度