Nimble icon

Nimble

Nimble 是將文字轉為結構化決策的託管 API,為每個允許選項回傳答案與機率,適用於路由、標記、評分、政策檢查及代理程式動作控管等工作流程。

Nimble

Nimble 決策模型

Nimble 是將文字轉為具型別決策的託管 API。您可以提供一個狀態(例如客戶訊息),以及一個或多個附有允許答案的問題。Nimble 會為每個選項回傳答案與機率,讓軟體能根據具信心的結果繼續處理,並將不確定的案例轉交人工審查。

此產品透過相同的請求格式提供 Nimble-v4 和 Nimble-v4-max。網站將 9B 的 Nimble-v4 定位為適用於高流量路由、標記和分流,將 27B 的 Nimble-v4-max 定位為適用於政策檢查、評分和代理程式決策步驟。文件所述的問題類型包括真值機率檢查、具名選項分類和有順序的評分。

功能

具型別的決策輸出

傳送一個狀態以及允許的答案或級別,接著即可收到選定的答案,以及每個選項的機率。

Noul 問題

詢問某個陳述是否為真,並取得其在 0 到 1 範圍內的估計機率。

Choice 問題

為分類任務列出可能的答案,並取得選定的選項,以及各可用選項的機率。

Score 問題

提供從最低到最高排列的級別,並取得預期級別,以及各級別的機率分布。

多問題請求

在單一請求中放入多個問題。網站表示,Nimble 會讀取一次狀態,並為每個問題回傳答案。

兩種模型大小

使用 9B 的 Nimble-v4 處理高流量路由、標記和分流,或使用 27B 的 Nimble-v4-max 進行政策檢查、評分及代理程式的下一步決策。

使用情境

  • 支援工單路由

    將收到的工單分類至帳務、技術、帳戶或銷售等部門,接著利用回傳的機率,將具信心的案件直接送至佇列,並審查模稜兩可的案件。

  • 高流量標記

    在工作流程需要選定類別和信心訊號,而非不受限制的文字回應時,大規模地為文字套用一致的標籤。

  • 政策檢查

    評估請求或回應是否符合既定政策;對於決策具有較高營運重要性的檢查,使用較大的模型。

  • 回應評分

    依照 1–5 等有順序的級別為回覆評分,並保留分布以供審查或後續品質分析。

  • 代理程式動作控管

    在自動化代理程式工作流程中,將決策結果作為閘門,例如決定代理程式是否應採取下一步,或暫停以等待人員處理。

Pros and Cons

Pros

  • 在回傳決策的同時提供機率,有助於根據信心程度進行路由及人工升級處理。
  • 支援多種具型別的問題格式,以及在單一請求中提出多個問題。
  • 提供適用於高流量工作的較小模型,以及適用於影響較重檢查的較大模型,並使用相同的請求格式。
  • 提供文件化的 API 請求範例,以及驗證電子郵件即可取得價值 3,000 次決策額度的優惠。

Cons

  • 現有證據未記載整合、SDK、部署選項、除了 bearer 金鑰請求範例之外的驗證方式,或營運限制。
  • 提供審查的定價頁面回傳 404,因此無法確認定價、配額及付費方案詳細資訊。
  • 已發布的基準測試數據來自一次公開套件執行結果,該結果被描述為尚未登上 Decision Index 排行板;網站表示,該套件僅代表該排行板完整分數的 20%。

FAQ

Nimble 是什麼?

Nimble 是託管的決策模型 API。請求包含一個狀態與一個或多個具型別的問題,回應則會提供答案,以及各可用選項的機率。

Nimble 請求如何運作?

文件中的快速入門會使用 bearer API 金鑰、模型名稱、狀態和 questions 物件,向 Bespoke Labs API 發送請求。提供的範例使用 nimble-latest 模型識別碼。

Nimble 支援哪些問題類型?

Nimble 支援 noul 問題,用於估算陳述為真的可能性;choice 問題,用於從具名選項中選擇;以及 score 問題,用於將項目放在有順序的級別上。

我應該使用哪個 Nimble 模型?

Nimble-v4 定位為用於高流量路由、標記和分流;Nimble-v4-max 則定位為用於政策檢查、評分及代理程式的下一步。兩者使用相同的請求格式,並回傳機率。

文件中記載了哪些定價或起始額度?

網站表示,使用者註冊並驗證電子郵件後,即可開始使用價值 3,000 次決策的額度。提供的定價頁面回傳 404,因此此處沒有記載其他定價、配額或付費方案詳細資訊。

Quick Facts

類別
AI 決策模型/託管 API
模型
Nimble-v4(9B)和 Nimble-v4-max(27B)
問題類型
noul、choice 和 score
輸出
每個問題的答案與機率分布
存取方式
透過 Bespoke Labs API 託管;產品網站提供註冊入口
起始優惠
驗證電子郵件後可取得價值 3,000 次決策的額度