統一模型 gateway
使用單一相容 OpenAI SDK 的端點,即可存取 30+ 供應商提供的 300+ 模型,並支援文字、圖片、語音與影片工作負載。
Opper AI 是歐盟託管的 AI gateway 與 control plane,適合打造 agents 與其他 AI 應用的團隊。它提供單一相容 OpenAI SDK 的 API,可存取來自多家供應商的 300+ 模型,並支援串流、tool 呼叫與供應商原生 prompt caching。
此產品主要面向希望在不修改應用程式程式碼的情況下切換模型的開發者,以及需要生產環境控管的團隊,例如觀測、路由、guardrails、合規政策與稽核軌跡。Gateway 涵蓋模型存取與計費,而可選的 Control Plane 則為正式部署新增治理功能。
使用單一相容 OpenAI SDK 的端點,即可存取 30+ 供應商提供的 300+ 模型,並支援文字、圖片、語音與影片工作負載。
可為每次請求設定 fallback 模型清單、固定明確模型,或依組織、專案或函式定義預設值,讓模型變更不必重新部署程式碼。
在啟用觀測時,擷取呼叫層級與工作階段層級資料,例如模型、tokens、延遲、成本、狀態、對話流程、品質分數與異常。
套用基礎架構層級政策,以進行 PII 遮罩、內容過濾、輸入/輸出驗證、工具呼叫限制、prompt injection 偵測與自訂規則。
控管預算、模型 allowlists、速率限制與保留政策,包括 ZDR-only 模式以及企業方案可設定的資料保留。
可手動加值點數或設定自動加值;Gateway 定價會轉嫁供應商費率,購買點數收取 3% 費用,而 Control Plane 則將該費用提高至 5.5%。
只要替換 base URL 與 API key,就能將既有應用程式連接到 Opper,並繼續使用 OpenAI 風格的 completions、串流與 tool 呼叫請求模式。
跨供應商或區域路由請求、設定 fallback,並針對特定組織、專案或函式固定模型預設值,而不需重新部署程式碼。
透過追蹤呼叫、檢視品質分數,以及在工作階段層級調查回歸或成本異常,為 agent 流量加入觀測能力。
在資料送達模型前,套用 PII 遮罩、內容過濾、輸入/輸出驗證與 prompt injection 防護。
使用模型 allowlists、預算上限、保留控制與稽核記錄,以支援合規審查與資料治理需求。
Opper 的 Gateway 是較輕量的選項:它提供相容 OpenAI SDK 的 API 來存取 300+ 模型,並按供應商費率轉嫁,另於購買點數時收取 3% 手續費。Control Plane 則為可選,並新增觀測、路由、guardrails、合規控管與追蹤功能,購買點數時收取 5.5% 手續費,且 Observe 另依使用量計費。
有。文件說明 Opper 與 OpenAI SDK 相容。你可以將 base URL 改為 https://api.opper.ai/v3/compat,並沿用既有的 OpenAI 風格程式碼,包括串流與 tool/function 呼叫。
Opper 支援依每次請求設定的 fallback 模型清單。如果主要模型失敗,請求可以改由清單中的下一個模型重試,而且只有成功的回應會計費。
在 Gateway 中,Opper 預設只儲存分析與錯誤中繼資料,不會儲存 prompts 或 responses。若啟用 tracing 或 Observe,在 Control Plane 中的 traces 可能包含 prompts 與 responses,保留時間可依專案設定;企業合約可包含 zero data retention。
企業方案可能包含量購定價、年度承諾與客製化開立發票。定價頁也提到,客製化託管區域、SLA 保證、稽核記錄、SSO/SAML 與進階支援可提供給企業客戶。
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent,先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更,並提供免費方案與付費方案。
CreateOS Sandbox 是以 Firecracker micro-VM 執行程式與 agent 工作負載的隔離運算環境,支援私有網路、SDK、CLI 與 MCP 程式化控制。
hob 是一個獨立的 coding agents 工作區,整合 agent sessions、終端機、歷史紀錄與後續工作,並維持你既有的工具與供應商設定。適合想保有本機路由、歷史與工作區結構控制權的開發者。
Manta AI 是一款自動化網頁應用測試工具,從 URL 即可開始探索、建立行為地圖,並以自然語言產生測試與回歸檢查,無需撰寫腳本或維護 selector。
SonOf 串接你的 repo 與 PM 工具,審核程式碼庫與產品脈絡,將核准工作轉為可交付的 ticket,並由資深工程師審查,協助創辦人與工程主管快速補足 backlog。
Ghost 是一款終端機 AI 助手,可在命令列中聊天、產生程式碼並執行任務。內建免費模型,支援 Linux、macOS、Windows,且為開源工具。