OpenAI 和 Anthropic 兼容 API
通过一个端点提供多个服务商的模型,并接受 OpenAI 和 Anthropic 客户端格式;更换已配置的服务商时无需大量重写应用。
GoModel 是一个使用 Go 编写的开源 AI 网关。它在来自 31 家服务商的模型前设置单一端点,并同时接受 OpenAI 兼容和 Anthropic 兼容请求,使现有的基于 SDK 的应用能够使用统一的网关接口。
该网关旨在集中管理模型路由和运营控制。其列出的功能包括模型别名、限定范围的工作流、精确响应缓存和语义响应缓存、故障转移、断路器、速率限制、预算、审计日志、用量分析和管理控制面板。商业版 GoModel Pro 还增加了提示词压缩、OIDC SSO、按子级划分的配额模板和创始人级支持。
通过一个端点提供多个服务商的模型,并接受 OpenAI 和 Anthropic 客户端格式;更换已配置的服务商时无需大量重写应用。
将服务商模型映射为别名,并应用限定范围的工作流,使应用能够使用稳定名称和针对请求的策略,而不必在每个客户端中嵌入服务商详情。
通过精确匹配或语义匹配缓存响应,并在控制面板中查看提示词缓存状态,以管理重复请求并检查缓存行为。
通过故障转移和断路器机制绕开服务商故障,同时应用速率限制、预算和价格覆盖设置来控制流量与支出。
在管理控制面板中查看实时审计日志和用量分析。主页还列出了多个 API 密钥、响应生命周期跟踪、OpenTelemetry 追踪和 MCP 网关。
商业 Pro 版本增加提示词压缩、用于控制面板的 OIDC 单点登录、按子级划分的配额模板和创始人级支持。
在应用与多个模型服务商之间放置一个 API 端点,然后更改已配置的服务商或模型别名,而无需修改每个客户端集成。
通过使用多个 API 密钥、限定范围的工作流、速率限制、预算和审计日志,为团队提供受控的模型访问方式,以监督请求和支出。
对重复提示词使用精确缓存或语义缓存,并在应用生成重复或相似请求时,在控制面板中查看缓存状态。
通过配置故障转移和断路器机制,让应用在服务商中断期间继续运行,同时使用用量分析和 OpenTelemetry 追踪调查网关流量。
当团队希望在 OpenAI 或 Anthropic 风格客户端前部署 Go 二进制文件或基于 Docker 的服务时,可在本地、边缘设备或 Kubernetes 中部署轻量级网关。
GoModel 可以通过 Shell 安装程序、PowerShell 安装程序或 Docker 镜像进行安装。启动后,可通过环境变量、config.yaml 或控制面板的 Providers 页面配置服务商。
可以。GoModel 在 /v1/chat/completions 提供 OpenAI 兼容端点,并在 /v1/messages 提供 Anthropic 兼容端点。只需更改基础 URL,即可让现有的 OpenAI 和 Anthropic SDK 客户端指向该网关。
该网关可以通过 Docker 在本地运行,也可以作为 GoModel 二进制文件运行;对比页面还介绍了在笔记本电脑、边缘设备和 Kubernetes 上的部署方式。提供的来源未说明完整的生产环境要求或平台限制。
GoModel 的主页称其支持 31 家服务商,但提供的源内容未列出具体名称。文中称 LiteLLM 拥有更广泛的目录,覆盖 100 多家服务商,因此应根据你的需求核实服务商覆盖范围。
开源网关包含审计日志、预算、速率限制、缓存、故障转移和管理控制面板等功能。GoModel Pro 还提供提示词压缩、OIDC SSO、按子级划分的配额模板和创始人级支持;Pro 页面列出的价格为每月 499 美元或每年 4,999 美元,并提供 30 天退款保证。
AakarDev AI 帮助团队在一个仪表板中管理 AI provider 访问、项目级设置、日志和分析,支持 BYOK 工作流,并涵盖 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI 和 Perplexity AI。
CreateOS Sandbox 是基于 Firecracker 微型虚拟机的隔离计算环境,用于运行代码和 agent 工作负载,支持私有网络、SDK、CLI 和 MCP 程序化控制。
GitBot 是基于本地浏览器的工作区,可借助 Claude Code、Codex 或 OpenCode 创建可复用的编程机器人,跨仓库文件夹运行代理,并保留持久线程与可配置权限。
Trigger.dev chat agent 是面向开发者的持久化 AI 聊天后端,支持有状态对话在刷新、崩溃和长轮次中持续运行,并与 AI SDK `useChat` 流程无缝连接,运行于托管基础设施,单轮无超时。
ByteAsk 是面向 C 和 C++ 的终端优先 AI 编码 agent,可直接编辑仓库,并在展示 diff 前用真实编译器、调试器、sanitizers 和测试验证修改。提供免费版与付费方案。
Codex Plugins 将可复用技能、应用集成和 MCP 服务器打包为工作流,可在 Codex 应用中安装或通过 Codex CLI 使用,帮助扩展连接服务任务、复用指令和团队共享流程。