基于配方启动模型
使用包含模型 ID、GPU 要求、设置步骤和服务参数的模型专属配方；`iwant up MODEL` 会选择最新的配方版本。
什么是 iwant？
iwant 是一款开源命令行工具，可在用户自己的 Google Cloud 账户中通过裸机 GPU 启动开放权重语言模型。它使用模型配方来选择硬件和服务配置，配置所请求的容量，下载并加载模型，然后等待兼容 OpenAI 的 models API 响应。
启动后，iwant 会提供服务器 URL 和 API 密钥，可与 curl 或 OpenAI 兼容应用结合使用。用户可以预览计划、选择容量选项、查看正在运行的部署、通过 SSH 连接，并在完成后移除集群。云基础设施的费用会持续计入用户账户，直到资源拆除，因此该工具适合能够管理 Google Cloud 凭据、配额、容量和资源生命周期的用户。
主要功能
云 GPU 配置
在用户的 Google Cloud 账户中配置裸机 GPU 容量并设置服务环境，无需单独的托管推理账户。
兼容 OpenAI 的端点
在报告服务器就绪前检查 models API 是否响应，然后输出用于客户端配置的服务器 URL 和 API 密钥。
启动控制
支持使用 `--dry-run` 检查计划、使用 `--spot` 请求抢占式容量、选择区域、自定义空闲计时器、静默输出以及可选 API 密钥。
部署管理
提供 `iwant list`、`iwant ssh`、`iwant auth` 和 `iwant down`，用于检查部署、连接运行中的集群、验证凭据以及拆除资源。
模型下载与发现选项
可以传递 `HF_TOKEN` 以下载需要身份验证或受限访问的模型，并支持通过 `/models` 端点查找已提供服务的模型 ID。
使用场景
测试开放权重模型
预览配方和容量计划，在 GCP 中配置 GPU，并通过返回的 URL 和密钥发送提示词，同时将基础设施保留在用户的云账户中。
将应用连接到自管理推理服务
将现有的 OpenAI 兼容应用指向生成的基础 URL，并使用已提供服务的模型 ID，而无需更改应用的一般请求模式。
运行更大规模的模型配置
当所选模型的文档要求超出单 GPU 配置时，使用更大的多 GPU 配置配方，例如八个 H100 或 H200 GPU。
进行短期 GPU 实验
在尝试不同容量选项并管理临时部署生命周期时，使用 `--spot`、区域选择、试运行和可配置的空闲拆除功能。
管理活动集群
使用 `iwant list` 查看部署，使用 `iwant ssh` 连接，并在需要运维访问或清理时使用 `iwant down` 移除指定名称的集群。
Pros and Cons
Pros
- 通过简洁的 CLI 工作流启动开放权重模型。
- 提供适用于现有客户端和 curl 请求的兼容 OpenAI 端点。
- 配方文件记录模型专属的硬件和服务要求。
- 支持试运行、抢占式容量、空闲拆除设置、SSH 访问和集群管理命令。
Cons
- 当前文档将 GCP 标识为受支持的云平台，因此现有证据无法确认其他提供商。
- GPU 配置、模型下载和加载需要时间；抢占式容量可能会被回收。
- 用户需要负责云费用，并在完成后主动拆除资源。
FAQ
启动模型需要满足哪些条件？
使用提供的 Shell 安装程序安装 iwant，使用 Google Cloud CLI 完成身份验证，并使用已启用结算、具有 L4 配额且有可用容量的 Google Cloud 项目。从源代码安装时支持 Python 3.10 及更高版本。
模型启动如何工作？
运行 `iwant up MODEL` 以配置 GPU、设置服务器并等待 models API 响应。该命令会输出服务器 URL 和 API 密钥，可用于 OpenAI 兼容客户端或直接 API 请求。
iwant 支持哪些云服务提供商？
当前支持的云平台是 GCP。您可以选择区域、请求抢占式容量，并在配置资源前使用启动计划预览资源需求。
如何停止部署并控制成本？
运行 `iwant down` 可交互式选择集群，或运行 `iwant down EXACT_CLUSTER_NAME` 以用于脚本。云资源在移除前会继续计入用户账户的费用。
有哪些模型和 GPU 配置可用？
代码仓库包含多个模型的配方，包括 gpt-oss-20b、DeepSeek 变体、mimo-v2.6-flash、ling-3.0-flash-fp8 以及 step-3.7-flash 变体。记录的硬件配置范围从单个 L4 GPU 到八个 H100 或 H200 GPU，但仓库中的信息并不能保证每次启动都可用。
Quick Facts
- 类别
- 开发者工具
- 接口
- 命令行界面
- 支持的云平台
- Google Cloud Platform (GCP)
- 安装方式
- Shell 安装程序，或从源代码使用 Python 3.10+ 安装
- 端点格式
- 兼容 OpenAI 的 API
- 来源
- github.com/narevai/iwant
iwant 替代品
AakarDev AI
AakarDev AI 帮助团队在一个仪表板中管理 AI provider 访问、项目级设置、日志和分析，支持 BYOK 工作流，并涵盖 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI 和 Perplexity AI。
ByteAsk
ByteAsk 是面向 C 和 C++ 的终端优先 AI 编码 agent，可直接编辑仓库，并在展示 diff 前用真实编译器、调试器、sanitizers 和测试验证修改。提供免费版与付费方案。
CreateOS Sandbox
CreateOS Sandbox 是基于 Firecracker 微型虚拟机的隔离计算环境，用于运行代码和 agent 工作负载，支持私有网络、SDK、CLI 和 MCP 程序化控制。
GitBot
GitBot 是基于本地浏览器的工作区，可借助 Claude Code、Codex 或 OpenCode 创建可复用的编程机器人，跨仓库文件夹运行代理，并保留持久线程与可配置权限。
hob
hob 是面向编码 agent 的独立工作区，可将 agent 会话、终端、历史记录和后续工作围绕你已在用的工具与提供商有序管理，适合重视本地路由、历史和工作区结构控制的开发者。
Ably Chat
Ably Chat 是用于构建自定义实时聊天应用的 chat API 平台，支持房间消息、输入指示、在线状态、表情回应与消息更新，并提供按使用量计费选项。