以配方為基礎的模型啟動
使用包含模型 ID、GPU 需求、設定步驟及服務旗標的模型專用配方；`iwant up MODEL` 會選取最新的配方版本。
什麼是 iwant？
iwant 是開源命令列工具，可在使用者自己的 Google Cloud 帳戶中，使用裸機 GPU 啟動開放權重語言模型。它會使用模型配方選擇硬體與服務設定、配置所要求的容量、下載並載入模型，然後等待相容 OpenAI 的 models API 回應。
啟動後，iwant 會提供伺服器 URL 和 API 金鑰，可搭配 curl 或相容 OpenAI 的應用程式使用。使用者可以預覽計畫、選擇容量選項、檢查執行中的部署、透過 SSH 連線，並在完成後移除叢集。雲端基礎架構在拆除前會持續計入使用者帳戶的費用，因此此工具適合能管理 Google Cloud 憑證、配額、容量及資源生命週期的使用者。
主要功能
雲端 GPU 配置
在使用者的 Google Cloud 帳戶中配置裸機 GPU 容量並設定服務環境，不需要另外註冊代管推論帳戶。
相容 OpenAI 的端點
在回報伺服器就緒前，先確認 models API 有回應，接著列印伺服器 URL 和 API 金鑰，供用戶端設定使用。
啟動控制
支援使用 `--dry-run` 檢視計畫、使用 `--spot` 配置 Spot 容量、選擇區域、自訂閒置計時器、安靜輸出，以及選用 API 金鑰。
部署管理
提供 `iwant list`、`iwant ssh`、`iwant auth` 和 `iwant down`，用於檢查部署、連線至執行中的叢集、驗證憑證，以及拆除資源。
模型下載與探索選項
可傳入 `HF_TOKEN` 以進行需要驗證或受存取限制的模型下載，並支援透過 `/models` 端點尋找所服務的模型 ID。
使用情境
測試開放權重模型
預覽配方與容量計畫、在 GCP 中配置 GPU，並透過回傳的 URL 和金鑰傳送提示，同時讓基礎架構保留在使用者的雲端帳戶中。
將應用程式連線至自行管理的推論服務
將現有的相容 OpenAI 應用程式指向產生的基礎 URL，並使用所服務的模型 ID，不必變更應用程式的一般請求模式。
執行較大型的模型配置
當所選模型的文件需求超過單一 GPU 設定時，使用較大型的多 GPU 配置配方，例如八張 H100 或 H200 GPU。
進行短期 GPU 實驗
進行容量選項實驗及管理暫時部署的生命週期時，使用 `--spot`、區域選擇、試跑及可設定的閒置拆除功能。
管理作用中的叢集
使用 `iwant list` 檢查部署、透過 `iwant ssh` 連線，並在需要操作存取或清理時使用 `iwant down` 移除指定名稱的叢集。
Pros and Cons
Pros
- 透過簡潔的 CLI 工作流程啟動開放權重模型。
- 提供適用於現有用戶端及 curl 請求的相容 OpenAI 端點。
- 配方檔案會記錄模型專用的硬體與服務需求。
- 包含試跑、Spot 容量、閒置拆除設定、SSH 存取及叢集管理指令。
Cons
- 目前文件指出 GCP 是支援的雲端，因此現有證據未證實支援其他供應商。
- GPU 配置、模型下載及載入都需要時間；Spot 容量可能會被回收。
- 使用者需負責雲端計費，並在完成後明確拆除資源。
FAQ
啟動模型需要哪些條件？
使用提供的 shell 安裝程式安裝 iwant，透過 Google Cloud CLI 完成驗證，並使用已啟用計費、具備 L4 配額及可用容量的 Google Cloud 專案。從原始碼安裝時支援 Python 3.10 以上版本。
模型啟動流程如何運作？
執行 `iwant up MODEL` 以配置 GPU、設定伺服器，並等待 models API 回應。該指令會列印伺服器 URL 和 API 金鑰，可搭配相容 OpenAI 的用戶端或直接 API 請求使用。
iwant 支援哪些雲端服務供應商？
目前支援的雲端是 GCP。您可以選擇區域、要求使用 Spot 容量，並在配置資源前使用啟動計畫預覽資源需求。
如何停止部署並控制成本？
執行 `iwant down` 以互動方式選擇叢集，或執行 `iwant down EXACT_CLUSTER_NAME` 供指令碼使用。雲端資源在移除前會持續計入使用者帳戶的費用。
有哪些模型和 GPU 配置可用？
存放庫包含多個模型的配方，包括 gpt-oss-20b、DeepSeek 變體、mimo-v2.6-flash、ling-3.0-flash-fp8，以及 step-3.7-flash 變體。記錄的硬體配置範圍從單張 L4 GPU 到八張 H100 或 H200 GPU，但存放庫中的證據不代表每次啟動都能保證成功。
Quick Facts
- 類別
- 開發者工具
- 介面
- 命令列介面
- 支援的雲端
- Google Cloud Platform (GCP)
- 安裝方式
- Shell 安裝程式，或從原始碼使用 Python 3.10 以上版本安裝
- 端點格式
- 相容 OpenAI 的 API
- 來源
- github.com/narevai/iwant
iwant 替代品
AakarDev AI
AakarDev AI 讓團隊透過單一儀表板管理 AI 供應商權限、專案設定、日誌與分析，支援 BYOK 工作流程，並可連接 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AI。
ByteAsk
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent，先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更，並提供免費方案與付費方案。
CreateOS Sandbox
CreateOS Sandbox 是以 Firecracker micro-VM 執行程式與 agent 工作負載的隔離運算環境，支援私有網路、SDK、CLI 與 MCP 程式化控制。
GitBot
GitBot 是以瀏覽器為基礎的本機工作區，可使用 Claude Code、Codex 或 OpenCode 建立可重複使用的程式設計機器人，並在儲存庫資料夾中執行，支援持續執行緒與可設定權限。
hob
hob 是一個獨立的 coding agents 工作區，整合 agent sessions、終端機、歷史紀錄與後續工作，並維持你既有的工具與供應商設定。適合想保有本機路由、歷史與工作區結構控制權的開發者。
Ably Chat
Ably Chat 是一個聊天 API 平台，適合打造自訂即時聊天應用程式。支援聊天室訊息、輸入中提示、在線狀態、表情回應與訊息更新，並提供依使用量計費選項。