本機、離線推理
在本機離線執行模型，無需 API 金鑰或持續服務費，讓推理完全在裝置端完成。
概述
NobodyWho 是一款推理引擎，可在支援的裝置上本機高效執行大型語言模型。它被定位為裝置端 AI，適用於需要聊天模型推理、但不想將請求傳送到外部 API 的應用程式。
README 強調離線運作、支援 GGUF 格式模型，以及與多種用戶端平台相容，包括 Kotlin、Swift、Python、Flutter、React Native 和 Godot。文件也說明了可從 Hugging Face 或直接 URL 載入模型的路徑，以及透過 Vulkan 或 Metal 進行 GPU 加速推理的支援。
功能
廣泛的模型相容性
可搭配包括 Gemma、Qwen、Mistral 以及其他基於 GGUF 的 LLM，而不受限於單一模型家族。
型別安全的工具呼叫
定義函式簽章，讓引擎自動為工具呼叫產生結構化語法，避免手動處理 schema。
多模態輸入支援
將圖片與音訊資訊傳送給模型，讓主機應用程式在支援時可使用多模態提示。
內建語音工作流程
使用本機文字轉語音與語音轉文字元件，包括 Kokoro、Pocket TTS、Supertonic 和 Whisper。
彈性的模型載入
可從 Hugging Face 或任何 URL 載入模型，方便將應用程式指向遠端模型檔案或下載來源。
使用情境
離線聊天體驗
建立一個可在裝置端回應使用者提示的應用程式，不需將資料傳送到託管的 LLM API，適合需要離線運作或減少外部依賴的情境。
使用工具的應用流程
透過從程式碼中暴露函式，並讓 NobodyWho 生成呼叫所需的結構化語法，為應用程式加入由 LLM 驅動的動作。
跨平台應用程式開發
使用支援的技術棧（例如 Swift、Flutter、React Native、Kotlin 或 Python）建立行動或桌面應用程式，並連接到相同的本機推理層。
支援語音的助理
將聊天功能與本機音訊功能結合，例如用於轉錄的語音轉文字，或用於生成回覆的文字轉語音，整合成單一的裝置端工作流程。
自訂模型載入
當你想將應用程式指向特定模型成品，而不是託管 API 端點時，可從 Hugging Face 或直接 URL 載入模型。
Pros and Cons
Pros
- 可在本機離線執行，降低對雲端 API 的依賴。
- 支援多種應用開發技術棧，包括 Kotlin、Swift、Python、Flutter、React Native 和 Godot。
- 支援 GGUF 格式模型，並可從 Hugging Face 或任何 URL 載入。
- 包含結構化工具呼叫，以及文字轉語音與語音轉文字等語音相關功能。
- 儲存庫授權文字說明，依照所述的修改條件，可免費用於商業與專有用途。
Cons
- 來源未提供詳細基準、記憶體需求或支援裝置清單，因此效能預期仍不明確。
- 部分平台支援細節僅以高階方式摘要；不同綁定的功能一致性與限制可能有所差異。
- Web 匯出被描述為較難正確完成，README 中還引用了一個相關問題。
FAQ
NobodyWho 需要 API 金鑰嗎？
NobodyWho 可在本機執行，無需 API 金鑰或隱藏費用，因此專為支援裝置與平台上的離線使用而設計。
它支援哪些平台？
README 列出了 Kotlin、Swift、Python、Flutter、React Native 和 Godot，並提供了各自的文件連結。
它可以使用哪些類型的模型？
它支援 Gemma、Qwen、Mistral 等聊天 LLM，以及其他 GGUF 格式模型，並可從 Hugging Face 或直接 URL 載入模型。
我可以在手機上使用它嗎？
README 表示所有綁定都支援桌面端，Kotlin、Godot、Flutter 和 React Native 支援 Android，而 Swift、Flutter 和 React Native 支援 iOS。
NobodyWho 可以免費用於商業專案嗎？
儲存庫授權章節說明，你可以免費在專有與商業專案中使用 NobodyWho，但儲存庫中程式碼的修改版本必須開源。
Quick Facts
- 類別
- 開發工具 / AI 推理
- 來源網域
- github.com
- 主要用途
- 在裝置端進行本機 LLM 推理
- 支援平台
- Kotlin、Swift、Python、Flutter、React Native、Godot
- 模型格式
- GGUF
- 授權說明
- 允許免費商業使用；修改後的儲存庫程式碼必須開源
NobodyWho 替代品
AakarDev AI
AakarDev AI 讓團隊透過單一儀表板管理 AI 供應商權限、專案設定、日誌與分析，支援 BYOK 工作流程，並可連接 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AI。
ByteAsk
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent，先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更，並提供免費方案與付費方案。
CreateOS Sandbox
CreateOS Sandbox 是以 Firecracker micro-VM 執行程式與 agent 工作負載的隔離運算環境，支援私有網路、SDK、CLI 與 MCP 程式化控制。
hob
hob 是一個獨立的 coding agents 工作區，整合 agent sessions、終端機、歷史紀錄與後續工作，並維持你既有的工具與供應商設定。適合想保有本機路由、歷史與工作區結構控制權的開發者。
Ably Chat
Ably Chat 是一個聊天 API 平台，適合打造自訂即時聊天應用程式。支援聊天室訊息、輸入中提示、在線狀態、表情回應與訊息更新，並提供依使用量計費選項。
Manta AI
Manta AI 是一款自動化網頁應用測試工具，從 URL 即可開始探索、建立行為地圖，並以自然語言產生測試與回歸檢查，無需撰寫腳本或維護 selector。