在裝置上執行模型
透過 llama.cpp 在手機的 CPU 與 GPU 上執行量化的開放權重模型。模型下載完成後,即可在不經由網際網路往返的情況下處理提示詞。
KernelAI 是用於在 iPhone、iPad 與 Android 裝置本機執行開放權重語言與多模態模型的行動 AI 應用程式。它提供來自 15 個實驗室的 53 個模型目錄,每個模型都會下載至裝置,可用於聊天、程式設計、文件問答、圖片理解與翻譯等工作。
此應用程式專為不需要雲端帳號或持續連線的工作流程而設計。模型下載後,即可繼續離線進行對話;裝置會檢查可用記憶體,並隱藏無法容納的模型。選擇性的網路搜尋可透過使用者提供的 Tavily 或 Exa 金鑰取得最新資訊,但在使用者啟用前會維持停用狀態。
透過 llama.cpp 在手機的 CPU 與 GPU 上執行量化的開放權重模型。模型下載完成後,即可在不經由網際網路往返的情況下處理提示詞。
可從 15 個實驗室發布的 53 個模型中選擇,下載大小介於 112 MB 至 3.11 GB。模型目錄包含文字、程式設計、多語言、推理、視覺、角色扮演與網路搜尋模型。
附加 PDF、Word 檔案或試算表,無需上傳附件即可詢問相關內容。支援視覺功能的模型也能解讀照片、螢幕截圖、標誌、選單、圖表與收據。
只在需要時新增個人的 Tavily 或 Exa API 金鑰來啟用網路搜尋。支援的模型會提供附帶來源的回答,而金鑰會保留在 iOS Keychain 中。
設定系統提示詞或使用預設組合,在不同對話中定義語氣、格式或角色。使用者也可以從檔案或 URL 匯入相容的 GGUF 模型,此功能目前為實驗性功能。
使用裝置上的聽寫功能與系統語音進行語音互動,並透過「Ask KernelAI」和「Extract Text from Document」捷徑動作啟動本機 AI。
在旅行前下載適合的模型,接著即可在飛航模式或訊號不穩定的地方撰寫文字、提出問題或整理想法。
附加 PDF、Word 檔案或試算表,要求解釋或特定資訊,同時讓檔案保留在裝置上,而不是上傳至 KernelAI。
使用視覺模型讀取拍攝的標誌、選單、圖表、收據或螢幕截圖,包括圖片中包含的文字。
提出函式、除錯協助或解釋請求,即使離線也能取得具語法醒目提示的程式碼。捷徑也能傳遞提示詞或擷取文件文字,作為手機自動化的一部分。
KernelAI 可免費使用,網站未指出需要帳號、訂閱、使用上限或需付費才能解鎖功能的提示方案。選擇性提供小費可支援開發,但不會解鎖功能。
從 App Store 或 Google Play 安裝應用程式,選擇模型並個別下載。模型下載至裝置後,即可在沒有網路連線的情況下執行。應用程式會測量裝置可用記憶體,並停用無法容納的模型。
應用程式支援 iOS 16.4 或以上版本的 iPhone 與 iPad,以及 Android 7.0 或以上版本的 Android 裝置。可用模型取決於裝置測得的記憶體。
根據網站說明,一般聊天、附加的文件、圖片與聽寫內容都會在裝置上處理。模型下載與選擇性的網路搜尋會使用網路。網路搜尋預設為關閉,且需要使用者自己的 Tavily 或 Exa API 金鑰;查詢會傳送至所選的服務提供者。
可以。使用者可以從檔案或直接 URL 匯入 GGUF 檔案,也包括自己網路上的伺服器。此功能標示為實驗性功能,因為不同檔案之間的相容性可能有所差異。
Grok 4.7 是 xAI 為軟體開發與知識工作打造的 AI 模型,支援長時間程式設計與專業分析,可透過 Grok Build、Cursor、Grok API 等平台使用;輸入每百萬 token $2 起,輸出 $6 起。
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent,先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更,並提供免費方案與付費方案。
GitBot 是以瀏覽器為基礎的本機工作區,可使用 Claude Code、Codex 或 OpenCode 建立可重複使用的程式設計機器人,並在儲存庫資料夾中執行,支援持續執行緒與可設定權限。
Ghost 是一款終端機 AI 助手,可在命令列中聊天、產生程式碼並執行任務。內建免費模型,支援 Linux、macOS、Windows,且為開源工具。
Vi3ecode 是供 AI coding agents 使用的維護型開發環境,整合專案上下文、終端機、Git、記憶、流程與協作溝通,讓您在既有 agent 上順暢開發。
AakarDev AI 讓團隊透過單一儀表板管理 AI 供應商權限、專案設定、日誌與分析,支援 BYOK 工作流程,並可連接 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AI。