KernelAI icon

KernelAI

KernelAI 是行動 AI 應用程式,可在 iPhone、iPad 與 Android 裝置本機執行 53 個開放權重模型,支援聊天、文件與圖片處理、程式設計,無帳號或訂閱也能離線使用。

KernelAI

在行動裝置上進行私密 AI 處理

KernelAI 是用於在 iPhone、iPad 與 Android 裝置本機執行開放權重語言與多模態模型的行動 AI 應用程式。它提供來自 15 個實驗室的 53 個模型目錄,每個模型都會下載至裝置,可用於聊天、程式設計、文件問答、圖片理解與翻譯等工作。

此應用程式專為不需要雲端帳號或持續連線的工作流程而設計。模型下載後,即可繼續離線進行對話;裝置會檢查可用記憶體,並隱藏無法容納的模型。選擇性的網路搜尋可透過使用者提供的 Tavily 或 Exa 金鑰取得最新資訊,但在使用者啟用前會維持停用狀態。

功能

在裝置上執行模型

透過 llama.cpp 在手機的 CPU 與 GPU 上執行量化的開放權重模型。模型下載完成後,即可在不經由網際網路往返的情況下處理提示詞。

模型目錄

可從 15 個實驗室發布的 53 個模型中選擇,下載大小介於 112 MB 至 3.11 GB。模型目錄包含文字、程式設計、多語言、推理、視覺、角色扮演與網路搜尋模型。

文件與圖片輸入

附加 PDF、Word 檔案或試算表,無需上傳附件即可詢問相關內容。支援視覺功能的模型也能解讀照片、螢幕截圖、標誌、選單、圖表與收據。

選擇性來源網路搜尋

只在需要時新增個人的 Tavily 或 Exa API 金鑰來啟用網路搜尋。支援的模型會提供附帶來源的回答,而金鑰會保留在 iOS Keychain 中。

自訂指示與模型匯入

設定系統提示詞或使用預設組合,在不同對話中定義語氣、格式或角色。使用者也可以從檔案或 URL 匯入相容的 GGUF 模型,此功能目前為實驗性功能。

語音與捷徑

使用裝置上的聽寫功能與系統語音進行語音互動,並透過「Ask KernelAI」和「Extract Text from Document」捷徑動作啟動本機 AI。

實際用途

  • 離線寫作與研究

    在旅行前下載適合的模型,接著即可在飛航模式或訊號不穩定的地方撰寫文字、提出問題或整理想法。

  • 私密文件審閱

    附加 PDF、Word 檔案或試算表,要求解釋或特定資訊,同時讓檔案保留在裝置上,而不是上傳至 KernelAI。

  • 圖片與文字解讀

    使用視覺模型讀取拍攝的標誌、選單、圖表、收據或螢幕截圖,包括圖片中包含的文字。

  • 行動裝置程式設計與自動化

    提出函式、除錯協助或解釋請求,即使離線也能取得具語法醒目提示的程式碼。捷徑也能傳遞提示詞或擷取文件文字,作為手機自動化的一部分。

Pros and Cons

Pros

  • 在手機上本機執行已下載的模型,並支援離線使用。
  • 目前功能未指出需要帳號、訂閱、使用上限或必須登入。
  • 支援文件、圖片、程式設計、聽寫、自訂指示、捷徑,以及選擇性的附帶來源網路搜尋。
  • 顯示裝置記憶體需求,並停用無法容納的模型。

Cons

  • 模型檔案必須個別下載,大小介於 112 MB 至 3.11 GB,因此儲存空間與裝置記憶體會影響哪些模型適合使用。
  • 較大的模型通常會使用更多儲存空間,且回應速度可能較慢;目錄中的自行匯入模型功能目前為實驗性功能。
  • 網路搜尋預設未包含在啟用功能中;需要目前線上資訊時,使用者必須提供 Tavily 或 Exa API 金鑰。

FAQ

KernelAI 免費嗎?

KernelAI 可免費使用,網站未指出需要帳號、訂閱、使用上限或需付費才能解鎖功能的提示方案。選擇性提供小費可支援開發,但不會解鎖功能。

如何開始使用並選擇模型?

從 App Store 或 Google Play 安裝應用程式,選擇模型並個別下載。模型下載至裝置後,即可在沒有網路連線的情況下執行。應用程式會測量裝置可用記憶體,並停用無法容納的模型。

支援哪些裝置與作業系統?

應用程式支援 iOS 16.4 或以上版本的 iPhone 與 iPad,以及 Android 7.0 或以上版本的 Android 裝置。可用模型取決於裝置測得的記憶體。

哪些資料會離開裝置?

根據網站說明,一般聊天、附加的文件、圖片與聽寫內容都會在裝置上處理。模型下載與選擇性的網路搜尋會使用網路。網路搜尋預設為關閉,且需要使用者自己的 Tavily 或 Exa API 金鑰;查詢會傳送至所選的服務提供者。

可以執行自己的模型嗎?

可以。使用者可以從檔案或直接 URL 匯入 GGUF 檔案,也包括自己網路上的伺服器。此功能標示為實驗性功能,因為不同檔案之間的相容性可能有所差異。

Quick Facts

類別
AI 聊天;生產力;開發者工具
平台
iOS 16.4 或以上;Android 7.0 或以上
模型目錄
來自 15 個實驗室的 53 個開放權重模型
模型下載大小
112 MB 至 3.11 GB;18 個模型小於 1 GB
離線工作流程
下載一次模型,之後即可在沒有網路連線的情況下使用
網路搜尋
選擇性功能;使用者提供 Tavily 或 Exa 金鑰,預設為關閉
KernelAI - AI Tool, Features, Use Cases & Alternatives | UStack