Rete

Rete 是什麼？

Rete 是針對 Apple 裝置的本地 AI 平台，讓您直接在 Mac、iPhone、iPad 和 Apple TV 上執行 AI—無需使用雲端服務。安裝後，您的裝置可互相連接形成運算網格，分攤工作以加速並改善回應。

核心理念是「一次付費，永久擁有」，無訂閱、無雲端需求。Rete 提供聊天體驗，並支援文件問答（RAG）、程式碼輔助及可搜尋對話記錄等工具，全數在您的裝置上運行。

主要功能

• Apple 裝置優先本地 AI（macOS、iOS、Apple TV）：對話與模型執行在裝置上運行，而非依賴雲端處理。
• 多裝置 Wi‑Fi「網格運算」：裝置自動發現彼此，並可透過 Metal 貢獻 GPU 運算力。
• 跨裝置自動負載平衡：Rete 將任務路由至網格中最快的裝置，並顯示效能指標。
• 模型支援與彈性：下載或匯入模型，包括 Llama、Mistral、Phi、Gemma 和 Qwen。
• 內建「微調專家」：隨附 5 種微調專家模式，可隨時切換。
• 文件 RAG 與檔案搜尋：支援 PDF、程式碼、CSV 和文字，讓問題可基於提供的文件，使用嵌入式上下文擷取來 grounding。
• Markdown 渲染與語法高亮：提升寫作與程式碼輸出的可讀性。
• 跨對話記憶與個人化：記住關鍵事實，並隨時間學習您的偏好與脈絡。
• 對話組織與搜尋：資料夾加上全記錄訊息搜尋。
• 邀請碼遠端網格：使用邀請碼跨不同網路連接裝置，讓額外裝置加入您的網格。

如何使用 Rete

1. 在 Mac 上安裝 Rete，然後開啟應用程式。Rete 會掃描您的硬體並推薦適合的 AI 模型。
2. 在 iPhone、iPad 和/或 Apple TV 上安裝 Rete。當這些裝置連上相同 Wi‑Fi 網路時，會自動連接形成網格。
3. 在 Rete 中開始聊天。您的裝置分攤工作，您可使用文件 RAG、資料夾及可搜尋記錄等功能與 AI 互動。

使用情境

• 個人助理與研究式問答：在聊天中提問，保留可搜尋記錄，同時保持本地裝置運行。
• 文件 grounding 問答（RAG）：上傳或參照 PDF、CSV 或文字/程式碼檔案，使用嵌入式擷取讓問題基於內容。
• 程式碼輔助與審核流程：使用內建專家模式與語法高亮輸出，協助寫作與審核程式碼。
• 帶格式寫作支援：生成並精煉文字，同時檢視 Markdown 渲染與高亮程式碼區塊的回應。
• 擴展裝置加速本地推論：針對較長或較重提示，新增 iPad、iPhone 或 Apple TV 擴充運算網格，並跨可用硬體路由工作。

常見問題

使用 Rete 需要雲端帳號或訂閱嗎？
不需要。網站說明 Rete 在您的裝置上運行，不使用雲端、無需帳號，也無訂閱。

支援哪些裝置？
Rete 支援 Mac 上的 macOS，以及 iPhone 和 iPad 上的 iOS，外加 Apple TV 應用程式。

如何連接多個裝置？
裝置會自動透過 Wi‑Fi 連接形成網格。跨不同網路連接時，可分享邀請碼。

Rete 可運行哪些模型？
Rete 可從應用程式下載模型或匯入自有模型。網站列出 Llama、Mistral、Phi、Gemma 和 Qwen 為支援的模型家族。

Rete 中的「文件 RAG」是什麼？
指新增文件（例如 PDF、程式碼、CSV 或文字），讓您能基於資料提問，使用嵌入式搜尋擷取相關脈絡。

替代方案

• 自架本地 LLM/聊天應用程式：這些在單一機器（或您管理的本地伺服器）上本地執行模型，而非 Apple 硬體的裝置網狀；通常有不同的設定流程。
• 雲端聊天機器人：這些在雲端處理推論，通常提供跨裝置更容易存取，但與 Rete 的本地優先方法不同（無雲端、網站未提及帳戶）。
• 本地 RAG 工具組與嵌入管線：若主要目標是文件基礎問答，替代方案可能專注檢索、索引與嵌入，而將聊天 UX 與裝置協調留給您。
• 開發者導向模型執行器：若想更控制模型選擇與執行時環境，專注硬體模型管理與推論的工具可為替代，但可能無相同的 Apple 裝置網狀流程。