Rete

Rete 是什么？

Rete 是面向 Apple 设备的本地 AI 平台，可让您直接在 Mac、iPhone、iPad 和 Apple TV 上运行 AI——无需使用云服务。安装后，您的设备可连接形成计算网格，分担工作以加速并提升响应。

核心理念是“一次付费，永久拥有”，无需订阅且无云端需求。Rete 提供聊天体验及支持工具，如文档问答（RAG）、代码辅助和可搜索对话历史，全部在您的设备上运行。

主要功能

• Apple 设备上的本地优先 AI（macOS、iOS、Apple TV）：对话和模型执行在设备上运行，而非依赖云端处理。
• 通过 Wi‑Fi 的多设备“网格计算”：设备自动发现彼此，并可通过 Metal 贡献 GPU 算力。
• 跨设备自动负载均衡：Rete 将任务路由至网格中最快的设备，并显示性能指标。
• 模型支持与灵活性：可下载或导入模型，包括 Llama、Mistral、Phi、Gemma 和 Qwen。
• 内置“微调专家”：预载 5 种可切换的微调专家模式。
• 文档 RAG 及文件搜索：支持 PDF、代码、CSV 和文本，使用基于嵌入的上下文检索，让问题基于提供的文档。
• Markdown 渲染带语法高亮：提升写作和代码输出的可读性。
• 跨对话的记忆与个性化：记住关键事实，并随时间学习您的偏好和上下文。
• 对话组织与搜索：文件夹加跨消息的全历史搜索。
• 通过邀请码的远程网格：使用邀请码跨不同网络连接设备，让额外设备加入您的网格。

如何使用 Rete

1. 在 Mac 上安装 Rete，然后打开应用。Rete 会扫描您的硬件并推荐适合您设备的 AI 模型。
2. 在 iPhone、iPad 和/或 Apple TV 上安装 Rete。当这些设备在同一 Wi‑Fi 网络时，它们会自动连接形成网格。
3. 在 Rete 中开始聊天。您的设备分担工作，您可使用文档 RAG、文件夹和可搜索历史等功能与 AI 互动。

使用场景

• 个人助理和研究式问答：在聊天中提问，保持跨对话的可搜索历史，同时保持本地设备运行。
• 文档 grounding 问题（RAG）：上传或引用 PDF、CSV 或文本/代码文件，使用基于嵌入的检索让问题基于内容。
• 代码帮助与审查工作流：使用内置专家模式和语法高亮输出，辅助编写和审查代码。
• 带格式的写作支持：生成并优化文本，同时查看 Markdown 渲染和高亮代码块的响应。
• 通过扩展设备加速本地推理：对于较长或较重的提示，添加 iPad、iPhone 或 Apple TV 扩展计算网格，并在可用硬件间路由工作。

常见问题

使用 Rete 需要云账号或订阅吗？
不需要。官网说明 Rete 在您的设备上运行，不使用云端，不需要账号，且无订阅。

支持哪些设备？
Rete 支持 Mac 上的 macOS、iPhone 和 iPad 上的 iOS，以及 Apple TV 应用。

如何连接多个设备？
设备通过 Wi‑Fi 自动连接形成网格。要跨不同网络连接，可分享邀请码。

Rete 支持哪些模型？
Rete 可从应用下载模型或导入您自己的。官网列出支持 Llama、Mistral、Phi、Gemma 和 Qwen 等模型家族。

Rete 中的“文档 RAG”是什么？
指添加文档（如 PDF、代码、CSV 或文本），让您能基于数据提问，使用基于嵌入的搜索检索相关上下文。

替代方案

• 自托管本地 LLM/聊天应用：这些在单一机器（或您管理的本地服务器）上本地运行模型，而不是在 Apple 硬件上使用设备网格，通常采用不同的设置流程。
• 云端聊天机器人：这些在云端处理推理，通常提供更便捷的跨设备访问，但不同于 Rete 的本地优先方法（无云端、无网站上声明的账户）。
• 本地 RAG 工具包和嵌入管道：如果您的主要目标是文档基础问答，替代方案可能专注于检索、索引和嵌入，而将聊天用户体验和设备协调留给您。
• 面向开发者的模型运行器：如果您希望对模型选择和运行时有更多控制，优先考虑模型管理和硬件推理的工具可作为替代，尽管它们可能不提供相同的 Apple 设备网格流程。