Rete

Что такое Rete?

Rete — локальная AI-платформа для устройств Apple, которая позволяет запускать ИИ прямо на вашем Mac, iPhone, iPad и Apple TV — без использования облачных сервисов. После установки устройства могут соединяться в вычислительную mesh-сеть и распределять задачи для ускорения и улучшения ответов.

Основная идея — «плати один раз, владеешь навсегда», без подписок и облака. Rete предлагает чат плюс инструменты вроде вопросов по документам (RAG), помощи с кодом и поиска по истории разговоров — всё работает на ваших устройствах.

Ключевые возможности

• Локальный ИИ в приоритете на устройствах Apple (macOS, iOS, Apple TV): разговоры и выполнение моделей происходят на устройстве, без облачной обработки.
• Межустройственная «mesh-вычислительная сеть» по Wi‑Fi: устройства автоматически обнаруживают друг друга и делят GPU-мощности через Metal.
• Автоматическая балансировка нагрузки по устройствам: Rete направляет задачи на самое быстрое устройство в сети и показывает метрики производительности.
• Поддержка моделей и гибкость: скачивайте или импортируйте модели, включая Llama, Mistral, Phi, Gemma и Qwen.
• Встроенные «тонко настроенные эксперты»: поставляется с 5 режимами экспертов для переключения.
• RAG по документам и поиск по файлам: поддержка PDF, кода, CSV и текста — вопросы привязываются к документам через поиск по эмбеддингам.
• Отрисовка Markdown с подсветкой синтаксиса: улучшает читаемость для текста и кода.
• Память и персонализация в разговорах: запоминает ключевые факты, изучает предпочтения и контекст со временем.
• Организация и поиск разговоров: папки плюс поиск по всей истории сообщений.
• Удалённая mesh-сеть по инвайт-коду: соединяйте устройства из разных сетей с помощью кода приглашения.

Как использовать Rete

1. Установите Rete на Mac и откройте приложение. Rete просканирует аппаратное обеспечение и порекомендует подходящую модель ИИ.
2. Установите Rete на iPhone, iPad и/или Apple TV. При подключении к одной Wi‑Fi-сети устройства автоматически образуют mesh-сеть.
3. Начните чат в Rete. Устройства распределят нагрузку, и вы сможете использовать функции вроде RAG по документам, папок и поиска по истории.

Сценарии использования

• Личный ассистент и исследовательские вопросы-ответы: задавайте вопросы в чате, храните searchable историю разговоров локально на устройствах.
• Вопросы с привязкой к документам (RAG): загружайте или ссылайтесь на PDF, CSV, текст/код и задавайте вопросы, основанные на контенте с поиском по эмбеддингам.
• Помощь с кодом и ревью: используйте экспертные режимы и подсветку синтаксиса для написания и проверки кода.
• Поддержка письма с форматированием: генерируйте и дорабатывайте текст с Markdown-отрисовкой и подсвеченными блоками кода.
• Ускорение локального вывода за счёт масштабирования: для длинных или тяжёлых промптов добавляйте iPad, iPhone или Apple TV в mesh-сеть для распределения задач.

Часто задаваемые вопросы

Нужен ли облачный аккаунт или подписка для Rete?
Нет. На сайте указано, что Rete работает на ваших устройствах, не использует облако, не требует аккаунтов и подписок.

Какие устройства поддерживаются?
Rete поддерживает macOS на Mac, iOS на iPhone и iPad, плюс приложение для Apple TV.

Как соединить несколько устройств?
Устройства автоматически соединяются по Wi‑Fi в mesh-сеть. Для разных сетей поделитесь инвайт-кодом.

Какие модели поддерживает Rete?
Rete скачивает модели из приложения или импортирует ваши. На сайте указаны Llama, Mistral, Phi, Gemma и Qwen как поддерживаемые семейства.

Что такое «Document RAG» в Rete?
Это добавление документов (PDF, код, CSV, текст) для вопросов, основанных на ваших данных, с поиском релевантного контекста по эмбеддингам.

Альтернативы

• Самостоятельно размещаемые локальные LLM/чат-приложения: Вместо mesh-сети устройств на аппаратном обеспечении Apple они запускают модели локально на одной машине (или через локальные серверы, которые вы управляете), обычно с другим рабочим процессом настройки.
• Облачные чат-боты: Они выполняют вывод в облаке и обычно обеспечивают более простой доступ с разных устройств, но отличаются от локального подхода Rete (без облака, без аккаунтов, как указано на сайте).
• Локальные RAG-инструментарии и пайплайны эмбеддингов: Если ваша основная цель — Q&A на основе документов, альтернативы могут фокусироваться на поиске, индексации и эмбеддингах, оставляя UX чата и оркестрацию устройств вам.
• Инструменты для запуска моделей, ориентированные на разработчиков: Инструменты, приоритизирующие управление моделями и вывод на вашем оборудовании, могут быть альтернативой, если вы хотите больше контроля над выбором моделей и runtime, хотя они могут не предоставлять такой же workflow mesh-сети Apple-устройств.