Rete

Rete란?

Rete는 Apple 기기용 로컬 AI 플랫폼으로, Mac, iPhone, iPad, Apple TV에서 클라우드 서비스 없이 AI를 직접 실행할 수 있습니다. 설치 후 기기들이 연결되어 컴퓨트 메쉬를 형성하고 작업을 분산해 응답을 가속화하고 개선합니다.

핵심 아이디어는 “한 번 구매, 영구 소유”로, 구독료나 클라우드가 필요 없습니다. Rete는 채팅 경험과 문서 질의응답(RAG), 코드 지원, 검색 가능한 대화 기록 등의 도구를 제공하며, 모든 것이 기기에서 실행됩니다.

Apple 기기(macOS, iOS, Apple TV)에서 로컬 우선 AI: 대화와 모델 실행이 클라우드 처리에 의존하지 않고 기기에서 실행됩니다.
Wi‑Fi를 통한 다중 기기 “메쉬 컴퓨팅”: 기기들이 자동으로 서로를 발견하고 Metal을 통해 GPU 성능을 기여합니다.
기기 간 자동 부하 분산: Rete가 메쉬 내 가장 빠른 기기로 작업을 라우팅하고 성능 지표를 표시합니다.
모델 지원 및 유연성: Llama, Mistral, Phi, Gemma, Qwen 등의 모델을 다운로드하거나 가져올 수 있습니다.
내장 “미세 조정 전문가”: 5개의 미세 조정된 전문가 모드를 전환해 사용할 수 있습니다.
파일에 대한 문서 RAG 및 검색: PDF, 코드, CSV, 텍스트를 지원해 임베딩 기반 컨텍스트 검색으로 문서에 기반한 질문을 처리합니다.
구문 강조가 포함된 Markdown 렌더링: 작성 및 코드 출력의 가독성을 향상시킵니다.
대화 간 메모리 및 개인화: 주요 사실을 기억하고 선호도 및 컨텍스트를 학습합니다.
대화 정리 및 검색: 폴더와 메시지 전체 기록 검색.
초대 코드로 원격 메쉬 연결: 초대 코드를 사용해 다른 네트워크의 기기를 연결하여 메쉬에 추가합니다.

개인 비서 및 연구형 Q&A: 채팅으로 질문을 하고 로컬 기기에서 검색 가능한 기록을 유지합니다.
문서 기반 질문(RAG): PDF, CSV, 텍스트/코드 파일을 업로드하거나 참조해 임베딩 기반 검색으로 콘텐츠에 기반한 질문을 합니다.
코드 도움 및 검토 워크플로: 내장 전문가 모드와 구문 강조 출력을 사용해 코드 작성 및 검토를 지원합니다.
포맷팅이 포함된 작성 지원: Markdown 렌더링과 강조 코드 블록으로 텍스트를 생성하고 다듬습니다.
기기 확장으로 더 빠른 로컬 추론: 긴 프롬프트나 무거운 작업 시 iPad, iPhone, Apple TV를 추가해 컴퓨트 메쉬를 확장하고 하드웨어 간 작업을 라우팅합니다.

Rete를 사용하려면 클라우드 계정이나 구독이 필요하나요?
아니요. 사이트에 따르면 Rete는 기기에서 실행되며 클라우드를 사용하지 않고 계정이나 구독이 필요 없습니다.

어떤 기기를 지원하나요?
Rete는 Mac의 macOS와 iPhone, iPad의 iOS, 그리고 Apple TV 앱을 지원합니다.

여러 기기를 어떻게 연결하나요?
기기들은 Wi‑Fi를 통해 자동으로 연결되어 메쉬를 형성합니다. 다른 네트워크 간 연결 시 초대 코드를 공유하세요.

Rete에서 어떤 모델을 실행할 수 있나요?
Rete는 앱에서 모델을 다운로드하거나 직접 가져올 수 있습니다. 사이트에 Llama, Mistral, Phi, Gemma, Qwen 계열이 지원된다고 나와 있습니다.

Rete의 “문서 RAG”とは 무엇인가요?
PDF, 코드, CSV, 텍스트 등의 문서를 추가해 데이터에 기반한 질문을 하는 것으로, 임베딩 기반 검색으로 관련 컨텍스트를 검색합니다.

자체 호스팅 로컬 LLM/채팅 앱: Apple 하드웨어의 디바이스 메쉬 대신 단일 머신(또는 직접 관리하는 로컬 서버)에서 모델을 로컬로 실행하며, 일반적으로 다른 설정 워크플로를 사용합니다.
클라우드 기반 챗봇: 추론을 클라우드에서 처리하며 디바이스 간 접근이 더 쉽지만, Rete의 로컬 우선 접근 방식(클라우드 없음, 사이트에 명시된 계정 없음)과 다릅니다.
로컬 RAG 툴킷 및 임베딩 파이프라인: 문서 기반 Q&A가 주 목적이라면, 검색, 인덱싱, 임베딩에 초점을 맞추고 채팅 UX와 디바이스 오케스트레이션을 사용자에게 맡기는 대안을 고려할 수 있습니다.
개발자 중심 모델 러너: 모델 선택과 런타임에 대한 더 많은 제어를 원한다면 하드웨어에서 모델 관리와 추론을 우선하는 도구가 대안이 될 수 있지만, 동일한 Apple 디바이스 메쉬 워크플로를 제공하지 않을 수 있습니다.