Fabric이란 무엇인가요?

Fabric은 분산 컴퓨팅을 위한 글로벌적이고 무허가 네트워크를 구축하여 차세대 분산 인프라를 개척하고 있습니다. Fabric의 핵심은 대규모 언어 모델(LLM) 추론 및 복잡한 머신러닝 훈련과 같은 현대 AI 워크로드와 관련된 비용 증가 및 중앙 집중화 문제를 해결하는 것입니다. 전 세계에 흩어져 있는 데이터 센터부터 개인 고성능 머신에 이르기까지 활용되지 않는 GPU 및 CPU 용량을 활용하여, Fabric은 기존 클라우드 제공업체에 비해 확장 가능하고 탄력적이며 훨씬 더 저렴한 대안을 제공합니다.

이 네트워크는 컴퓨팅 제공업체(유휴 리소스를 보유한 측)가 워크로드 요청자(개발자, 연구원 및 기업)로부터의 컴퓨팅 요청을 처리하여 수동적인 수입을 얻을 수 있는 마켓플레이스 역할을 합니다. 이러한 P2P(개인 간) 모델은 오버헤드를 획기적으로 줄여, 표준 클라우드 요금의 일부에 불과한 추론 비용을 실현함으로써 최첨단 AI 개발을 위한 고성능 컴퓨팅에 대한 접근성을 민주화합니다.

주요 기능

• 분산 컴퓨팅 집계: 전 세계의 방대한 유휴 GPU 및 CPU 파워 풀을 연결하여 워크로드에 대한 높은 가용성과 지리적 분산을 보장합니다.
• 비용 효율성: 특히 대규모 추론 작업에 대해 컴퓨팅 집약적인 작업에 대한 가격을 대폭 낮춰, 소규모 팀과 스타트업도 고급 AI에 접근할 수 있도록 합니다.
• 유연한 워크로드 지원: 실시간 추론, 모델 서빙, 분산 훈련 작업을 포함하여 까다로운 AI/ML 작업에 최적화되어 있습니다.
• 무허가 액세스: 호환되는 하드웨어를 가진 누구나 제공업체로 참여할 수 있으며, 컴퓨팅 파워가 필요한 누구나 요청자로 참여할 수 있어 진정한 개방형 생태계를 조성합니다.
• 보안 및 검증: 분산된 노드 전반에서 데이터 및 컴퓨팅 무결성과 보안을 보장하기 위해 강력한 메커니즘을 활용합니다.
• 수동적 수입 창출: 컴퓨팅 제공업체는 기존 유휴 하드웨어 자산을 네트워크에 기여함으로써 쉽게 수익을 창출할 수 있습니다.

Fabric 사용 방법

Fabric을 시작하는 것은 리소스를 제공하는 사람과 소비하는 사람에 따라 다른 경로를 포함합니다.

컴퓨팅 제공업체(수입 창출)의 경우:

1. 노드 설정: 호환되는 고성능 하드웨어(특히 GPU)가 있는지 확인하고 Fabric 클라이언트 소프트웨어를 머신에 설치합니다.
2. 온보딩 및 스테이킹: 화면의 지침에 따라 하드웨어 용량을 등록하고 품질에 대한 의지를 나타내기 위해 토큰을 스테이킹할 수 있습니다.
3. 워크로드 수락: 시스템은 하드웨어 사양 및 지리적 근접성을 기반으로 들어오는 컴퓨팅 요청에 사용 가능한 용량을 자동으로 일치시킵니다.
4. 검증 및 지급: 작업이 완료되고 네트워크에서 검증되면 직접 지급을 받습니다.

워크로드 요청자(작업 실행)의 경우:

1. 요구 사항 정의: 필요한 GPU 유형(예: A100, H100), 메모리 및 작업 성격(예: LLM 추론, 미세 조정)을 포함하여 컴퓨팅 요구 사항을 지정합니다.
2. 작업 제출: 워크로드 패키지(예: Docker 컨테이너, 모델 가중치)를 Fabric 네트워크에 제출합니다.
3. 자동화된 일치: Fabric의 오케스트레이션 계층은 작업을 지능적으로 분할하고 가장 적합하고 비용 효율적인 노드에 배포합니다.
4. 결과 검색: 작업 진행 상황을 모니터링하고 완료 시 최종 결과물 또는 모델 응답을 안전하게 검색합니다.

사용 사례

1. 대규모 LLM 추론 서빙: 소비자 대면 AI 애플리케이션(챗봇, 콘텐츠 생성)을 실행하는 스타트업 및 기업은 중앙 집중식 클라우드 API보다 훨씬 저렴한 비용으로 모델을 Fabric에 배포하여 더 나은 마진을 확보할 수 있습니다.
2. AI 모델 미세 조정 및 실험: 연구원 및 ML 엔지니어는 높은 시간당 GPU 임대료에 제약을 받지 않고 대규모 기반 모델의 미세 조정을 신속하게 반복하여 발견 속도를 높일 수 있습니다.
3. 엣지 AI 배포 및 데이터 처리: 대규모 데이터 세트를 처리하거나 데이터 소스에 더 가깝게 추론을 실행해야 하는 회사는 Fabric의 분산 특성을 활용하여 필요한 곳에 컴퓨팅 리소스를 지리적으로 배포함으로써 지연 시간을 줄일 수 있습니다.
4. 분산 렌더링 및 시뮬레이션: 순수 AI 외에도 Fabric은 버스트 용량이 필요한 복잡한 과학 시뮬레이션 또는 3D 렌더링 팜과 같은 기타 컴퓨팅 집약적인 작업을 지원할 수 있습니다.
5. 독립 AI 개발자: 이전에 대규모 모델을 훈련하거나 배포하는 데 필요한 인프라를 감당할 수 없었던 개인 개발자는 이제 저렴한 비용으로 엔터프라이즈급 컴퓨팅 파워에 액세스할 수 있습니다.

FAQ

Q: Fabric은 어떻게 독점 모델 및 데이터의 보안을 보장하나요? A: Fabric은 고급 암호화 검증 기술과 컨테이너화(보안 Docker 환경과 같은)를 사용하여 워크로드를 격리합니다. 데이터는 제공업체 노드 내에서 안전하게 처리되며, 지급 전에 결과가 검증되어 지적 재산이 보호됩니다.

Q: Fabric 네트워크에서 가장 가치 있는 하드웨어는 무엇인가요? A: 현재 최신 NVIDIA GPU(특히 A10G, A100, H100과 같이 VRAM이 높은 GPU)를 갖춘 하드웨어가 AI 워크로드에 가장 많이 요구됩니다. 그러나 고성능 코어 CPU도 일부 준비 작업 및 소규모 추론 작업에 유용합니다.

Q: 컴퓨팅 작업에 대한 가격은 어떻게 결정되나요? A: 가격은 동적이며 공급(사용 가능한 제공업체 입찰)과 수요(요청자 요구 사항)에 따라 결정됩니다. 제공업체는 경쟁력 있는 요율을 설정하며, 네트워크는 요청자가 지정한 품질 및 지연 시간 요구 사항을 충족하는 가장 효율적인 리소스 조합을 자동으로 선택합니다.

Q: Fabric은 AI 전용인가요, 아니면 일반 컴퓨팅 작업을 실행할 수도 있나요? A: Fabric은 현재 시장 수요로 인해 AI/ML 워크로드에 중점을 두고 최적화되어 있지만, 기본 아키텍처는 컨테이너화되어 네트워크 전반에서 실행될 수 있는 일반 분산 컴퓨팅 작업을 지원합니다.

Q: 컴퓨팅 제공업체가 작업 도중에 오프라인이 되면 어떻게 되나요? A: 네트워크는 중복성 및 내결함성 메커니즘을 활용합니다. 노드가 실패하면 작업의 나머지 세그먼트는 데이터 손실이나 상당한 지연 없이 작업을 완료하기 위해 네트워크의 다른 사용 가능한 검증된 노드로 자동 재분배됩니다.