UStackUStack
Fabric icon

Fabric

Fabric 是一個去中心化的分散式運算網路,它將閒置的運算資源與高需求的 AI 和機器學習工作負載連接起來,為推論和訓練提供高成本效益的解決方案。

Fabric

什麼是 Fabric?

什麼是 Fabric?

Fabric 正在透過建立一個全球性的、無需許可的分散式運算網路,開創去中心化基礎設施的下一代。其核心在於解決現代 AI 工作負載(例如大型語言模型 (LLM) 推論和複雜的機器學習訓練)所面臨的成本不斷上升和中心化問題。透過利用全球各地分散的閒置 GPU 和 CPU 容量——從資料中心到個人高效能機器——Fabric 為傳統雲端供應商提供了一個可擴展、有彈性且顯著更經濟實惠的替代方案。

該網路充當一個市場,運算提供者(擁有閒置資源者)可以透過服務工作負載請求者(開發人員、研究人員和企業)的運算請求來賺取被動收入。這種點對點模式大幅降低了營運成本,使得推論成本僅為標準雲端費率的一小部分,從而使尖端 AI 開發能夠獲得高效能運算的普及化。

關鍵特性

  • 去中心化運算聚合: 連接全球龐大的閒置 GPU 和 CPU 資源池,確保工作負載的高可用性和地理分散性。
  • 成本效益: 為運算密集型任務(特別是高容量推論工作)提供大幅降低的價格,使小型團隊和新創公司也能負擔得起先進的 AI。
  • 靈活的工作負載支援: 針對高需求的 AI/ML 任務進行優化,包括即時推論、模型服務和分散式訓練作業。
  • 無需許可的存取: 歡迎任何擁有相容硬體的人加入成為提供者,或任何需要運算能力的人加入成為請求者,從而培養一個真正開放的生態系統。
  • 安全與驗證: 利用強大的機制來確保分散式節點之間資料和運算的完整性與安全性。
  • 被動收入產生: 運算提供者可以透過對網路的貢獻,輕鬆地將其現有的閒置硬體資產變現。

如何使用 Fabric

開始使用 Fabric 對於提供資源者和消耗資源者來說,有著不同的途徑。

對於運算提供者(賺取收入):

  1. 設定節點: 在您的機器上安裝 Fabric 客戶端軟體,確保您擁有相容的高效能硬體(尤其是 GPU)。
  2. 入職與質押: 遵循螢幕上的提示來註冊您的硬體容量,並可能需要質押代幣以表明承諾和品質。
  3. 接受工作負載: 系統會根據硬體規格和地理位置接近度,自動將您的可用容量與傳入的運算請求進行匹配。
  4. 驗證與支付: 一旦工作完成並經過網路驗證,您將直接收到款項。

對於工作負載請求者(執行作業):

  1. 定義需求: 具體說明您的運算需求,包括所需的 GPU 類型(例如 A100、H100)、記憶體以及任務性質(例如 LLM 推論、模型微調)。
  2. 提交作業: 將您的工作負載套件(例如 Docker 容器、模型權重)提交到 Fabric 網路。
  3. 自動化匹配: Fabric 的協調層會智能地分解作業,並將其分配給最適合、最具成本效益的節點。
  4. 檢索結果: 監控作業進度,並在完成後安全地檢索最終輸出或模型回應。

使用案例

  1. 高容量 LLM 推論服務: 運行面向消費者的 AI 應用程式(聊天機器人、內容生成)的新創公司和企業可以在 Fabric 上部署其模型,以遠低於集中式雲端 API 的成本處理大量請求,從而獲得更好的利潤。
  2. AI 模型微調與實驗: 研究人員和 ML 工程師可以在快速迭代大型基礎模型的微調時,不受高昂的小時 GPU 租賃費用的限制,從而加速發現的步伐。
  3. 邊緣 AI 部署與資料處理: 需要在更靠近資料來源的地方處理大型資料集或運行推論的公司,可以利用 Fabric 的分散式特性,在需要地理位置部署運算資源,從而減少延遲。
  4. 去中心化渲染與模擬: 除了純粹的 AI 之外,Fabric 還可以支援其他運算密集型任務,例如需要突發容量的複雜科學模擬或 3D 渲染農場。
  5. 獨立 AI 開發者: 過去因無法負擔訓練或部署大型模型所需基礎設施的個人開發者,現在可以經濟實惠地存取企業級的運算能力。

常見問題 (FAQ)

問:Fabric 如何確保我的專有模型和資料的安全性? 答:Fabric 採用先進的加密驗證技術和容器化技術(如安全的 Docker 環境)來隔離工作負載。資料在提供者的節點內安全處理,並在支付前驗證結果,確保智慧財產權受到保護。

問:Fabric 網路上哪種類型的硬體最有價值? 答:目前,配備現代 NVIDIA GPU(特別是具有高 VRAM 的型號,如 A10G、A100、H100)的硬體在 AI 工作負載中需求最高。然而,高核心數的 CPU 對於某些準備任務和較小的推論工作也很有價值。

問:運算作業的定價是如何確定的? 答:定價是動態的,由供應(可用提供者的出價)和需求(請求者的需求)決定。提供者設定有競爭力的費率,網路會自動選擇最符合請求者指定品質和延遲要求的、最具效率的資源組合。

問:Fabric 僅適用於 AI,還是我可以運行通用運算任務? 答:雖然 Fabric 由於當前的市場需求而高度針對 AI/ML 工作負載進行優化和行銷,但其底層架構支援可以在網路上容器化並執行的通用分散式運算任務。

問:如果運算提供者在工作執行中途離線會怎樣? 答:網路利用冗餘和容錯機制。如果一個節點發生故障,該工作剩餘的部分會自動重新分配給網路上其他可用的、經過驗證的節點,以確保工作完成,不會造成資料丟失或顯著延遲。

Fabric | UStack