以 MCAP 為基礎的多模態管線
處理多模態 episode，可結合影片、狀態、動作、時間戳與來自多個錄製系統的中繼資料，並以 MCAP 作為 v1 的輸入與輸出邊界。
概覽
HFlow 是一款開源 SDK，可用於建立機器人與實體 AI 的多模態資料品質、處理、豐富化與整理管線。文件將其描述為可將已落地的錄製內容轉為標準化、經品質檢查且可查詢資料集的生產級資料工具。
此專案聚焦於機器人資料的常見問題：錄製內容可能包含來自多個系統的影片、狀態、動作、時間戳與中繼資料，但團隊需要可靠的方法來驗證品質、執行轉換、追蹤來源與整理資訊清單。HFlow 以標準 MCAP episode 為核心，搭配 Python 為基礎的處理步驟、以目錄為支撐的證據，以及透過 DuckDB SQL 進行整理，提供這個完整生命週期。
功能特色
可擴充的處理步驟
執行內建檢查，或新增自己的 Python 轉換、檢查、標籤與豐富化，同時讓既有處理程式碼保留在你自己的環境中。
來源追蹤與版本控管
透過來源追蹤資料、結構描述與工具版本、可用時的來源 URI，以及與步驟版本綁定的目錄記錄，追蹤每個輸出的產生方式。
可視化編排
透過 Airflow DAG 將工作流程以圖形方式呈現，讓團隊在排程執行期間可檢視任務狀態、日誌、重試與重新執行。
可查詢的目錄與整理
將中繼資料、品質證據、標籤、版本戳記與產物位置儲存在 Parquet 目錄中，讓團隊可用 DuckDB 回答整個語料庫層級的問題，而不必開啟每筆錄製內容。
彈性的部署模式
同時支援使用 Docker Compose 的本機單租戶工作區，以及部署到既有 Airflow 3 環境，並讓資料平面與控制平面關注點分離。
使用案例
錄製 episode 的資料品質控管
在資料往下游傳遞前，先檢查凍結的攝影機、漂移的串流、缺少的 topic 或重複的 episode 等問題，以驗證已落地的機器人錄製內容。
移植並正式化既有處理程式碼
透過加入轉換、檢查、標籤與豐富化，將既有腳本轉換為更可稽核的管線，同時保留底層 Python 程式碼與步驟邏輯的熟悉性。
語料庫整理與資訊清單建立
透過查詢目錄、檢視品質證據，並在不載入每個 MCAP 檔案的情況下，寫出固定版本輸出，為訓練或分析建立精選資料集資訊清單。
本機到排程式的管線執行
在開發期間於本機執行相同管線，之後在 Airflow 3 環境中排程，以進行週期性執行與監控。
資料集稽核與問題排查
透過追蹤來源、步驟版本與產物位置，沿著管線圖與目錄記錄回溯，調查結果是如何產生的。
Pros and Cons
Pros
- 專為多模態機器人資料打造，包括影片、狀態、動作、時間戳與中繼資料。
- 以 Python 保留處理程式碼，並允許既有程式透過小型轉接器接入，而不必重寫。
- 記錄來源追蹤、結構描述、工具版本與目錄中繼資料，有助於稽核與重現資料集。
- 透過產生的 Airflow 3 DAG，同時支援本機開發與排程執行。
- 讓團隊可用 DuckDB 查詢語料庫層級的中繼資料與品質證據，而不必載入錄製內容本身。
Cons
- 專案儲存庫仍屬 pre-v1，因此在評估採用時，實作狀態與尚待完成的工作仍很重要。
- 開源儲存庫不包含代管控制平面；文字提到對代管平台有興趣，但這裡尚未實作，也不是 pre-v1 的承諾。
- 提供的來源文字未包含完整的整合清單或詳細的連接器涵蓋範圍。
FAQ
HFlow 是用來做什麼的？
HFlow 是一款開源 SDK，可用於建立機器人與實體 AI 的多模態資料品質、處理、豐富化與整理管線。它適合處理錄製的機器人或感測器資料，並以結構化方式將其轉為整理過的資料集。
HFlow 已可用於生產環境嗎？
文件將 HFlow 描述為 pre-v1，但核心生命週期可端到端運作。它可先在本機試用，專案也引導讀者查看實作狀態與開放問題以了解最新細節。
HFlow 會處理與產生什麼？
HFlow 以每個受支援的標準 MCAP 檔案對應一個多模態 episode 為起點。它可以執行轉換、品質檢查、標註與豐富化，接著輸出標準化 MCAP、來源追蹤、產物，以及用於整理的 Parquet 目錄。
HFlow 可以如何執行？
開源部署可在附帶的 Docker Compose 執行環境中作為單租戶工作區運行，或在你已經操作的 Airflow 環境中以產生的 Airflow 3 DAG 方式執行。該儲存庫也提供本機快速入門與內建快速入門。
HFlow 支援哪些整合？
來源文字在擷取的頁面內容中未列出固定的整合目錄。不過它確實提到 Python 轉換、Airflow 3 DAG 生成、用於整理的 DuckDB SQL、MCAP 格式，以及與 Foxglove 和 Rerun 等工具開啟 MCAP 資料的相容性。
Quick Facts
- 類別
- 開發者工具
- 網域
- github.com
- 平台
- 開源 GitHub 儲存庫
- 主要使用者
- 機器人與實體 AI 團隊
- 執行環境
- 具 Airflow 3 DAG 生成的 Python SDK
- 資料格式
- MCAP episodes
HFlow 替代品
ByteAsk
ByteAsk 是專為 C 與 C++ 打造的終端機優先 AI coding agent，先編輯儲存庫再用真實編譯器、除錯器、sanitizer 與測試驗證變更，並提供免費方案與付費方案。
Manta AI
Manta AI 是一款自動化網頁應用測試工具，從 URL 即可開始探索、建立行為地圖，並以自然語言產生測試與回歸檢查，無需撰寫腳本或維護 selector。
Mindcase
Mindcase 是一款網頁資料 API 與控制台，可從網站與主流線上平台擷取結構化資料。支援提示詞或 API 存取，按筆預付計費。
CreateOS Sandbox
CreateOS Sandbox 是以 Firecracker micro-VM 執行程式與 agent 工作負載的隔離運算環境，支援私有網路、SDK、CLI 與 MCP 程式化控制。
hob
hob 是一個獨立的 coding agents 工作區，整合 agent sessions、終端機、歷史紀錄與後續工作，並維持你既有的工具與供應商設定。適合想保有本機路由、歷史與工作區結構控制權的開發者。
Ably Chat
Ably Chat 是一個聊天 API 平台，適合打造自訂即時聊天應用程式。支援聊天室訊息、輸入中提示、在線狀態、表情回應與訊息更新，並提供依使用量計費選項。