LinkingMem icon

LinkingMem

LinkingMem 是一款圖譜原生 RAG 引擎,整合向量搜尋、圖遍歷與 LLM 推理於同一流程。支援相容 OpenAI 的模型後端,以及可插拔的 HTTP 或 Unix-socket 介面,便於自訂嵌入、擷取或生成服務。

LinkingMem

概覽

LinkingMem 是一款以 Rust 與 Python 建構的圖譜原生 RAG 引擎。它將 HNSW 向量搜尋、圖遍歷與 LLM 推理整合於同一系統中,讓檢索與答案生成無需串接多個獨立資料庫與服務即可完成。

網站說明了一個單程序、同機執行的流程,支援多模態節點、迭代式多跳擴展,以及相容 OpenAI 的模型後端。它適合希望以圖譜感知檢索搭配以外掛為基礎的可擴充性,並具備 WAL 復原、指標與速率限制等生產功能的團隊。

核心功能

混合圖譜加向量檢索

為圖譜資料與 HNSW 向量搜尋使用共享流程,而不是將儲存分散在獨立的向量資料庫與圖資料庫中。

多模態搜尋

支援文字與圖片節點位於同一向量空間,並可透過文字、圖片 URL,或兩者組合進行查詢。

迭代式多跳推理

允許 LLM 在產生最終回覆前,透過 /query/multihop 要求額外的圖譜擴展。

與供應商無關的 LLM 存取

接受相容 OpenAI 的用戶端,並可透過 OPENAI_BASE_URL 連接 OpenAI、Ollama、相容 Gemini 的伺服器、Groq、LM Studio 與 vLLM。

面向生產環境的操作能力

包含 delta store 與 WAL 當機復原、熱替換圖譜合併、Prometheus 指標、每 key 速率限制,以及分散式匯入。

可插拔的服務介面

提供純 HTTP 或 Unix-socket 的外掛介面,可用於以任何語言撰寫的自訂嵌入、擷取或生成服務。

常見使用情境

  • 圖譜感知的 RAG 應用

    建立需要圖譜感知上下文的檢索系統,例如在回答問題前先遍歷實體關係。

  • 多模態知識搜尋

    查詢結合文字與圖片的文件或知識庫,並可使用任一模態作為檢索入口。

  • 供應商彈性的 LLM 工作流程

    在不需依賴單一供應商 SDK 重寫應用的情況下,使用不同 LLM 後端進行原型驗證或部署。

  • 自訂流程整合

    以自訂服務擴充嵌入、擷取或生成步驟,同時維持純 HTTP 或 Unix-socket 介面。

  • 生產部署

    營運需要復原、可觀測性、速率限制與分散式匯入的生產級檢索服務。

Pros and Cons

Pros

  • 將向量搜尋與圖遍歷整合在單一檢索流程中。
  • 支援跨文字與圖片輸入的多模態查詢。
  • 可搭配相容 OpenAI 的模型端點,而不侷限於單一供應商。
  • 包含當機復原、指標、速率限制與分散式匯入等營運功能。
  • 可透過簡單的外掛介面使用自訂嵌入、擷取或生成服務。

Cons

  • 公開頁面未提供可用的定價細節,因為 /pricing 路由會回傳 404。
  • 蒐集到的來源中,API 參考資料的存取有限,因此部分實作細節仍未在可用材料中說明。
  • 多項能力主張是在首頁或設計文件中以高層級描述,而非完整參考手冊中詳細列出。

FAQ

什麼是 LinkingMem?

LinkingMem 是一款圖譜原生 RAG 引擎,整合 HNSW 向量搜尋、圖遍歷與 LLM 推理於同一流程。

網站上有定價資訊嗎?

來源未列出傳統的代管定價頁;/pricing URL 會回傳 404,而網站頁尾提到 License.md 檔案,並說明此專案依該授權發布。

它支援哪些模型提供者?

首頁說明 LinkingMem 可與相容 OpenAI 的用戶端搭配使用,包括 OpenAI、Ollama、相容 Gemini 的設定、Groq、LM Studio 與 vLLM,只要將 OPENAI_BASE_URL 指向所需端點即可。

我可以使用自訂外掛或服務嗎?

網站描述了一個純 HTTP 或 Unix-socket 的外掛介面,可讓你以任何語言替換自訂的嵌入、擷取或生成伺服器。

有記錄哪些部署特性?

文件化的系統設計強調單一程序、同機的流程,計算步驟之間沒有網路跳轉,並具備基於 WAL 的當機復原與分散式匯入。

Quick Facts

類別
開發者工具
執行環境
Rust + Python
檢索模型
HNSW 向量搜尋 + 圖遍歷
模型相容性
相容 OpenAI 的用戶端與端點
外掛傳輸
HTTP 或 Unix socket
授權/定價
已引用 License.md;定價頁不可用