LinkingMem icon

LinkingMem

LinkingMem 是一款图原生 RAG 引擎,将向量检索、图遍历与 LLM 推理整合于同一流程。支持 OpenAI 兼容模型后端,并提供可插拔的 HTTP 或 Unix socket 接口,便于自定义 embedding、抽取或生成服务。

LinkingMem

概述

LinkingMem 是一款使用 Rust 和 Python 构建的图原生 RAG 引擎。它将 HNSW 向量检索、图遍历与 LLM 推理整合到同一系统中,因此检索和答案生成无需再拼接多个独立的数据库和服务。

网站介绍了一个单进程、同机运行的流程,支持多模态节点、迭代式多跳扩展以及 OpenAI 兼容模型后端。它面向希望获得图感知检索、基于插件的扩展能力以及 WAL 恢复、指标和限流等生产特性的团队。

核心能力

混合图与向量检索

使用共享流程处理图数据和 HNSW 向量检索,而不是将存储拆分到独立的向量数据库和图数据库中。

多模态搜索

支持同一向量空间中的文本节点和图像节点,可通过文本、图像 URL 或二者组合进行查询。

迭代式多跳推理

允许 LLM 在生成最终响应之前,通过 /query/multihop 请求额外的图扩展。

与提供方无关的 LLM 访问

接受 OpenAI 兼容客户端,并可通过 OPENAI_BASE_URL 连接 OpenAI、Ollama、Gemini 兼容服务器、Groq、LM Studio 和 vLLM。

面向生产的运维能力

包含 delta store 和 WAL 崩溃恢复、热切换图合并、Prometheus 指标、按 key 限流以及分布式摄取。

可插拔服务接口

提供普通的 HTTP 或 Unix socket 插件接口,用于以任何语言编写的自定义 embedding、抽取或生成服务。

常见用例

  • 图感知 RAG 应用

    构建需要图感知上下文的检索系统,例如在回答问题前遍历实体关系。

  • 多模态知识搜索

    查询混合文本和图像的文档或知识库,并将任一模态作为检索入口。

  • 提供方灵活的 LLM 工作流

    无需围绕单一提供方 SDK 重写应用,即可使用不同的 LLM 后端进行原型开发或部署。

  • 自定义流程集成

    在保持普通 HTTP 或 Unix socket 接口的同时,通过自定义服务扩展 embedding、抽取或生成步骤。

  • 生产部署

    运行需要恢复、可观测性、限流和分布式摄取的生产级检索服务。

Pros and Cons

Pros

  • 将向量检索和图遍历整合在单一检索流程中。
  • 支持跨文本和图像输入的多模态查询。
  • 可与 OpenAI 兼容的模型端点协同工作,而不是仅依赖单一提供方。
  • 包含用于崩溃恢复、指标、限流和分布式摄取的运维特性。
  • 可通过简单的插件接口接入自定义的 embedding、抽取或生成服务。

Cons

  • 公开页面未提供可用的定价信息,因为 /pricing 路由返回 404。
  • 收集到的来源中 API 参考文档访问受限,因此部分实现细节在现有资料中仍未文档化。
  • 若干能力声明仅在首页或设计文档中以高层次方式描述,而非完整的参考手册。

FAQ

什么是 LinkingMem?

LinkingMem 是一款图原生 RAG 引擎,将 HNSW 向量检索、图遍历与 LLM 推理整合于同一流程。

网站上有定价信息吗?

来源未列出传统的托管定价页面;/pricing URL 返回 404,而网站页脚引用了 License.md 文件,并说明该项目依据该许可发布。

它支持哪些模型提供方?

首页说明 LinkingMem 可通过将 OPENAI_BASE_URL 指向所需端点来配合 OpenAI 兼容客户端使用,包括 OpenAI、Ollama、Gemini 兼容配置、Groq、LM Studio 和 vLLM。

我可以使用自定义插件或服务吗?

网站描述了一个普通的 HTTP 或 Unix socket 插件接口,可让你用任何语言替换为自定义的 embedding、抽取或生成服务。

文档中描述了哪些部署特性?

文档化的系统设计强调单进程、同机流程,计算步骤之间没有网络跳转,并支持基于 WAL 的崩溃恢复和分布式摄取。

Quick Facts

类别
开发者工具
运行时
Rust + Python
检索模型
HNSW 向量检索 + 图遍历
模型兼容性
OpenAI 兼容客户端和端点
插件传输
HTTP 或 Unix socket
许可/定价
引用了 License.md;定价页面不可用