Что такое DeltaMemory?

DeltaMemory служит важнейшим когнитивным уровнем памяти для ИИ-агентов производственного класса, решая критическую проблему забывчивости агентов. Традиционные ИИ-агенты с трудом поддерживают контекст или точно вспоминают прошлые взаимодействия в течение длительного времени, что приводит к повторяющимся диалогам и снижению производительности. DeltaMemory решает эту проблему, предоставляя постоянное, структурированное запоминание, позволяя агентам динамически наращивать прошлые знания. Он действует как инфраструктурный уровень, гарантируя, что каждое взаимодействие способствует росту доступной базы знаний, значительно повышая точность и эффективность агента в реальных приложениях.

Эта платформа спроектирована с учетом производительности и масштабируемости, демонстрируя лучшие в отрасли показатели по скорости поиска и снижению затрат. Автоматически извлекая структурированные факты и строя графы знаний из необработанных журналов диалогов, DeltaMemory достигает массивного сжатия токенов (до 3714 раз), что означает, что агенты вспоминают только то, что важно, без вычислительных накладных расходов на повторную обработку всей истории. Это приводит к 2-кратному ускорению поиска, снижению затрат на 97% по сравнению с повторной обработкой необработанных токенов и превосходной производительности в тестах на долгосрочное ведение диалога, таких как LoCoMo.

Ключевые особенности

• Постоянное запоминание и контекстуальный интеллект: Агенты сохраняют долгосрочную память между сеансами, что позволяет персонализировать и учитывать контекст взаимодействия, которые накапливаются с течением времени.
• Автоматическое извлечение фактов и графы знаний: Необработанные данные диалогов автоматически преобразуются в структурированные факты и взаимосвязанные графы знаний, что обеспечивает эффективный семантический поиск.
• Экстремальное сжатие токенов: Достигает сжатия до 3714 раз за счет структурирования данных, что резко уменьшает размер контекстного окна, необходимого для поиска, и приводит к значительной экономии средств (сокращение на 97%).
• Высокая производительность и низкая задержка: Обеспечивает задержку запросов p50 на уровне 50 мс, работая на движке на базе Rust, что гарантирует реакцию в реальном времени для производственных систем.
• Нативная интеграция с фреймворками: Предлагает первоклассную поддержку SDK для популярных агентских фреймворков, включая Vercel AI SDK, LangChain, CrewAI и n8n, что позволяет быструю интеграцию.
• Встроенная наблюдаемость и прослеживаемость: Каждая операция памяти полностью отслеживается, обеспечивая видимость извлеченных фактов, запомненных воспоминаний и оценок значимости для надежной отладки и аудита.
• Готовность к корпоративному использованию: Разработан для производственных сред с готовностью к соответствию SOC 2, готовностью к HIPAA, безопасностью аудиторского уровня и SLA по времени безотказной работы 99,9%.
• Гибкое развертывание: Поддерживает развертывание в виде управляемого облачного сервиса или локально в вашей собственной VPC, обеспечивая суверенитет данных и контроль.

Как использовать DeltaMemory

Интеграция DeltaMemory в существующий стек ИИ-агентов разработана так, чтобы быть быстрой и простой, требующей минимальных инженерных усилий.

1. Установка SDK: Начните с установки SDK DeltaMemory в вашу среду приложения.
2. Инициализация соединения: Создайте экземпляр клиента DeltaMemory, подключив его к вашему экземпляру DeltaMemory (например, указав адрес хоста).
3. Прием данных: Используйте метод ingest, передавая уникальный идентификатор пользователя и новое сообщение или точку данных. DeltaMemory автоматически обрабатывает обработку, извлечение фактов и сжатие в фоновом режиме.
4. Поиск информации: Когда агенту требуется контекст, используйте метод recall с идентификатором пользователя. Система мгновенно извлекает наиболее релевантные, сжатые воспоминания и структурированные факты.
5. Интеграция с фреймворками: Для существующих рабочих процессов агентов (например, цепочек LangChain) вставьте коннектор DeltaMemory в существующий слот конфигурации памяти, часто требуя всего несколько строк кода для замены старых, менее эффективных решений для памяти.

Сценарии использования

DeltaMemory обеспечивает накопление интеллекта в любом сценарии, где ИИ-агенты многократно взаимодействуют с пользователями или данными:

• Здравоохранение (Медицинские ИИ-помощники): Медицинские ИИ-помощники могут поддерживать постоянную, соответствующую требованиям запись истории болезни пациента, лекарственных взаимодействий и заявленных предпочтений в течение нескольких сеансов. Например, чат-бот для терапии вспоминает конкретные триггеры тревоги, упомянутые тремя сеансами ранее, устраняя необходимость для пациента повторять конфиденциальную информацию.
• Образование (Персонализированные репетиторы): ИИ-репетиторы используют накопленное понимание отдельных учащихся. Система отслеживает успеваемость, выявляет постоянные пробелы в знаниях (например, трудности с квадратными уравнениями) и автоматически адаптирует стиль преподавания и уровень сложности на последующих уроках.
• Электронная коммерция (Гиперперсонализированный шопинг): Помощники по покупкам создают глубокие профили предпочтений из каждого взаимодействия. Если клиент однажды упомянул предпочтение экологичным брендам и размер M, агент запоминает это, гарантируя, что все будущие рекомендации будут актуальными без повторных запросов.
• Поддержка клиентов (Агенты с учетом контекста): Агенты поддержки получают мгновенный доступ к полной истории каждого взаимодействия с клиентом, включая прошлые заявки, предпочтения и предыдущие пути решения проблем. Этот контекст передается при эскалации, что позволяет решить проблему при первом обращении без необходимости просить клиента повторно изложить свою проблему.
• Аналитика продаж: ИИ для продаж отслеживает взаимодействия с потенциальными клиентами, возражения и сигналы покупки в различных точках контакта (электронная почта, чат). Каждый последующий шаг информируется полной историей взаимоотношений, что позволяет ИИ идеально планировать последующие действия, связанные с бюджетом, на основе предыдущих обсуждений.

FAQ

В: Как DeltaMemory достигает такого высокого сжатия токенов? О: Мы выходим за рамки простого векторного встраивания. DeltaMemory анализирует необработанные журналы диалогов для автоматического извлечения структурированных фактов и построения семантического графа знаний. Это структурированное представление гораздо эффективнее, чем хранение необработанного текста или даже плотных встраиваний, что позволяет нам сжимать миллионы токенов в несколько тысяч релевантных точек данных.

В: Совместим ли DeltaMemory с моей текущей LLM или фреймворком? О: Да. DeltaMemory по своей сути является агностическим к фреймворкам, но предлагает первоклассные нативные интеграции с популярными инструментами, такими как LangChain, CrewAI и Vercel AI SDK. Поскольку он функционирует как выделенный уровень памяти, его можно интегрировать практически с любым поставщиком LLM.

В: Каким стандартам безопасности и соответствия требованиям соответствует DeltaMemory для корпоративного использования? О: DeltaMemory создан с учетом корпоративных требований, предлагая готовность к соответствию SOC 2 и готовность к HIPAA, встроенные в архитектуру. Мы обеспечиваем криптографическое владение графами памяти и детальный контроль согласия, гарантируя безопасность данных как при развертывании в облаке, так и локально.

В: В чем разница между DeltaMemory и стандартными векторными базами данных? О: Стандартные векторные базы данных в основном хранят встраивания необработанного текста, требуя повторного встраивания и поиска всего контекста. DeltaMemory извлекает смысл в структурированные факты и графы, что приводит к более быстрому и точному поиску (подтвержденному бенчмарками LoCoMo) и значительно более низким эксплуатационным расходам за счет минимальной повторной обработки.

В: Могу ли я развернуть DeltaMemory в моем собственном частном облаке или VPC? О: Абсолютно. DeltaMemory предлагает полную гибкость развертывания. Вы можете использовать наш управляемый облачный сервис или развернуть DeltaMemory локально в вашей собственной Виртуальной Частной Сети (VPC), чтобы сохранить полный контроль над местоположением ваших данных и уровнем безопасности.