Cos'è DeltaMemory?

DeltaMemory funge da strato di memoria cognitiva essenziale per gli agenti AI di livello produttivo, risolvendo il problema critico dell'oblio degli agenti. Gli agenti AI tradizionali faticano a mantenere il contesto o a richiamare accuratamente le interazioni passate per lunghi periodi, portando a conversazioni ripetitive e a prestazioni degradate. DeltaMemory risolve questo problema fornendo un richiamo persistente e strutturato, consentendo agli agenti di costruire dinamicamente sulla conoscenza passata. Agisce come lo strato infrastrutturale, assicurando che ogni interazione contribuisca a una base di conoscenza crescente e accessibile, aumentando significativamente l'accuratezza e l'efficienza dell'agente nelle applicazioni del mondo reale.

Questa piattaforma è progettata per le prestazioni e la scalabilità, vantando benchmark leader del settore nella velocità di recupero e nella riduzione dei costi. Estraendo automaticamente fatti strutturati e costruendo grafi di conoscenza dai log di conversazione grezzi, DeltaMemory ottiene una compressione massiccia dei token (fino a 3.714x), il che significa che gli agenti richiamano solo ciò che conta senza l'overhead computazionale di rielaborare intere cronologie. Ciò si traduce in un recupero 2 volte più veloce, costi inferiori del 97% rispetto alla rielaborazione dei token grezzi e prestazioni superiori nei benchmark di conversazione a lungo termine come LoCoMo.

Caratteristiche Principali

• Richiamo Persistente e Intelligenza Contestuale: Gli agenti mantengono la memoria a lungo termine tra le sessioni, consentendo interazioni personalizzate e consapevoli del contesto che si accumulano nel tempo.
• Estrazione Automatica dei Fatti e Grafi di Conoscenza: I dati di conversazione grezzi vengono automaticamente trasformati in fatti strutturati e grafi di conoscenza interconnessi, consentendo un recupero semantico efficiente.
• Compressione Estrema dei Token: Ottiene fino a 3.714x di compressione strutturando i dati, riducendo drasticamente la dimensione della finestra di contesto necessaria per il richiamo e portando a significativi risparmi sui costi (riduzione del 97%).
• Alte Prestazioni e Bassa Latenza: Fornisce una latenza di query p50 di 50 ms, alimentata da un motore basato su Rust, garantendo una reattività in tempo reale per i sistemi di produzione.
• Integrazione Nativa con i Framework: Offre supporto SDK di prima classe per i framework di agenti popolari, tra cui Vercel AI SDK, LangChain, CrewAI e n8n, consentendo una rapida integrazione.
• Osservabilità e Tracciabilità Integrate: Ogni operazione di memoria è completamente tracciata, fornendo visibilità sui fatti estratti, sulle memorie richiamate e sui punteggi di salienza per un debugging e un audit robusti.
• Pronto per l'Enterprise: Progettato per ambienti di produzione con conformità SOC 2, conformità HIPAA, sicurezza di livello di audit e un SLA di uptime del 99,9%.
• Distribuzione Flessibile: Supporta la distribuzione come servizio cloud gestito o on-premise all'interno della propria VPC, garantendo la sovranità e il controllo dei dati.

Come Usare DeltaMemory

L'integrazione di DeltaMemory nello stack di agenti AI esistente è progettata per essere rapida e semplice, richiedendo uno sforzo di ingegneria minimo.

1. Installa l'SDK: Inizia installando l'SDK DeltaMemory nell'ambiente della tua applicazione.
2. Inizializza la Connessione: Istanzia il client DeltaMemory, collegandolo alla tua istanza DeltaMemory (ad esempio, specificando l'indirizzo host).
3. Ingestione Dati: Utilizza il metodo ingest, passando un identificatore utente univoco e il nuovo messaggio o punto dati. DeltaMemory gestisce automaticamente l'elaborazione, l'estrazione dei fatti e la compressione in background.
4. Richiama Informazioni: Quando l'agente necessita di contesto, utilizza il metodo recall con l'ID utente. Il sistema recupera istantaneamente le memorie compresse e i fatti strutturati più pertinenti.
5. Integrazione con Framework: Per i flussi di lavoro degli agenti esistenti (come le catene LangChain), inserisci il connettore DeltaMemory nello slot di configurazione della memoria esistente, spesso richiedendo solo poche righe di codice per sostituire soluzioni di memoria più vecchie e meno efficienti.

Casi d'Uso

DeltaMemory fornisce intelligenza cumulativa in qualsiasi scenario in cui gli agenti AI interagiscono ripetutamente con utenti o dati:

• Sanità (Assistenti Medici AI): Gli assistenti medici AI possono mantenere una registrazione persistente e conforme della storia del paziente, delle interazioni farmacologiche e delle preferenze dichiarate attraverso più sessioni. Ad esempio, un chatbot terapeutico ricorda specifici fattori scatenanti dell'ansia menzionati tre sessioni prima, eliminando la necessità per il paziente di ripetere informazioni sensibili.
• Istruzione (Tutor Personalizzati): I tutor AI sfruttano la comprensione accumulata dei singoli studenti. Il sistema tiene traccia dei progressi di apprendimento, identifica lacune di conoscenza persistenti (ad esempio, difficoltà con le equazioni quadratiche) e adatta automaticamente lo stile di insegnamento e il livello di difficoltà nelle lezioni successive.
• E-commerce (Acquisti Iper-Personalizzati): Gli assistenti agli acquisti costruiscono profili di preferenza approfonditi da ogni interazione. Se un cliente menziona una preferenza per marchi sostenibili e taglia M una volta, l'agente lo ricorda, assicurando che tutte le raccomandazioni future siano pertinenti senza richieste ripetute.
• Supporto Clienti (Agenti Consapevoli del Contesto): Gli agenti di supporto ottengono accesso istantaneo alla cronologia completa di ogni interazione del cliente, inclusi ticket precedenti, preferenze e percorsi di risoluzione precedenti. Questo contesto accompagna i passaggi di escalation, consentendo la risoluzione al primo contatto senza chiedere al cliente di ribadire il proprio problema.
• Intelligenza di Vendita: L'AI di vendita traccia le interazioni con i potenziali clienti, le obiezioni e i segnali di acquisto attraverso vari punti di contatto (email, chat). Ogni follow-up è informato dalla cronologia completa della relazione, consentendo all'agente di programmare perfettamente i follow-up relativi al budget in base alle discussioni precedenti.

FAQ

D: In che modo DeltaMemory ottiene una compressione dei token così elevata? A: Andiamo oltre i semplici embedding vettoriali. DeltaMemory analizza i log di conversazione grezzi per estrarre automaticamente fatti strutturati e costruire un grafo di conoscenza semantica. Questa rappresentazione strutturata è molto più efficiente rispetto alla memorizzazione di testo grezzo o anche di embedding densi, consentendoci di comprimere milioni di token in poche migliaia di punti dati pertinenti.

D: DeltaMemory è compatibile con il mio attuale LLM o framework? A: Sì. DeltaMemory è fondamentalmente agnostico rispetto al framework, ma offre integrazioni native di prima classe con strumenti popolari come LangChain, CrewAI e Vercel AI SDK. Poiché funziona come uno strato di memoria dedicato, può essere integrato con virtualmente qualsiasi fornitore di LLM.

D: Quali standard di sicurezza e conformità soddisfa DeltaMemory per l'uso enterprise? A: DeltaMemory è costruito pensando ai requisiti enterprise, offrendo la conformità SOC 2 e la conformità HIPAA integrate nell'architettura. Forniamo proprietà crittografica dei grafi di memoria e controlli di consenso granulari, garantendo la sicurezza dei dati sia che venga distribuito nel cloud sia on-premise.

D: Qual è la differenza tra DeltaMemory e i database vettoriali standard? A: I database vettoriali standard memorizzano principalmente gli embedding di testo grezzo, richiedendo che l'intero contesto venga ri-incorporato e cercato. DeltaMemory estrae il significato in fatti strutturati e grafi, portando a un recupero più veloce e preciso (convalidato dai benchmark LoCoMo) e a costi operativi drasticamente inferiori grazie alla minima rielaborazione.

D: Posso distribuire DeltaMemory all'interno del mio cloud privato o VPC? A: Assolutamente. DeltaMemory offre una flessibilità di distribuzione completa. Puoi utilizzare il nostro servizio cloud gestito oppure distribuire DeltaMemory on-premise all'interno della tua Virtual Private Cloud (VPC) per mantenere il controllo completo sulla residenza e sulla postura di sicurezza dei tuoi dati.