Negli ultimi due anni il pattern di Retrieval-Augmented Generation (RAG) è diventato lo standard di fatto per iniettare informazioni esterne all'interno del contesto dei modelli linguistici. Tuttavia, la stragrande maggioranza delle implementazioni RAG convenzionali soffre di difetti strutturali: frammentazione indiscriminata dei testi (chunking piatto), perdita dei nessi causali tra sezioni distanti e il cosiddetto memory drift, in cui l'agente dimentica le decisioni storiche o confonde le versioni dei documenti.
"Un archivio vettoriale lineare sa trovare frammenti semanticamente simili a una query, ma non comprende la gerarchia logica che lega una regola di business al codice sorgente che la implementa. Per questo serve una memoria a grafo tri-modale."
1. I Limiti Conclamati del RAG Lineare
- Cecità Contestuale (Loss of Hierarchy): Segmentare un documento di 50 pagine in blocchi da 512 token distrugge la relazione genitore-figlio tra capitoli, premesse e conclusioni.
- Allucinazioni da Silos Semantici: Il recupero basato esclusivamente sulla vicinanza del coseno (cosine similarity) spesso recupera frasi che condividono parole chiave ma appartengono a contesti deprecati o non correlati.
- Incapacità di Riflessione Autonoma: Il RAG convenzionale è passivo: archivia ciò che l'utente inserisce ma non genera mai sintesi concettuali o correlazioni tra task passati.
2. I Tre Strati Ontologici di HyperSpace (L1, L2, L3)
In 00MESH la memoria a lungo termine di agenti e chatbot (inclusa Anna) è organizzata secondo un grafo tri-modale rigorosamente tipizzato:
| Livello | Denominazione | Struttura Dati | Funzione Primaria |
|---|---|---|---|
| L1 | Documenti Integrali (Raw Specs) | Blob immutabile con SHA-256 e metadata | Custodia della verità originale (contratti, schemi, file sorgente) |
| L2 | Chunk Semantici ad Alta Densità | Frammenti con overlap e vettori densi 1536d | Ricerca granulare per massima affinità lessicale e semantica |
| L3 | Note Ricorsive di Riflessione | Nodi di sintesi generati da background agent | Ponti causali cross-dominio (es. collegare consumo GPU a latenza) |
3. Hybrid Retrieval: Unione di BM25 e Dense Vectors
Quando un prompt perviene al cluster, il motore di recupero interroga la base di conoscenza combinando due metriche ortogonali tramite il punteggio di Reciprocal Rank Fusion (RRF):
# Calcolo Hybrid Score RRF in HyperSpace
def calculate_hybrid_score(doc_id, rank_bm25, rank_dense, k=60):
rrf_bm25 = 1.0 / (k + rank_bm25) if rank_bm25 else 0.0
rrf_dense = 1.0 / (k + rank_dense) if rank_dense else 0.0
return 0.4 * rrf_bm25 + 0.6 * rrf_dense
Questo approccio garantisce che sigle tecniche esatte, numeri di registro, identificatori di errore o indirizzi esadecimali (in cui BM25 eccelle) non vengano oscurati dalla ricerca semantica vettoriale, che invece eccelle nel cogliere l'intento concettuale.
4. Il Consolidamento Notturno (Nightly Consolidation Phase)
La vera innovazione della memoria tri-modale è la fase ciclica di consolidamento notturno. Quando i nodi di calcolo (Mac M5 e OMEN) entrano in modalità idle a basso carico:
- Un agente di riflessione esamina i log delle conversazioni e i task completati durante la giornata.
- Identifica pattern ricorrenti, contraddizioni o tentativi falliti.
- Genera automaticamente nodi di Livello 3 (Note Ricorsive), collegando i chunk L2 rilevanti con archi tipizzati come
PRECEDES,DEPENDS_ONoSUPERSEDES. - Pota i rami obsoleti, garantendo che la finestra di contesto non venga saturata da informazioni duplicate.
5. Benefici Misurati
Nei test interni su oltre 2.300 scenari di collaudo, la memoria a grafo tri-modale ha dimostrato:
- -84% di allucinazioni contestuali rispetto al RAG a chunk piatto su basi documentali complesse.
- +65% di precisione nel recupero di decisioni storiche prese a distanza di oltre 30 giorni.
- Consumo di token ridotto del 40%, poiché il prompt riceve la sintesi L3 arricchita invece di dozzine di chunk L2 frammentari e ridondanti.
Conclusioni
La memoria non è un semplice database in cui archiviare stringhe, ma un tessuto vivente che permette all'intelligenza artificiale di evolvere nel tempo mantenendo coerenza logica e rispetto assoluto della verità fattuale.