Memory-augmentierte KI
Memory-augmentierte KI ist eine KI-Architektur, die die Fähigkeiten eines Sprachmodells erweitert, indem sie es mit externen, dauerhaften Speichersystemen verbindet. Dadurch kann der Agent Informationen über die Grenzen eines einzelnen Kontextfensters hinaus speichern und abrufen.
Verstehen Memory-augmentierte KI
Sprachmodelle sind von Natur aus zustandslos: Bei jedem Inferenzaufruf steht nur der Inhalt des Kontextfensters zur Verfügung. Die Speichererweiterung löst diese Einschränkung, indem sie ein externes, dauerhaftes Speichersystem zur Verfügung stellt, auf das das Modell zugreifen und das es beschreiben kann. Benötigt der Agent Kontext aus früheren Interaktionen, ruft er relevante Erinnerungen aus dem externen Speicher ab und fügt sie in den aktuellen Kontext ein. Dadurch entsteht der Effekt eines beständigen Gedächtnisses innerhalb der praktischen Grenzen fixierter Kontextfenster. In Speicheraugmentierungs-Architekturen kommen verschiedene Speichertypen zum Einsatz: Vektordatenbanken für semantisches Retrieval, Graphdatenbanken für relationale Erinnerungen und strukturierte Datenbanken für episodische Einträge.
Wie GAIA verwendet Memory-augmentierte KI
GAIA ist ein speichererweitertes KI-System. Das LLM-Reasoning wird durch ChromaDB für semantische Speicherabfragen, PostgreSQL für strukturierte episodische Erinnerungen, MongoDB für flexible Dokumentenspeicherung und graphbasierte Speicher für relationale Kontexte ergänzt. Diese mehrschichtige Speicherarchitektur ermöglicht es GAIA, vergangene Interaktionen abzurufen, Beziehungszusammenhänge zu verstehen und konsistentes Wissen über unbegrenzt viele Sitzungen hinweg zu bewahren.
Verwandte Konzepte
Agenten-Gedächtnis
Agenten-Gedächtnis ist die Fähigkeit eines KI-Agenten, Informationen aus vergangenen Interaktionen, Beobachtungen und Handlungen zu speichern, abzurufen und für zukünftiges Verhalten zu nutzen – und so einen beständigen Kontext über mehrere Sitzungen hinweg zu ermöglichen.
Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) ist eine Technik, bei der LLM-Antworten durch das Abrufen relevanter Dokumente oder Daten aus einer externen Wissensdatenbank verbessert werden, wobei dieser Kontext in den Prompt des Modells eingespeist wird.
Graphbasierter Speicher
Graphbasierter Speicher ist eine KI-Speicherarchitektur, die Informationen als miteinander verbundene Knoten und Beziehungen speichert. Dadurch wird ein reiches Kontextverständnis und dauerhaftes Wissen über verschiedene Interaktionen hinweg ermöglicht.
Vektor-Datenbank
Eine Vektor-Datenbank ist ein Datenbanksystem, das darauf ausgelegt ist, hochdimensionale Vektor-Embeddings in großem Maßstab zu speichern, zu indexieren und abzufragen. So ermöglicht sie eine schnelle Ähnlichkeitssuche in großen Sammlungen eingebetteter Daten.
