Halluzination
KI-Halluzination ist das Phänomen, bei dem ein Sprachmodell überzeugend klingende, aber faktisch falsche, erfundene oder unsinnige Informationen erzeugt, die nicht auf den Eingabedaten oder Trainingsdaten basieren.
Verstehen Halluzination
Halluzinationen gehören zu den größten Herausforderungen beim Einsatz großer Sprachmodelle. LLMs rufen keine Fakten aus einer Datenbank ab, sondern sagen das nächste Token anhand statistisch gelernter Muster voraus. Werden Dinge außerhalb des Trainings oder am Rand ihres Wissens abgefragt, produzieren die Modelle manchmal scheinbar plausible, aber falsche Informationen mit deutlicher Überzeugung. Halluzinationen reichen von subtilen Faktenfehlern (falsche Daten, inkorrekte Statistiken) bis zu vollständigen Erfindungen (ausgedachte Zitate, nicht existierende Personen, erfundene Produktfunktionen). Die Gefahr: Der überzeugende Tonfall lässt nicht erkennen, dass die Informationen falsch sind. Mehrere Faktoren erhöhen das Halluzinationsrisiko: sehr spezifische Fakten, die das Modell nicht gelernt hat, Fragen zu realen, aber unbekannten Einträgen, Suggestivfragen mit falschen Annahmen oder zu wenig Kontext. Niedrigere Temperatureinstellungen verringern, aber beseitigen Halluzinationen nicht vollständig. Die wichtigsten Gegenmaßnahmen sind Grounding und RAG. Grounding bedeutet, dem Modell Quelldokumente zu geben und es anzuweisen, seine Antworten nur auf diese Inhalte zu stützen. RAG ruft vor der Generierung relevante Dokumente ab und versorgt das Modell mit korrekten Informationen. Diese Strategien sind besonders effektiv für faktenbasierte Aufgaben.
Wie GAIA verwendet Halluzination
GAIA minimiert Halluzinationen, indem Antworten auf abgerufenen Daten basieren. Bei Fragen zu deinen E-Mails, Aufgaben oder Projekten ruft GAIA zunächst relevante Inhalte aus ChromaDB ab und integriert diese als Kontext in die Anfrage. Das LLM wird darauf angewiesen, die Antwort auf den abgerufenen Daten und nicht auf allgemeinem Wissen zu stützen – so wird das Risiko von erfundenen Informationen in produktivitätskritischen Situationen erheblich verringert.
Verwandte Konzepte
Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) ist eine Technik, bei der LLM-Antworten durch das Abrufen relevanter Dokumente oder Daten aus einer externen Wissensdatenbank verbessert werden, wobei dieser Kontext in den Prompt des Modells eingespeist wird.
Prompt Engineering
Prompt Engineering ist die Praxis, Eingaben für KI-Sprachmodelle so zu entwerfen und zu verfeinern, dass zuverlässig gewünschte Ausgaben erreicht werden – und das ganz ohne Änderungen an den zugrunde liegenden Modellgewichten.
Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein künstliches Intelligenzmodell, das mit riesigen Mengen an Textdaten trainiert wurde und menschliche Sprache bemerkenswert flüssig verstehen, generieren und verarbeiten kann.
Kontextfenster
Das Kontextfenster ist die maximale Anzahl an Tokens, die ein Sprachmodell in einem einzelnen Inferenzaufruf verarbeiten kann. Es umfasst den System-Prompt, die Gesprächshistorie, abgerufene Dokumente und die generierte Ausgabe.
Large Language Model (LLM)
Ein Large Language Model (LLM) ist ein Deep-Learning-Modell, das auf riesigen Textdatensätzen trainiert wurde. Es kann menschliche Sprache verstehen, generieren und in einer Vielzahl von Aufgaben anwenden.
