Halluzination

Halluzination bezeichnet in der KI das Phänomen, dass Sprachmodelle (LLMs) Antworten erzeugen, die zwar sprachlich überzeugend und kohärent klingen, inhaltlich aber teilweise oder vollständig falsch sind. Das Modell „erfindet" Fakten, Zitate, Quellenangaben oder Zusammenhänge, die nicht existieren – und tut dies mit der gleichen Zuversicht wie bei korrekten Antworten.

Die Ursache liegt in der Funktionsweise von Sprachmodellen: Sie berechnen statistische Wahrscheinlichkeiten für das nächste Wort, haben aber kein echtes Verständnis von Wahrheit oder Fakten. Besonders anfällig sind Modelle bei seltenen Themen, spezifischen Zahlen, Datumsangaben und Quellenverweisen.

Zur Reduktion von Halluzinationen werden verschiedene Strategien eingesetzt: RAG (Retrieval-Augmented Generation) verankert Antworten in externen Datenquellen, Grounding-Techniken verknüpfen Aussagen mit überprüfbaren Fakten, und Reasoning-Modelle mit Chain-of-Thought können durch schrittweises Nachdenken logische Fehler besser vermeiden. Dennoch bleibt Halluzination eine der zentralen Herausforderungen beim produktiven KI-Einsatz und erfordert stets eine kritische Prüfung der Ergebnisse.