KI-Halluzination

Eine KI nennt eine Frist, die es nicht gibt, ein Zitat, das nie gefallen ist, oder eine Zertifizierung, die Ihr Unternehmen nicht hat. Solche Aussagen heißen KI-Halluzinationen. Gefährlich sind sie, weil sie genauso flüssig und selbstsicher formuliert sind wie richtige Antworten.

Wie Sie beim Arbeiten mit KI-Texten Halluzinationen vermeiden, zeigt der Praxisbeitrag Wie man KI-Halluzinationen minimiert und präzise Texte erzeugt. Dieser Eintrag ordnet den Begriff ein: woher er stammt, warum das Problem in der Technik steckt, wie es sich in KI-Suchen zeigt und was das für Unternehmen heißt.

Vom Übersetzungsfehler zum Alltagswort

Den Begriff prägten Forscher, lange bevor es ChatGPT gab. 2018 beschrieb ein Google-Team um Katherine Lee und Orhan Firat Übersetzungssysteme, die Sätze erzeugten, die mit dem Ausgangstext nichts mehr zu tun hatten, und nannte sie „hallucinations“. 2020 untersuchte ein weiteres Google-Team um Joshua Maynez automatische Zusammenfassungen und stellte fest, dass die Modelle häufig Inhalte „halluzinieren“, die im Ausgangsdokument nicht stehen (Maynez u. a., ACL 2020).

Ins Alltagsvokabular kam das Wort mit ChatGPT. In Deutschland wird „ki halluzination“ laut Google-Ads-Daten seit März 2023 gesucht, 2026 rund 1.000 bis 1.600 Mal im Monat. Der bisherige Höchstwert lag im Mai 2025 bei 2.400.

Das Wort ist eine Metapher und etwas schief, weil es eine Wahrnehmungsstörung nahelegt, wo eine Maschine schlicht falsch rechnet. Als Fachbegriff hat es sich trotzdem durchgesetzt.

Warum Sprachmodelle halluzinieren

Ein Large Language Model erzeugt Text, indem es Wortstück für Wortstück die wahrscheinlichste Fortsetzung wählt. Es hat kein eingebautes Verfahren, das eine Aussage gegen eine Faktenbasis prüft. Fehlt ihm Wissen, entsteht trotzdem eine flüssige Antwort, nur eben eine geratene.

Ein Forschungsteam um Adam Tauman Kalai von OpenAI hat im September 2025 eine zweite Ursache beschrieben: Training und Bewertung belohnen Raten. Die gängigen Leistungstests geben für eine richtige Antwort einen Punkt, für ein „Ich weiß es nicht“ dagegen null Punkte, genau wie für eine falsche Antwort. Ein Modell, das bei Unsicherheit rät, schneidet dort besser ab als eines, das zugibt, etwas nicht zu wissen (Kalai u. a.: Why Language Models Hallucinate). Daraus folgt: Halluzinationen lassen sich verringern, aber nicht vollständig abstellen.

Typische Auslöser in der Praxis sind Fragen nach Details, die selten im Web stehen: Gründungsjahre kleiner Firmen, exakte Preise, Paragrafen, Fristen, Namen von Ansprechpartnern. Auch ein überfülltes Kontextfenster kann dazu führen, dass ein Modell Lücken füllt, statt nachzufragen.

Halluzination oder falsche Quelle?

In KI-Suchen ist nicht jeder Fehler eine Halluzination. Wenn ChatGPT-Suche, Perplexity oder der Google-KI-Modus Quellen heranziehen, kann der Fehler an drei Stellen entstehen. Die Unterscheidung entscheidet darüber, was Sie dagegen tun können:

Google hat das für seine AI Overviews öffentlich gemacht. Nach viral gegangenen Fehlern im Mai 2024, darunter der Rat, Käse mit Klebstoff auf der Pizza zu fixieren, schrieb das Unternehmen, AI Overviews halluzinierten im Allgemeinen nicht in der Weise anderer LLM-Produkte. Fehler entstünden meist, weil Anfragen oder Nuancen auf Webseiten falsch verstanden würden oder es kaum gute Informationen gebe; der Klebstoff-Tipp stammte aus einem Forenbeitrag (Google-Blog: AI Overviews: About last week).

Was Unternehmen daraus machen sollten

Für Unternehmen gibt es zwei Risikozonen. Die erste ist der eigene KI-Einsatz: Texte, Angebote, Auswertungen oder Chatbots, die falsche Angaben nach außen tragen. Hier hilft ein klarer Prüfprozess, und Verfahren wie Retrieval Augmented Generation senken das Risiko, weil das Modell sich auf Ihre Dokumente stützt statt auf sein Gedächtnis.

Die zweite Zone ist das, was fremde KI-Systeme über Sie sagen. Ein erfundener Firmensitz, eine falsche Preisspanne oder ein Wettbewerber, der als Ihr Tochterunternehmen auftaucht: Solche Fehler sehen potenzielle Kunden, bevor sie Ihre Website besuchen. Wie Sie solche Fälle erkennen und systematisch beobachten, beschreibt der Eintrag Marken-Halluzination.

Ein Beispiel aus dem Handwerk

Zur Veranschaulichung, kein echter Fall: Ein Metallbaubetrieb mit zwölf Beschäftigten wird in einer KI-Antwort als Unternehmen mit 120 Mitarbeitenden und einer Umweltzertifizierung beschrieben, die er nie hatte. Die Zahl ist ein Wiedergabefehler, die Zertifizierung eine Halluzination. Gegen die erste hilft eine eindeutige Formulierung auf der Über-uns-Seite, gegen die zweite nur Beobachtung und Geduld, denn eine Zertifizierung, die es nicht gibt, kann man nicht dementieren, ohne sie zu erwähnen.