Halluzinationen: Warum KI Dinge erfindet, die es nicht gibt
Ein Sprachmodell lügt nicht. Es kann gar nicht lügen, weil es nichts weiß, worüber sich lügen ließe.
- Ein Sprachmodell sagt voraus, was als Nächstes wahrscheinlich klingt. Es hat kein Verzeichnis der Wahrheit, nur ein sehr gutes Gefühl dafür, wie eine richtige Antwort klingt.
- Deshalb sind erfundene Angaben nie zufällig schief: plausibles Jahr, glaubwürdiger Verlag, passender Titel, und es gibt sie nicht. Besonders oft bei Quellen, Paragrafen, Zahlen und Nischenwissen.
- Websuche und denkende Modelle helfen, sie lösen das Problem nicht. Auch mit Suche wird Inhalt falsch wiedergegeben, und Modelle raten weiter, weil Training und Tests Raten belohnen.
- Zwei Handgriffe wirken sofort: Erlaube „keine belastbare Angabe“ als Antwort, und gib das Material mit, statt aus dem Gedächtnis abfragen zu lassen.
- Alles, was wie eine Fundstelle aussieht, wird nachgeschlagen. Ohne Ausnahme.
Klingt nach Wortklauberei. Ist aber der Kern der Sache. Wer versteht, was diese Systeme tatsächlich tun, hört auf, sich über erfundene Quellenangaben zu ärgern, und fängt an, an den richtigen Stellen zu prüfen.
Jede Sprache hat Sätze, die sich richtig anfühlen. Muttersprachler*innen merken sofort, wenn eine Formulierung schief ist, ohne die Regel benennen zu können. Dieses Gefühl ist erstaunlich zuverlässig und hat einen blinden Fleck: Es prüft die Form, nicht den Inhalt. „Der Bundeskanzler eröffnete das Institut in Regensburg“ fühlt sich völlig korrekt an, auch wenn es dieses Institut nie gab.
Genau dieses Sprachgefühl ist alles, was ein Modell hat.
Warum KI erfindet: was beim Antworten passiert
Ein Sprachmodell sagt voraus, welche Wortbestandteile als Nächstes wahrscheinlich sind. Wort für Wort, jedes Mal neu, gestützt auf Muster aus enormen Textmengen.
Das Modell selbst schlägt nichts nach. Es hat keine Liste, in der steht, was wahr ist. Was es hat, ist ein extrem gutes Gefühl dafür, wie eine richtige Antwort klingt. Mehr nicht.
Deshalb sind erfundene Angaben auch nie zufällig schief. Eine erfundene Quelle hat ein plausibles Erscheinungsjahr, einen glaubwürdigen Verlag und einen Titel, der genau zum Thema passt. Sie ist perfekt geformt und existiert trotzdem nicht. Das ist kein Fehler im System, das ist das System.
Wo es besonders häufig passiert
- Bei Quellen, Paragrafen und Aktenzeichen. Alles, was einem festen Muster folgt, lässt sich mustergültig erfinden.
- Bei Zahlen, die niemand kennt. Je spezifischer die Frage, desto überzeugender die erfundene Antwort.
- Bei Nischenwissen. Wo wenig Material vorlag, füllt das Modell die Lücke mit dem, was ähnlich klingt.
- Wenn Du eine Antwort erwartest. Fragst Du nach fünf Beispielen, bekommst Du fünf. Auch wenn es nur drei gibt.
Der letzte Punkt ist der, den man selbst in der Hand hat. Eine Frage, die eine bestimmte Antwortform verlangt, erzeugt diese Form, notfalls mit erfundenem Inhalt.
Ein Forschungsteam von OpenAI hat im September 2025 beschrieben, warum das so hartnäckig ist: Training und die gängigen Tests belohnen Raten. Wer bei einer Prüfungsfrage rät, hat eine kleine Chance auf Punkte, wer „weiß ich nicht“ schreibt, bekommt sicher keine. Ein Modell, das auf gute Testergebnisse optimiert wird, lernt also, lieber eine Antwort zu geben als keine.
Und was ist mit Websuche und denkenden Modellen?
Zwei Dinge haben sich seit den ersten Chatbots verändert, und beide helfen.
Viele Werkzeuge suchen inzwischen im Netz, bevor sie antworten, und nennen Links dazu. Dann schlägt zwar das Werkzeug nach, das Modell schreibt seine Antwort aber weiterhin aus dem, was wahrscheinlich klingt, nur jetzt auf Basis der gefundenen Seiten. Eine Studie mit einem eigens dafür gebauten Test (HalluHard, Februar 2026) zeigt: Mit Websuche stimmen vor allem die Quellenangaben öfter. Dass der Inhalt der verlinkten Seite richtig wiedergegeben wird, ist damit nicht gesichert, hier bleiben die Fehler häufig. Ein Link neben einer Aussage ist also noch kein Beleg für die Aussage.
Denkende Modelle (Reasoning-Modelle, die vor der Antwort Zwischenschritte durchrechnen) machen bei vielen Aufgaben weniger Fehler. Sie erfinden aber weiterhin, vor allem dort, wo ihnen das Wissen schlicht fehlt. Gründlicher nachdenken ersetzt keine Information, die nicht da ist.
Websuche anlassen, wenn es um Fakten geht. Den Link aber öffnen und die Stelle selbst lesen. Wer nur prüft, ob es einen Link gibt, prüft die Form, nicht den Inhalt.
Zwei Handgriffe, die zuverlässig helfen
Erstens: Erlaube das Nichtwissen ausdrücklich.
Beantworte die Frage nur, wenn Du sicher bist.
Wenn Du es nicht weißt, schreib: keine belastbare Angabe.
Erfinde keine Quellen, Paragrafen oder Zahlen.
Das wirkt banal. Es ändert das Verhalten trotzdem deutlich, weil die erwartete Antwortform jetzt auch ein Nichtwissen sein darf. Genau den Anreiz zum Raten, den Training und Tests setzen, nimmst Du damit aus Deiner Frage heraus.
Zweitens: Gib das Material mit. Ein Modell, das aus einem beigefügten Text arbeitet, erfindet deutlich seltener, weil es nicht aus dem Gedächtnis rekonstruieren muss. Gezielter Kontext ist deshalb der wirksamste Hebel: nicht das ganze Handbuch, sondern der Abschnitt, um den es geht.
Und die unbequeme Ergänzung: Alles, was aussieht wie eine Fundstelle, wird nachgeschlagen, ohne Ausnahme. Eine erfundene Quelle erkennt man nicht am Text, sondern nur daran, dass es sie nicht gibt.
Wie das in einem Beruf aussieht, in dem eine falsche Angabe unmittelbar Folgen hat, hat mir Michael Heinen beschrieben, Zahnarzt und Teilnehmer der KI Business School. Er hat sich mit KI in die Endodontie eingearbeitet, ein Feld, in dem der aktuelle Forschungsstand zählt und in dem man sich auf ein Gefühl für richtig klingende Sätze nicht verlassen kann. Sein Fazit war nicht, dass er dem Werkzeug vertraut. Es war, dass seine Recherche „viel schneller, viel effizienter und auch direkt viel belegter“ wurde. Auf das letzte Wort kommt es an. Die Prüfung hat er nicht weggelassen, er hat sie in den Arbeitsschritt hineingezogen.
Halluzination ist der falsche Begriff
Genau diese Trennung steckt hinter meinem Unbehagen mit dem Wort Halluzination. Es klingt nach einer Störung, und eine Störung ist das Ganze nicht. Es ist dieselbe Fähigkeit, die diese Werkzeuge nützlich macht, nur ohne Deckung durch Fakten.
Wer das verstanden hat, arbeitet anders. Nicht misstrauischer, sondern gezielter: Sprache und Struktur kann man übernehmen, jede überprüfbare Behauptung schlägt man nach. Diese Trennung ist die eigentliche Kompetenz im Umgang mit diesen Systemen.
Was mir dabei Sorgen macht, ist nicht die Erfindung selbst. Es ist, dass gut formulierte Ergebnisse geprüft wirken. Je besser die Werkzeuge schreiben, desto niedriger wird die Schwelle, ab der wir nicht mehr nachschauen.
Sprache und Struktur darfst Du übernehmen. Jede Behauptung, die sich prüfen lässt, schlägst Du nach.
Was Du jetzt tun kannst
Bitte Dein Werkzeug beim nächsten Mal um drei Fachquellen zu einem Thema, das Du gut kennst. Schlag alle drei nach. Das ist die eine Übung, nach der niemand mehr blind übernimmt.
Wenn es um Bewerberdaten oder Verträge geht, gelten zusätzlich die Regeln aus dem Beitrag zum rechtssicheren Einsatz von ChatGPT. Und wie man Systeme baut, die aus geprüftem Material arbeiten statt aus dem Gedächtnis, ist Inhalt des vierten Moduls der KI Business School.
Genau damit beginnt die KI Business School GO. Session 1 heißt „Was KI kann, was sie nicht kann“: was ein Sprachmodell wirklich tut und warum es so überzeugend danebenliegt. Danach erkennt Ihr eine erfundene Antwort, bevor sie in einer Kundenmail landet. Vier Live-Sessions à 90 Minuten an vier Mittwochen in Folge (die Termine stehen auf der GO-Seite), 190 € netto je Person, ab 15 Plätzen 140 €, mit Nachweis über die KI-Kompetenzschulung nach Art. 4 EU AI Act. Zur KI Business School GO
Am Text erkennt man eine erfundene Quelle nie. Man erkennt sie erst, wenn man sie sucht und nichts findet.
Häufige Fragen
Warum erfindet KI Quellen und Zahlen? Weil ein Sprachmodell nicht nachschlägt, sondern vorhersagt, was als Nächstes wahrscheinlich klingt. Eine Quellenangabe folgt einem festen Muster, und dieses Muster lässt sich mustergültig erzeugen, auch wenn die Quelle nicht existiert.
Erfindet KI mit Websuche nichts mehr? Doch, nur seltener und anders. Mit Websuche stimmen vor allem die Quellenangaben häufiger. Ob der Inhalt der verlinkten Seite richtig wiedergegeben ist, musst Du weiterhin selbst nachlesen.
Sind denkende Modelle (Reasoning-Modelle) zuverlässiger? Bei vielen Aufgaben machen sie weniger Fehler. Wo ihnen das Wissen fehlt, erfinden sie aber weiterhin. Längeres Nachdenken ersetzt keine fehlende Information.
Wie verhindere ich erfundene Angaben? Ganz verhindern lässt es sich nicht. Am meisten hilft es, im Prompt „keine belastbare Angabe“ als erlaubte Antwort zu nennen, das Material mitzugeben und jede Fundstelle nachzuschlagen.
Quellen: Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang: „Why Language Models Hallucinate“, OpenAI, arXiv:2509.04664, 4. September 2025; Dongyang Fan, Sebastien Delsad, Nicolas Flammarion, Maksym Andriushchenko: „HalluHard: A Hard Multi-Turn Hallucination Benchmark“, arXiv:2602.01031, 1. Februar 2026. Beide abgerufen am 28.10.2026. Zitat Michael Heinen aus seinem Testimonial-Video für die KI Business School.

Co-Speaker der KI Business School. Zeigt Prompting und KI-Werkzeuge live am Bildschirm und baut mit Teams ihre ersten eigenen Assistenten.
18 Fragen, 7 Minuten, sofort ein PDF-Report mit Reifegrad-Index und EU-AI-Act-Status. Kostenlos.
Weiterlesen
Zum Nachschlagen:KI-GlossarPrompts zum KopierenEigenen Prompt prüfen