Zum Inhalt springen
Synnous Consulting
KI im Alltag6 Min Lesezeit
Porträt von Niklas Greczak
Niklas Greczak

Halluzinationen: Warum KI Dinge erfindet, die es nicht gibt

Ein Sprachmodell lügt nicht. Es kann gar nicht lügen, weil es nichts weiß, worüber sich lügen ließe.

Die Kurzfassung
  • Ein Sprachmodell sagt voraus, was als Nächstes wahrscheinlich klingt. Es hat kein Verzeichnis der Wahrheit, nur ein sehr gutes Gefühl dafür, wie eine richtige Antwort klingt.
  • Deshalb sind erfundene Angaben nie zufällig schief: plausibles Jahr, glaubwürdiger Verlag, passender Titel, und es gibt sie nicht. Besonders oft bei Quellen, Paragrafen, Zahlen und Nischenwissen.
  • Websuche und denkende Modelle helfen, sie lösen das Problem nicht. Auch mit Suche wird Inhalt falsch wiedergegeben, und Modelle raten weiter, weil Training und Tests Raten belohnen.
  • Zwei Handgriffe wirken sofort: Erlaube „keine belastbare Angabe“ als Antwort, und gib das Material mit, statt aus dem Gedächtnis abfragen zu lassen.
  • Alles, was wie eine Fundstelle aussieht, wird nachgeschlagen. Ohne Ausnahme.

Klingt nach Wortklauberei. Ist aber der Kern der Sache. Wer versteht, was diese Systeme tatsächlich tun, hört auf, sich über erfundene Quellenangaben zu ärgern, und fängt an, an den richtigen Stellen zu prüfen.

Jede Sprache hat Sätze, die sich richtig anfühlen. Muttersprachler*innen merken sofort, wenn eine Formulierung schief ist, ohne die Regel benennen zu können. Dieses Gefühl ist erstaunlich zuverlässig und hat einen blinden Fleck: Es prüft die Form, nicht den Inhalt. „Der Bundeskanzler eröffnete das Institut in Regensburg“ fühlt sich völlig korrekt an, auch wenn es dieses Institut nie gab.

Genau dieses Sprachgefühl ist alles, was ein Modell hat.

Warum KI erfindet: was beim Antworten passiert

Ein Sprachmodell sagt voraus, welche Wortbestandteile als Nächstes wahrscheinlich sind. Wort für Wort, jedes Mal neu, gestützt auf Muster aus enormen Textmengen.

Das Modell selbst schlägt nichts nach. Es hat keine Liste, in der steht, was wahr ist. Was es hat, ist ein extrem gutes Gefühl dafür, wie eine richtige Antwort klingt. Mehr nicht.

Deshalb sind erfundene Angaben auch nie zufällig schief. Eine erfundene Quelle hat ein plausibles Erscheinungsjahr, einen glaubwürdigen Verlag und einen Titel, der genau zum Thema passt. Sie ist perfekt geformt und existiert trotzdem nicht. Das ist kein Fehler im System, das ist das System.

Wo es besonders häufig passiert

  • Bei Quellen, Paragrafen und Aktenzeichen. Alles, was einem festen Muster folgt, lässt sich mustergültig erfinden.
  • Bei Zahlen, die niemand kennt. Je spezifischer die Frage, desto überzeugender die erfundene Antwort.
  • Bei Nischenwissen. Wo wenig Material vorlag, füllt das Modell die Lücke mit dem, was ähnlich klingt.
  • Wenn Du eine Antwort erwartest. Fragst Du nach fünf Beispielen, bekommst Du fünf. Auch wenn es nur drei gibt.

Der letzte Punkt ist der, den man selbst in der Hand hat. Eine Frage, die eine bestimmte Antwortform verlangt, erzeugt diese Form, notfalls mit erfundenem Inhalt.

Ein Forschungsteam von OpenAI hat im September 2025 beschrieben, warum das so hartnäckig ist: Training und die gängigen Tests belohnen Raten. Wer bei einer Prüfungsfrage rät, hat eine kleine Chance auf Punkte, wer „weiß ich nicht“ schreibt, bekommt sicher keine. Ein Modell, das auf gute Testergebnisse optimiert wird, lernt also, lieber eine Antwort zu geben als keine.

Und was ist mit Websuche und denkenden Modellen?

Zwei Dinge haben sich seit den ersten Chatbots verändert, und beide helfen.

Viele Werkzeuge suchen inzwischen im Netz, bevor sie antworten, und nennen Links dazu. Dann schlägt zwar das Werkzeug nach, das Modell schreibt seine Antwort aber weiterhin aus dem, was wahrscheinlich klingt, nur jetzt auf Basis der gefundenen Seiten. Eine Studie mit einem eigens dafür gebauten Test (HalluHard, Februar 2026) zeigt: Mit Websuche stimmen vor allem die Quellenangaben öfter. Dass der Inhalt der verlinkten Seite richtig wiedergegeben wird, ist damit nicht gesichert, hier bleiben die Fehler häufig. Ein Link neben einer Aussage ist also noch kein Beleg für die Aussage.

Denkende Modelle (Reasoning-Modelle, die vor der Antwort Zwischenschritte durchrechnen) machen bei vielen Aufgaben weniger Fehler. Sie erfinden aber weiterhin, vor allem dort, wo ihnen das Wissen schlicht fehlt. Gründlicher nachdenken ersetzt keine Information, die nicht da ist.

Was das für Deinen Alltag heißt

Websuche anlassen, wenn es um Fakten geht. Den Link aber öffnen und die Stelle selbst lesen. Wer nur prüft, ob es einen Link gibt, prüft die Form, nicht den Inhalt.

Zwei Handgriffe, die zuverlässig helfen

Erstens: Erlaube das Nichtwissen ausdrücklich.

Prompt zum Kopieren

Beantworte die Frage nur, wenn Du sicher bist.
Wenn Du es nicht weißt, schreib: keine belastbare Angabe.
Erfinde keine Quellen, Paragrafen oder Zahlen.

Das wirkt banal. Es ändert das Verhalten trotzdem deutlich, weil die erwartete Antwortform jetzt auch ein Nichtwissen sein darf. Genau den Anreiz zum Raten, den Training und Tests setzen, nimmst Du damit aus Deiner Frage heraus.

Zweitens: Gib das Material mit. Ein Modell, das aus einem beigefügten Text arbeitet, erfindet deutlich seltener, weil es nicht aus dem Gedächtnis rekonstruieren muss. Gezielter Kontext ist deshalb der wirksamste Hebel: nicht das ganze Handbuch, sondern der Abschnitt, um den es geht.

Und die unbequeme Ergänzung: Alles, was aussieht wie eine Fundstelle, wird nachgeschlagen, ohne Ausnahme. Eine erfundene Quelle erkennt man nicht am Text, sondern nur daran, dass es sie nicht gibt.

Wie das in einem Beruf aussieht, in dem eine falsche Angabe unmittelbar Folgen hat, hat mir Michael Heinen beschrieben, Zahnarzt und Teilnehmer der KI Business School. Er hat sich mit KI in die Endodontie eingearbeitet, ein Feld, in dem der aktuelle Forschungsstand zählt und in dem man sich auf ein Gefühl für richtig klingende Sätze nicht verlassen kann. Sein Fazit war nicht, dass er dem Werkzeug vertraut. Es war, dass seine Recherche „viel schneller, viel effizienter und auch direkt viel belegter“ wurde. Auf das letzte Wort kommt es an. Die Prüfung hat er nicht weggelassen, er hat sie in den Arbeitsschritt hineingezogen.

Halluzination ist der falsche Begriff

Genau diese Trennung steckt hinter meinem Unbehagen mit dem Wort Halluzination. Es klingt nach einer Störung, und eine Störung ist das Ganze nicht. Es ist dieselbe Fähigkeit, die diese Werkzeuge nützlich macht, nur ohne Deckung durch Fakten.

Wer das verstanden hat, arbeitet anders. Nicht misstrauischer, sondern gezielter: Sprache und Struktur kann man übernehmen, jede überprüfbare Behauptung schlägt man nach. Diese Trennung ist die eigentliche Kompetenz im Umgang mit diesen Systemen.

Was mir dabei Sorgen macht, ist nicht die Erfindung selbst. Es ist, dass gut formulierte Ergebnisse geprüft wirken. Je besser die Werkzeuge schreiben, desto niedriger wird die Schwelle, ab der wir nicht mehr nachschauen.

Sprache und Struktur darfst Du übernehmen. Jede Behauptung, die sich prüfen lässt, schlägst Du nach.

Was Du jetzt tun kannst

Bitte Dein Werkzeug beim nächsten Mal um drei Fachquellen zu einem Thema, das Du gut kennst. Schlag alle drei nach. Das ist die eine Übung, nach der niemand mehr blind übernimmt.

Wenn es um Bewerberdaten oder Verträge geht, gelten zusätzlich die Regeln aus dem Beitrag zum rechtssicheren Einsatz von ChatGPT. Und wie man Systeme baut, die aus geprüftem Material arbeiten statt aus dem Gedächtnis, ist Inhalt des vierten Moduls der KI Business School.

Für die ganze Belegschaft

Genau damit beginnt die KI Business School GO. Session 1 heißt „Was KI kann, was sie nicht kann“: was ein Sprachmodell wirklich tut und warum es so überzeugend danebenliegt. Danach erkennt Ihr eine erfundene Antwort, bevor sie in einer Kundenmail landet. Vier Live-Sessions à 90 Minuten an vier Mittwochen in Folge (die Termine stehen auf der GO-Seite), 190 € netto je Person, ab 15 Plätzen 140 €, mit Nachweis über die KI-Kompetenzschulung nach Art. 4 EU AI Act. Zur KI Business School GO

Am Text erkennt man eine erfundene Quelle nie. Man erkennt sie erst, wenn man sie sucht und nichts findet.

Häufige Fragen

Warum erfindet KI Quellen und Zahlen? Weil ein Sprachmodell nicht nachschlägt, sondern vorhersagt, was als Nächstes wahrscheinlich klingt. Eine Quellenangabe folgt einem festen Muster, und dieses Muster lässt sich mustergültig erzeugen, auch wenn die Quelle nicht existiert.

Erfindet KI mit Websuche nichts mehr? Doch, nur seltener und anders. Mit Websuche stimmen vor allem die Quellenangaben häufiger. Ob der Inhalt der verlinkten Seite richtig wiedergegeben ist, musst Du weiterhin selbst nachlesen.

Sind denkende Modelle (Reasoning-Modelle) zuverlässiger? Bei vielen Aufgaben machen sie weniger Fehler. Wo ihnen das Wissen fehlt, erfinden sie aber weiterhin. Längeres Nachdenken ersetzt keine fehlende Information.

Wie verhindere ich erfundene Angaben? Ganz verhindern lässt es sich nicht. Am meisten hilft es, im Prompt „keine belastbare Angabe“ als erlaubte Antwort zu nennen, das Material mitzugeben und jede Fundstelle nachzuschlagen.

Quellen: Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang: „Why Language Models Hallucinate“, OpenAI, arXiv:2509.04664, 4. September 2025; Dongyang Fan, Sebastien Delsad, Nicolas Flammarion, Maksym Andriushchenko: „HalluHard: A Hard Multi-Turn Hallucination Benchmark“, arXiv:2602.01031, 1. Februar 2026. Beide abgerufen am 28.10.2026. Zitat Michael Heinen aus seinem Testimonial-Video für die KI Business School.

TeilenLinkedInPer Mail
Porträt von Niklas Greczak
Geschrieben von
Niklas Greczak

Co-Speaker der KI Business School. Zeigt Prompting und KI-Werkzeuge live am Bildschirm und baut mit Teams ihre ersten eigenen Assistenten.

Wo steht Ihr bei KI?

18 Fragen, 7 Minuten, sofort ein PDF-Report mit Reifegrad-Index und EU-AI-Act-Status. Kostenlos.

Weiterlesen

Zum Nachschlagen:KI-GlossarPrompts zum KopierenEigenen Prompt prüfen

Nächstes Event · Di., 08.12.2026 · 12:00–13:00 Uhr
Der KI-Jahresrückblick 2026: 4 Jahre ChatGPT, mit Martha Giannakoudi

Online, kostenlos · Zwölf KI-Schlagzeilen aus 2026, Du stimmst live ab, wir checken die Fakten. Eine Stunde, online, mit Martha Giannakoudi.

Kostenloses Ticket →