Wenn die KI sich irrt: Halluzinationen erkennen und Antworten richtig prüfen

Eine Bekannte fragt einen KI-Assistenten nach den Öffnungszeiten des Bürgeramts und steht am nächsten Morgen vor verschlossener Tür. Ein Student lässt sich Literatur für seine Hausarbeit empfehlen und stellt fest, dass zwei der fünf genannten Bücher gar nicht existieren. Ein Mann lässt sich eine Frist aus dem Mietrecht erklären und erfährt erst beim Anwalt, dass die Angabe falsch war. Solche Fehler passieren, weil Sprachmodelle nicht wissen, was wahr ist, sondern berechnen, was wahrscheinlich klingt. Diese Anleitung erklärt, warum KI-Assistenten Dinge erfinden, wann das besonders häufig geschieht und wie du ihre Antworten schnell und zuverlässig prüfst.

Was eine KI-Halluzination ist

Von einer Halluzination spricht man, wenn ein KI-Modell eine Aussage erzeugt, die falsch oder frei erfunden ist, sie aber so präsentiert, als wäre sie richtig. Das kann eine falsche Jahreszahl sein, ein erfundenes Zitat, ein nicht existierendes Gesetz, eine ausgedachte Studie oder ein Link, der ins Leere führt.

Das Tückische daran: Die falsche Antwort klingt genauso flüssig, selbstsicher und gut formuliert wie eine richtige. Es gibt keinen Warnhinweis, kein Zögern, keinen roten Text. Ein Mensch, der etwas nicht weiß, sagt oft „Da bin ich mir nicht sicher“. Ein Sprachmodell tut das nur, wenn es dazu gebracht wird.

Warum Sprachmodelle Dinge erfinden

Um Halluzinationen zu verstehen, hilft ein Blick auf die Funktionsweise. Ein Sprachmodell hat beim Training gelernt, welche Wörter und Sätze typischerweise aufeinanderfolgen. Wenn du eine Frage stellst, erzeugt es Wort für Wort eine Antwort, die zu den Mustern passt, die es gelernt hat.

Das funktioniert hervorragend bei Wissen, das in den Trainingsdaten sehr häufig vorkam: wie Photosynthese funktioniert, was ein Kündigungsschreiben enthält, wie man Spaghetti kocht. Schwierig wird es bei Fragen, zu denen es wenige oder widersprüchliche Texte gab. Dann füllt das Modell die Lücke mit dem, was plausibel klingt. Eine Buchempfehlung mit einem typischen Titel, einem typischen Autorennamen und einem typischen Verlag ist für das Modell genauso „wahrscheinlich“ wie ein echtes Buch.

Hinzu kommt, dass viele Modelle darauf trainiert wurden, hilfreich zu sein und eine Antwort zu geben. „Ich weiß es nicht“ kommt in diesem Training seltener vor als eine vollständige Antwort.

Wann Halluzinationen besonders häufig sind

Nicht alle Fragen sind gleich riskant. Achte besonders auf diese Situationen:

Bei allgemeinen Erklärungen, beim Umformulieren eigener Texte oder beim Ideensammeln ist das Risiko dagegen gering, weil du das Ergebnis selbst beurteilen kannst.

Fünf Prüfschritte für jede wichtige Antwort

Du musst nicht jede Antwort einer KI misstrauisch auseinandernehmen. Wenn du dich aber auf eine Angabe verlassen willst, helfen diese fünf Schritte:

1. Frag dich: Was passiert, wenn das falsch ist?

Ein falsches Rezept führt zu einem misslungenen Abendessen. Eine falsche Frist, Dosierung oder Rechtsauskunft kann Geld, Gesundheit oder Rechte kosten. Je höher das Risiko, desto gründlicher prüfst du.

2. Quellen anfordern und öffnen

Bitte die KI um Quellen: „Woher stammt diese Information? Nenne mir offizielle Seiten.“ Öffne die Links und lies nach, ob dort wirklich steht, was behauptet wird. Häufig ist der Link korrekt, aber die Aussage auf der Seite eine andere. Manchmal führt der Link ins Leere, dann war die Quelle erfunden.

3. Mit einer unabhängigen Quelle vergleichen

Prüfe wichtige Angaben bei einer verlässlichen Stelle, die nichts mit der KI zu tun hat:

• Behörden und Ämter: offizielle Websites von Bund, Ländern und Kommunen, etwa für Fristen, Gebühren und Öffnungszeiten.
• Gesetze: die offiziellen Gesetzestexte, etwa auf gesetze-im-internet.de.
• Gesundheit: Seiten wie gesund.bund.de oder die Informationen von Krankenkassen, und im Zweifel die Arztpraxis oder Apotheke.
• Verbraucherfragen: die Verbraucherzentralen.
• Bücher und Studien: Bibliothekskataloge oder Fachdatenbanken.

4. Nachfragen und gegenprüfen

Stell dieselbe Frage anders formuliert noch einmal, oder frag gezielt nach: „Bist du dir sicher? Welche Teile deiner Antwort könnten falsch sein?“ Widersprüche sind ein deutliches Warnzeichen. Auch ein zweiter Assistent kann helfen, ersetzt aber keine echte Quelle, weil beide denselben Fehler machen können.

5. Plausibilität prüfen

Nutze deinen gesunden Menschenverstand. Klingt eine Zahl zu rund, zu hoch oder zu niedrig? Passt eine Jahreszahl zu dem, was du sonst weißt? Ist ein Zitat zu perfekt? Wenn sich etwas seltsam anfühlt, lohnt sich ein zweiter Blick.

Wie du Halluzinationen von vornherein reduzierst

Mit der richtigen Fragestellung lässt sich das Risiko verringern:

• Erlaube Unsicherheit: „Wenn du etwas nicht sicher weißt, sag es offen.“
• Begrenze das Thema: Frag nach allgemeinen Zusammenhängen statt nach exakten Details.
• Gib das Material selbst vor: Wenn du einen Text einfügst und die KI nur bittest, ihn zusammenzufassen, erfindet sie deutlich seltener etwas, weil sie sich auf deinen Text stützt.
• Nutze die Suchfunktion: Assistenten mit Internetsuche zeigen Quellen an, die du prüfen kannst. Das ist kein Garant für Richtigkeit, macht die Prüfung aber leichter.
• Bitte um eine Begründung: „Erkläre, wie du zu diesem Ergebnis kommst.“ So siehst du Denkfehler eher.

Besondere Vorsicht bei Gesundheit, Recht und Geld

In diesen drei Bereichen können Fehler ernste Folgen haben. Nutze KI hier zum Verstehen, nicht zum Entscheiden:

• Gesundheit: Eine KI kann erklären, was ein Fachbegriff im Arztbrief bedeutet oder wie ein Medikament grundsätzlich wirkt. Dosierungen, Wechselwirkungen und Diagnosen gehören in die Hände von Ärztinnen, Ärzten und Apotheken. Bei Notfällen gilt: 112.
• Recht: Die KI kann Grundbegriffe erklären und helfen, Fragen für einen Termin bei Anwalt oder Verbraucherzentrale vorzubereiten. Verlass dich nicht auf Paragrafen und Fristen, die sie nennt, ohne sie im Gesetzestext nachzulesen.
• Geld und Steuern: Lass dir Begriffe wie Sparerpauschbetrag oder Werbungskosten erklären, aber prüfe Beträge und Grenzen bei offiziellen Stellen, denn sie ändern sich regelmäßig.

Fehler, die keine Halluzinationen sind

Nicht jede falsche Antwort ist erfunden. Manchmal liegen andere Ursachen vor:

• Missverständnis: Die KI hat deine Frage anders verstanden als gemeint. Formuliere genauer.
• Veraltetes Wissen: Die Information war früher richtig, ist es aber nicht mehr.
• Mehrdeutigkeit: Begriffe, Orte oder Personen gibt es mehrfach. „Frankfurt“ kann Frankfurt am Main oder Frankfurt an der Oder sein.
• Rechenfehler: Bei Zahlen lohnt sich immer der Taschenrechner.

Ein Beispiel aus dem Alltag

Angenommen, du fragst: „Wie lange habe ich Zeit, gegen einen Steuerbescheid Einspruch einzulegen?“ Die KI antwortet: „Einen Monat nach Bekanntgabe.“ Das ist im Grundsatz richtig. Aber was heißt „Bekanntgabe“? Wann gilt ein Brief als zugestellt? Was passiert an Wochenenden und Feiertagen? Hier lohnt der Blick in die offiziellen Informationen der Finanzverwaltung oder auf ELSTER, wo genau erklärt ist, wie die Frist berechnet wird. Die KI hat dir den richtigen Weg gezeigt, die Details prüfst du an der Quelle.

KI-Antworten in Suchmaschinen

Auch Suchmaschinen zeigen inzwischen oft eine von KI erzeugte Zusammenfassung über den eigentlichen Suchergebnissen an, bei Google etwa als „Übersicht mit KI“. Das ist bequem, weil man die Antwort sofort sieht, ohne eine Website zu öffnen. Für diese Zusammenfassungen gilt aber dasselbe wie für Chat-Assistenten: Sie können Quellen falsch verstehen, Aussagen aus verschiedenen Seiten vermischen oder veraltete Informationen wiedergeben. Es sind schon Fälle bekannt geworden, in denen solche Übersichten ironisch gemeinte Forenbeiträge als ernsthafte Ratschläge wiedergegeben haben.

Gewöhne dir deshalb an, bei wichtigen Fragen mindestens eine der verlinkten Quellen zu öffnen und dort nachzulesen. Achte darauf, wer hinter der Seite steht: Eine Behörde, ein Fachverband oder eine bekannte Redaktion ist verlässlicher als ein anonymes Forum oder eine Seite, die vor allem Produkte verkaufen will.

Eine kurze Checkliste zum Ausdrucken

• Ist die Antwort für eine wichtige Entscheidung gedacht? Dann immer prüfen.
• Enthält sie Zahlen, Fristen, Paragrafen oder Dosierungen? Dann an der offiziellen Quelle nachlesen.
• Nennt sie Bücher, Studien oder Links? Dann öffnen und prüfen, ob es sie gibt.
• Widerspricht sie sich bei einer Nachfrage? Dann misstrauisch bleiben.
• Klingt sie zu glatt oder zu perfekt? Dann einen zweiten Blick riskieren.

Mit Kindern und Jugendlichen darüber sprechen

Gerade Kinder und Jugendliche nutzen KI-Assistenten oft ganz selbstverständlich für Hausaufgaben und Referate. Sprich mit ihnen darüber, dass auch eine KI Fehler macht, und übt gemeinsam das Prüfen: Eine Behauptung aus der Antwort heraussuchen, eine zweite Quelle finden und vergleichen. Diese Fähigkeit, Informationen kritisch zu prüfen, ist im Zeitalter der KI wichtiger denn je, in der Schule genauso wie im späteren Berufsleben.

Häufige Fragen

Werden die Modelle irgendwann fehlerfrei? Die Fehlerquote sinkt mit jeder Generation, besonders bei Modellen mit Internetsuche. Ganz verschwinden werden Fehler aber nicht, weil das Grundprinzip auf Wahrscheinlichkeiten beruht.

Woran erkenne ich erfundene Quellen? Gib Titel und Autor in eine Suchmaschine oder einen Bibliothekskatalog ein. Erfundene Bücher und Studien findest du dort nicht. Links, die auf eine Fehlerseite führen, sind ebenfalls ein Warnzeichen.

Ist eine KI mit Internetsuche zuverlässiger? Meist ja, weil sie aktuelle Quellen heranzieht. Sie kann Quellen aber falsch zusammenfassen oder unseriöse Seiten nutzen. Die Prüfung bleibt deine Aufgabe.

Fazit

KI-Assistenten erfinden manchmal Fakten, Zahlen, Quellen und Zitate, weil sie wahrscheinliche statt wahre Antworten erzeugen, und sie tun das genauso selbstsicher wie bei richtigen Antworten. Besonders riskant sind aktuelle, lokale und sehr genaue Angaben sowie Fragen zu Gesundheit, Recht und Geld. Mit fünf Schritten bist du auf der sicheren Seite: Risiko einschätzen, Quellen öffnen, unabhängig vergleichen, nachfragen und den gesunden Menschenverstand einschalten. So bleibt die KI ein nützlicher Helfer, und die Verantwortung für wichtige Entscheidungen bleibt bei dir.