Was sind KI-Halluzinationen? Ursachen und was dagegen hilft

Kurz gesagt

KI-Halluzinationen sind Antworten einer KI, die überzeugend klingen, aber falsch oder frei erfunden sind, etwa eine falsche Kündigungsfrist oder eine Rechnungsnummer, die es nicht gibt. Sie entstehen, weil Sprachmodelle wahrscheinlich klingenden Text erzeugen und eine Lücke eher mit einer plausiblen Angabe füllen, als sie zuzugeben. Ganz verhindern lässt sich das nicht, seltener und leichter erkennbar werden solche Fehler mit Antworten aus deinen eigenen Unterlagen samt Quelle, klaren Aufträgen und einer Websuche mit Quellen. Was nach außen geht, prüfst du vor dem Senden, vor allem Zahlen, Fristen, Namen und Nummern.

Veröffentlicht am · Aktualisiert am · Quellen geprüft am

Herausgegeben von GRETUS®, Anbieter eines KI-Assistenten für Unternehmen. Wo wir GRETUS nennen, steht es so da.

Was eine KI-Halluzination ist

Eine KI halluziniert, wenn sie eine Angabe erfindet und so sicher formuliert wie eine richtige Antwort. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt das in seinem Papier zu generativer KI (Version 2.0, Januar 2025) als Inhalte, die weder in der Eingabe noch in den Trainingsdaten vorkamen. Tückisch ist laut BSI, dass solche Antworten meist glaubhaft wirken, erst recht mit Verweisen auf Quellen, die ebenfalls erfunden sein können.

Zwei Fälle aus dem Büroalltag, Namen und Zahlen sind Beispiele:

  • Falsche Frist: Auf die Frage, bis wann der Wartungsvertrag mit der Brandt GmbH kündbar ist, antwortet die KI „drei Monate zum Jahresende“. Das klingt üblich, im Vertrag stehen aber sechs Wochen zum Quartalsende. Den Vertrag kannte die KI nicht.
  • Erfundene Rechnungsnummer: Für eine Zahlungserinnerung schreibt die KI ohne Zugriff auf deine Buchhaltung „Rechnung Nr. 2026-0412 vom 3. September über 1.840 Euro“. Ton und Format passen, Nummer, Datum und Betrag sind erfunden.

Genauso entstehen falsche Wochentage, Paragraphen mit falschem Inhalt oder Zitate, die nie gefallen sind.

Warum Sprachmodelle sich irren

Ein Sprachmodell schlägt von sich aus nichts nach. Es schreibt Wort für Wort fort, was im Zusammenhang wahrscheinlich ist. Das ergibt meist richtige Sätze, denn im Training hat es aus großen Textmengen gelernt, wie Sprache und viele Fakten zusammenhängen. Fehlt ihm eine Angabe, füllt es die Lücke mit etwas Plausiblem.

Warum es lieber rät, als die Lücke zuzugeben, erklären Forschende von OpenAI und der Georgia Tech in einer Studie vom September 2025: Sprachmodelle verhalten sich wie Prüflinge, für die sich Raten mehr lohnt als ein leeres Feld, denn Training und übliche Tests belohnen geratene Antworten eher als ehrliche Unsicherheit. Gefragt nach dem Geburtstag eines der Autoren, mit der Bitte, nur zu antworten, wenn es das Datum kennt, nannte ein damals führendes offenes Modell in drei Versuchen drei verschiedene falsche Daten.

Im Büroalltag steigt das Risiko vor allem, wenn

  • die Unterlage fehlt, etwa Vertrag, Preisliste oder Rechnung,
  • es um einzelne Angaben geht wie Nummern, Beträge und Daten, die keinem Muster folgen,
  • die Frage aktuell ist, denn ohne Zugriff auf aktuelle Daten kennt ein Modell laut BSI nur den Stand seines Trainings,
  • der Auftrag unklar ist und die KI erraten muss, was gemeint ist.

Antworten aus deinen eigenen Unterlagen, mit Quelle

Bei Fragen zu deinem Unternehmen soll die KI aus deinen Unterlagen antworten, nicht aus ihrem allgemeinen Wissen. Ein KI-Assistent mit Wissensdatenbank sucht dafür zuerst die passenden Stellen in deinen Dokumenten und formuliert daraus die Antwort (Fachbegriff: Retrieval-Augmented Generation, kurz RAG). Laut BSI kann das die Folgen von Halluzinationen mildern, weil sich anzeigen lässt, auf welchen Textstellen eine Antwort beruht.

Anthropic, der Anbieter der Claude-Modelle, empfiehlt in seiner Dokumentation zu Halluzinationen (Stand: November 2026) außerdem,

  • die KI ausdrücklich nur Informationen aus den mitgegebenen Dokumenten nutzen zu lassen,
  • bei langen Dokumenten zuerst die passenden Stellen wörtlich herausschreiben zu lassen,
  • jede Aussage mit einem Zitat belegen und Aussagen ohne Beleg streichen zu lassen.

Öffne bei wichtigen Angaben die genannte Stelle und vergleiche. Und halte die Unterlagen aktuell, denn eine veraltete Preisliste liefert eine falsche Antwort mit scheinbar gutem Beleg. Wie du Firmenwissen dafür aufbereitest, steht im Ratgeber Firmenwissen mit KI durchsuchbar machen.

Klare Aufträge statt offener Fragen

Wie du fragst, entscheidet mit darüber, ob die KI rät:

  • Quelle vorgeben: etwa „Antworte nur aus dem Vertrag im Anhang“.
  • „Weiß ich nicht“ zulassen: Erlaube der KI ausdrücklich, Unsicherheit zuzugeben. Laut Anthropic kann das falsche Angaben stark verringern.
  • Lücken markieren lassen: Fehlt eine Angabe, soll die KI [fehlt] schreiben oder nachfragen.
  • Offen fragen: „Welche Kündigungsfrist steht im Vertrag, und wo?“ statt „Die Frist ist doch drei Monate, oder?“.
  • Summen nachrechnen: Beträge und Steuer prüfst du mit einem Programm oder einer Tabelle.

Ein Auftrag für die Zahlungserinnerung von oben:

Schreib eine freundliche Zahlungserinnerung an die Brandt GmbH. Nimm Rechnungsnummer, Datum, Betrag und Fälligkeit nur aus der angehängten Rechnung. Fehlt eine Angabe, schreib [fehlt] und sag mir Bescheid.

Wie du solche Aufträge allgemein aufbaust, zeigt der Ratgeber Gute Prompts schreiben.

Websuche mit Quellen für aktuelle Fragen

Preise, Öffnungszeiten, Förderprogramme und Vorschriften ändern sich. Für solche Fragen stützt eine KI mit Websuche ihre Antwort auf aktuelle Seiten und nennt sie als Quellen. Google schreibt in der Dokumentation zur Gemini-API über die Suche mit Google (Stand: November 2026), dass sie hilft, Halluzinationen zu verringern, und dass die Quellen die Aussagen überprüfbar machen.

Prüfen musst du trotzdem:

  • Quelle öffnen: Eine KI kann eine richtige Seite falsch zusammenfassen.
  • Absender ansehen: Behörden, Hersteller und Verbände sind meist verlässlicher als Foren.
  • Datum prüfen: Ein Artikel von 2023 beschreibt vielleicht eine Regel, die nicht mehr gilt.

Bei Rechts- und Steuerfragen ersetzt auch eine gute Zusammenfassung weder Gesetzestext noch Beratung.

Freigabe vor dem Senden: was du prüfst

Eine Halluzination schadet erst, wenn jemand sie übernimmt. Das BSI warnt vor zu großem Vertrauen in überzeugende KI-Texte und rät, Ausgaben mit Außenwirkung zu prüfen, bei Bedarf mit weiteren Quellen abzugleichen und von Hand fertigzustellen. Bevor eine Mail, ein Angebot oder eine Terminzusage rausgeht, sollte deshalb ein Mensch freigeben. Für den Kunden ist es deine Mail, egal wer sie formuliert hat.

Prüf vor dem Senden vor allem diese Angaben:

Angabe Typischer Fehler So prüfst du
Fristen und Termine falsche Frist, falscher Wochentag im Vertrag oder Kalender nachsehen
Beträge und Summen erfundener Betrag, Rechenfehler mit Rechnung oder Preisliste vergleichen
Nummern erfundene Rechnungs- oder Bestellnummer in Buchhaltung oder Shop nachsehen
Namen und Empfänger falsche Anrede, vertauschte Person mit der ursprünglichen Mail vergleichen
Zusagen Rabatt oder Liefertermin, den es nicht gibt mit deinen Konditionen abgleichen
Quellen und Paragraphen erfundene Fundstelle Link öffnen, Originaltext lesen

Findest du einen Fehler, verbessere auch den Auftrag oder die Unterlage, aus der er stammt. Im Team lohnt es sich, solche Funde zu sammeln, siehe KI im Team einführen. Wie Entwürfe mit Freigabe ablaufen, zeigt der Ratgeber E-Mails mit KI beantworten, was bei Assistenten mit Zugriff auf deine Programme dazukommt, der Ratgeber KI-Agenten sicher einsetzen.

So hilft GRETUS dabei

GRETUS ist ein KI-Assistent für kleine und mittlere Unternehmen in Europa. Auch GRETUS kann sich irren, deshalb setzt es auf die Hebel aus diesem Ratgeber:

  • Antworten aus deinem Wissen: In der Wissensdatenbank legst du Verträge, Preislisten und Notizen ab. Die Anweisungen von GRETUS verlangen von der KI, dort zu suchen, statt zu raten, und zu sagen, wenn sie nichts findet. Unter der Antwort stehen die gefundenen Dokumente, ein Klick öffnet sie.
  • Websuche mit Quellen: Für aktuelle Fragen sucht GRETUS im Web und zeigt die Quellen als Links unter der Antwort.
  • Zahlen aus dem Programm: Kundenkarten kommen direkt aus der Kundenverwaltung, nicht aus dem Text der KI. Angebotsnummern vergibt GRETUS fortlaufend, Summen rechnet es im Programm auf den Cent, siehe Kunden und Angebote. Rechnungsnummern und Beträge aus einer verbundenen Buchhaltung soll die KI unverändert übernehmen.
  • Freigabe vor dem Senden: Was etwas sendet, anlegt oder ändert, legt GRETUS standardmäßig zur Freigabe vor, bei Mails mit dem ganzen Text. Stimmt etwas nicht, lehnst du ab und sagst, was anders sein soll. Jede Aktion steht im Protokoll.

Für den Anfang passt die Vorlage „Antworten vorbereiten“: Ein KI-Mitarbeiter legt dir Entwürfe zu neuen Kundenanfragen zur Freigabe vor. Ausprobieren kannst du das in der Testphase.

Quellen

Stand: November 2026, alle Quellen abgerufen am 9. November 2026.

Häufige Fragen

Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Angabe, die eine KI erfindet und so sicher formuliert wie eine richtige Antwort, etwa eine Frist, einen Betrag oder eine Quelle. Der Begriff ist bildlich gemeint, denn die KI füllt eine Wissenslücke mit etwas, das plausibel klingt.

Warum erfindet KI Fakten?

Sprachmodelle schreiben fort, was im Zusammenhang wahrscheinlich ist, und schlagen dabei nicht von selbst nach. Fehlt ihnen eine Angabe, raten sie oft, auch weil Training und übliche Tests eine geratene Antwort eher belohnen als ein „weiß ich nicht“, wie Forschende von OpenAI 2025 beschrieben haben.

Lassen sich KI-Halluzinationen ganz vermeiden?

Nein. Eigene Unterlagen, klare Aufträge und eine Websuche mit Quellen machen sie seltener, doch selbst der KI-Anbieter Anthropic schreibt, dass solche Techniken Halluzinationen nicht vollständig beseitigen. Wichtige Angaben prüfst du deshalb vor dem Senden.

Ist eine Antwort mit Quellenangabe automatisch richtig?

Nein. Die Quelle zeigt, worauf sich die KI stützt, aber die KI kann eine Stelle falsch wiedergeben, und die Quelle selbst kann veraltet oder falsch sein. Bei wichtigen Angaben öffnest du die Quelle und vergleichst.

Welche Angaben sollte ich in KI-Texten immer prüfen?

Alles, was Folgen hat und sich nicht aus dem Zusammenhang ergibt, also Fristen und Termine, Beträge, Rechnungs- und Bestellnummern, Namen, Zusagen und Paragraphen. Vergleiche sie mit der Unterlage, aus der sie stammen sollen.

Vom Lesen zum Ausprobieren.

Lass GRETUS mit deinem eigenen Postfach, Kalender und Firmenwissen für dich arbeiten.

7 Tage kostenlos testen · Demo anfragen