Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Aussage eines KI-Systems, die sachlich falsch oder frei erfunden ist, aber sprachlich so sicher und plausibel formuliert wird wie eine richtige Antwort. Typisch sind ausgedachte Zahlen, Paragrafen, Zitate oder Quellen. Das Modell „weiß“ dabei nicht, dass es falsch liegt – es erzeugt, was wahrscheinlich klingt.

Wer mit ChatGPT oder einem anderen Sprachmodell arbeitet, stößt früher oder später darauf. Für private Recherchen ist das ärgerlich. Im Unternehmen, wo ein Antwortentwurf an einen Kunden geht oder eine Zusammenfassung in eine Entscheidung einfließt, wird es teuer. Die gute Nachricht: Das Risiko lässt sich deutlich senken, wenn man die Ursache versteht.

Ein typischer Fall aus dem Büroalltag

Eine Mitarbeiterin im Vertriebsinnendienst fragt ein Sprachmodell: „Welche Gewährleistungsfrist gilt für unsere Serie X?“ Die Antwort kommt prompt: „Für die Serie X gilt eine Gewährleistung von 36 Monaten ab Lieferung.“ Klingt gut, steht aber nirgends. Das Modell kennt Ihre Produktunterlagen nicht und hat eine Zahl gewählt, die in ähnlichen Texten häufig vorkommt.

Das Tückische: Die falsche Antwort unterscheidet sich im Ton nicht von einer richtigen. Keine Unsicherheit, kein Hinweis. Genau deshalb brauchen Unternehmen Verfahren statt Vertrauen.

Warum Sprachmodelle halluzinieren

Ein großes Sprachmodell ist darauf trainiert, zu einem Text die wahrscheinlichste Fortsetzung zu erzeugen, Token für Token. Es hat kein eingebautes Faktenregister, in dem es nachschlägt. Daraus ergeben sich mehrere Ursachen:

• Wissenslücken: Das Modell kennt Ihre internen Daten nicht und aktuelle Ereignisse nur bis zu seinem Trainingsstand.
• Der Drang zur Antwort: Modelle sind darauf ausgelegt, hilfreich zu antworten. „Ich weiß es nicht“ ist für sie oft nicht die wahrscheinlichste Fortsetzung.
• Seltene Details: Gängiges Wissen gibt das Modell meist richtig wieder. Bei selten erwähnten Fakten – eine bestimmte Norm, ein kleines Unternehmen, eine Gesetzesänderung – steigt die Fehlerquote.
• Unklare Fragen: Je offener die Frage, desto mehr Raum für Erfindungen.

Formen von Halluzinationen

Halluzination, Fehler, Lüge – wo der Unterschied liegt

Der Begriff „Halluzination“ ist ein Bild und nicht ganz treffend. Das Modell sieht nichts, was nicht da ist, und es lügt auch nicht: Eine Lüge setzt voraus, dass man die Wahrheit kennt. Treffender wäre „Konfabulation“ – eine Lücke wird mit etwas Plausiblem gefüllt.

Abzugrenzen ist die Halluzination auch von Fehlern in den Quelldaten. Steht in Ihrer Preisliste ein veralteter Preis und die KI gibt ihn wieder, hat sie korrekt gearbeitet; das Problem liegt in der Datenpflege. Und schließlich von bewusster Manipulation: Bei einer Prompt Injection schleust jemand Anweisungen ein, die das Modell zu falschen Aussagen bringen.

Was gegen Halluzinationen hilft

1. Firmenwissen anbinden. Mit RAG sucht das System vor jeder Antwort passende Stellen in Ihren Dokumenten und stützt sich darauf. Das senkt die Quote erfundener Aussagen stark.
2. Quellen verlangen. Jede Antwort nennt das Dokument und die Stelle. Was keine Quelle hat, wird als unsicher markiert.
3. Nichtwissen erlauben. Die Anweisung an das Modell sagt ausdrücklich: Wenn die Unterlagen keine Antwort enthalten, sag das.
4. Rechnen lassen, wo gerechnet wird. Summen und Umrechnungen übernimmt ein Programm oder eine Tabellenfunktion, nicht das Sprachmodell.
5. Menschen freigeben lassen. Alles, was nach außen geht oder Folgen hat, prüft ein Mensch – das Prinzip Human in the Loop.
6. Mit echten Fragen testen. Vor dem Start stellen Sie dem System hundert typische Fragen aus Ihrem Alltag und prüfen die Antworten. Danach folgen regelmäßige Stichproben.

Ganz verschwinden werden Halluzinationen nicht. Ziel ist ein Aufbau, in dem sie selten sind und auffallen, bevor sie Schaden anrichten.

In der Praxis: Antworten mit Quelle und Freigabe

Bei der KI-Einführung bauen wir Systeme so, dass jede Antwort eine prüfbare Quelle hat und Antworten an Kunden eine Freigabe durchlaufen, bis Ihre Stichproben zeigen, dass das System zuverlässig arbeitet. Wie das mit einer Wissensbasis konkret funktioniert, beschreibt der Beitrag KI-Halluzinationen und RAG. Damit Ihr Team Fehler erkennt und nicht blind übernimmt, schulen wir es in der KI-Akademie an Ihren eigenen Aufgaben.

Häufige Fragen

Wie oft halluzinieren KI-Modelle?

Das hängt stark von Modell, Aufgabe und Aufbau ab. Bei allgemeinem Wissen sind neuere Modelle deutlich besser geworden. Bei Detailfragen zu internen oder seltenen Themen bleibt das Risiko ohne angebundene Quellen hoch.

Kann man Halluzinationen komplett verhindern?

Nein. Man kann sie mit angebundenem Firmenwissen, Quellenpflicht und menschlicher Freigabe so weit reduzieren, dass sie selten auftreten und vor dem Versand auffallen.

Wer haftet, wenn eine KI falsche Auskünfte gibt?

In aller Regel das Unternehmen, das die Auskunft erteilt. Eine KI ist kein Rechtssubjekt. Deshalb gehören Antworten mit Folgen – Preise, Fristen, rechtliche Aussagen – vor dem Versand in menschliche Hände.

Halluzinieren auch kleine Modelle?

Ja, bei Wissensfragen tendenziell sogar häufiger, weil sie weniger gespeichert haben. Mit angebundenen Dokumenten arbeiten sie für eng umrissene Aufgaben trotzdem zuverlässig.