KI-Halluzinationen und RAG: wie KI verlässlich mit Firmenwissen antwortet

Warum ein Sprachmodell erfindet

Ein Sprachmodell sagt das nächste Wort voraus. Es prüft nichts nach, es schlägt nichts nach, und es hat kein Gefühl dafür, ob es etwas weiß. Wo Wissen fehlt, entsteht deshalb kein Schweigen, sondern eine flüssig formulierte Erfindung — mit erfundener Paragrafennummer, erfundenem Preis, erfundenem Ansprechpartner. Fachleute nennen das Halluzination, im Alltag fällt es vor allem dadurch auf, dass es überzeugend klingt.

Drei Ursachen kommen im Unternehmenseinsatz zusammen:

• Kein Zugriff auf Ihre Unterlagen. Das Modell kennt das öffentliche Internet seines Trainings, nicht Ihre Preisliste, Ihren Rahmenvertrag, Ihre Montageanleitung.
• Veralteter Stand. Zwischen Training und Frage liegen Monate. Was sich geändert hat, weiß das Modell nicht.
• Antwortzwang. Ohne ausdrückliche Anweisung antwortet ein Modell lieber falsch als gar nicht.

Genau an diesem Punkt scheitern die meisten ersten KI-Versuche im Mittelstand. Nicht an der Technik — an der Erwartung, ein allgemeines Modell könne etwas über ein Unternehmen wissen, das es nie gesehen hat.

Was RAG macht

Retrieval Augmented Generation, kurz RAG, dreht die Reihenfolge um: Erst suchen, dann antworten. Der Ablauf besteht aus fünf Schritten:

1. Vorbereiten. Ihre Dokumente werden in sinnvolle Abschnitte zerlegt und durchsuchbar abgelegt — Handbücher, Verträge, Protokolle, Datenblätter, Support-Verläufe.
2. Suchen. Zu einer Frage werden die passenden Abschnitte herausgesucht, nicht nur nach Stichwort, sondern nach Bedeutung.
3. Zusammenstellen. Die gefundenen Stellen wandern zusammen mit der Frage in den Auftrag an das Modell.
4. Antworten. Das Modell formuliert die Antwort ausschließlich aus diesen Stellen.
5. Belegen. Die Antwort nennt die Quelle — Dokument, Abschnitt, Stand.

Der entscheidende Schritt ist der fünfte. Eine Antwort mit Quellenangabe kann ein Mensch in Sekunden prüfen. Eine Antwort ohne Quelle muss er komplett nachrecherchieren — dann hätte er auch gleich selbst suchen können.

RAG, Prompting oder Fine-Tuning?

Drei Wege, Wissen in ein Modell zu bekommen, mit sehr unterschiedlichem Aufwand:

Für die typische Frage aus dem Alltag — "Was haben wir diesem Kunden zugesagt?", "Welche Wartungsintervalle gelten für dieses Gerät?" — ist RAG der praktikable Weg. Fine-Tuning löst ein anderes Problem und wird trotzdem oft zuerst vorgeschlagen.

Was RAG nicht löst

Drei Illusionen halten sich hartnäckig:

• Schlechte Dokumente werden nicht besser. Liegen drei Fassungen derselben Anleitung im Laufwerk und keine trägt ein Datum, zitiert die KI zuverlässig die falsche. Eine Wissensbasis braucht Verantwortliche und einen Stand, sonst potenziert die Suche das Durcheinander.
• Berechtigungen kommen nicht von allein. Was jemand nicht sehen darf, darf ihm die Antwort auch nicht erzählen. Rechte müssen bereits in der Suche greifen, nicht erst in der Oberfläche — sonst wird aus dem Assistenten ein sehr effizientes Leck.
• Die Prüfung bleibt beim Menschen. RAG senkt die Fehlerquote deutlich, es garantiert nichts. Bei allem, was nach außen geht oder Geld bewegt, gehört ein Freigabeschritt dazu.

Sieben Maßnahmen, die im Betrieb wirken

1. Quellenpflicht. Keine Aussage ohne Beleg. Findet sich keine Stelle, gibt es keine Antwort.
2. Erlaubtes Nichtwissen. "Dazu finde ich nichts" ist eine gute Antwort und muss ausdrücklich zugelassen werden.
3. Vernünftige Abschnitte. Dokumente entlang ihrer Struktur zerlegen, nicht nach Zeichenzahl. Ein zerschnittener Vertragsabsatz produziert falsche Antworten.
4. Metadaten mitführen. Gültigkeit, Version, Mandant, Vertraulichkeit — damit lässt sich filtern, bevor gesucht wird.
5. Ein Prüfsatz mit echten Fragen. Dreißig bis fünfzig Fragen aus dem Alltag, deren richtige Antwort bekannt ist. Nach jeder Änderung erneut prüfen. Ohne diesen Satz ist jede Verbesserung Gefühlssache.
6. Mensch an der Ausgangstür. Antworten an Kunden werden vorgeschlagen und freigegeben, nicht automatisch verschickt.
7. Rückmeldung einsammeln. Ein Daumen nach unten in der Oberfläche zeigt schneller als jedes Gutachten, wo die Wissensbasis Lücken hat.

Klein anfangen, statt groß zu planen

Der übliche Fehlstart lautet: Wir binden erst einmal alles an. Das Ergebnis sind Monate Vorbereitung und ein Assistent, der zu jedem Thema mittelmäßig antwortet. Sinnvoller ist der umgekehrte Weg — ein Bereich, ein klarer Nutzerkreis, ein überschaubarer Satz Dokumente.

Wählen Sie dafür das Thema, zu dem die meisten Rückfragen intern gestellt werden. Meist ist das nicht das strategisch spannendste, sondern das banalste: Konditionen, Gewährleistung, Zuständigkeiten. Wenn dort nach vier Wochen messbar weniger nachgefragt wird, haben Sie einen belastbaren Grund für den zweiten Bereich — und ein Team, das dem Werkzeug vertraut, weil es die Quellen sieht.

Und der Datenschutz?

Firmenwissen an ein Sprachmodell zu geben ist eine Verarbeitung personenbezogener Daten, sobald Namen, Verträge oder Kundenvorgänge darin vorkommen. Geklärt gehören deshalb: welcher Anbieter das Modell betreibt, wo verarbeitet wird, ob die Daten für Training verwendet werden dürfen, und welche Verträge dafür vorliegen. Unsere Systeme laufen zu 100 % auf Servern in Deutschland — das erspart einen großen Teil dieser Diskussion, ersetzt aber nicht die Festlegung, welche Dokumente überhaupt in die Wissensbasis dürfen.

Wo das im Alltag ankommt

Zwei Anwendungen holen den Aufwand am schnellsten wieder herein. Die erste ist die Frage nach innen: Mitarbeiter finden Zusagen, Konditionen und Anleitungen, ohne drei Kollegen zu fragen — die Grundlage für einen KI-Mitarbeiter, der einen festen Aufgabenbereich übernimmt. Die zweite ist die Frage von außen: Anfragen werden erfasst, eingeordnet und mit einem belegten Antwortvorschlag vorgelegt, den ein Mensch freigibt — so arbeitet unsere KI-Rezeption.

In beiden Fällen entsteht der Nutzen nicht durch das Modell, sondern durch die angebundenen Unterlagen. Wer seine Dokumente ohnehin ordnen wollte, hat hier endlich einen Grund — und die Vorarbeit überschneidet sich stark mit dem, was für strukturierte Dokumente und Daten ohnehin nötig ist.

Kurz zusammengefasst

• Modelle erfinden, weil sie Wahrscheinlichkeiten fortschreiben und nicht nachschlagen.
• RAG sucht erst in Ihren Unterlagen und lässt das Modell nur daraus antworten.
• Quellenangabe, erlaubtes Nichtwissen und ein fester Prüfsatz senken Fehler spürbar.
• Rechte und Dokumentenpflege entscheiden über den Erfolg, nicht die Wahl des Modells.

Was wir damit machen

Wir binden Ihr Wissen an: Dokumente aufbereiten, Suche und Rechte einrichten, Prüfsatz aufbauen, Antworten mit Quellen ausgeben und die Freigabe dort einbauen, wo sie hingehört. Wie ein solches Projekt abläuft, steht auf der Seite KI-Implementierung.