Was ist ein LLM (Large Language Model)?

Ein LLM (Large Language Model, auf Deutsch großes Sprachmodell) ist eine KI, die aus sehr großen Textmengen gelernt hat, wie Sprache aufgebaut ist, und daraus Wort für Wort neuen Text erzeugt. Auf diesem Prinzip beruhen ChatGPT, Claude, Gemini und die meisten KI-Werkzeuge, die heute in Büros ankommen.

Wer versteht, wie ein LLM arbeitet, kann besser einschätzen, wofür es taugt und wo es Fehler macht. Dieser Artikel erklärt die Technik ohne Mathematik und zeigt, was sie für den Einsatz im Unternehmen bedeutet.

Wie ein LLM funktioniert

Im Kern macht ein Sprachmodell eine einzige Sache: Es schätzt, welches Textstück als Nächstes am wahrscheinlichsten folgt. Aus „Sehr geehrte Damen und“ wird mit hoher Wahrscheinlichkeit „Herren“. Das Modell hängt das Stück an, schätzt erneut und baut so Satz für Satz eine Antwort auf.

Dass daraus sinnvolle Texte entstehen, liegt am Training. Das Modell hat riesige Mengen Text aus Büchern, Websites und Fachtexten gesehen und dabei Muster gelernt: Grammatik, Fachbegriffe, typische Argumentationen, den Aufbau einer Rechnung oder eines Mahnschreibens. In einem zweiten Schritt wird es mit Beispielen und menschlichen Bewertungen darauf trainiert, hilfreich zu antworten und Anweisungen zu befolgen.

Wichtig für die Praxis: Ein LLM „weiß“ nichts im Sinne einer Datenbank. Es hat Wahrscheinlichkeiten gelernt. Deshalb kann es flüssig und überzeugend formulieren, auch wenn der Inhalt nicht stimmt.

Tokens und Kontext

Zwei Begriffe tauchen bei jedem Sprachmodell auf:

• Token. Das Modell verarbeitet Text nicht als ganze Wörter, sondern in Stücken. Ein kurzes Wort ist oft ein Token, lange deutsche Komposita wie „Auftragsbestätigung“ zerfallen in mehrere. Nach Tokens richten sich bei vielen Anbietern die Kosten und die Grenzen einer Anfrage.
• Kontext. Alles, was das Modell bei einer Anfrage „vor Augen“ hat: Ihre Frage, die bisherige Unterhaltung, angehängte Dokumente und die Anweisungen des Systems. Was nicht im Kontext steht, kennt das Modell nur aus dem Training – oder gar nicht.

Daraus folgt eine einfache Regel: Die Qualität der Antwort hängt stark davon ab, was Sie in den Kontext geben. Eine gut formulierte Aufgabe mit den richtigen Unterlagen bringt mehr als das teuerste Modell mit einer vagen Frage. Wie man Aufgaben so formuliert, erklärt der Artikel Prompt Engineering.

Warum ein LLM halluziniert

Als Halluzination bezeichnet man eine Antwort, die plausibel klingt, aber erfunden ist: eine Paragrafennummer, die es nicht gibt, ein Preis, der nie auf der Liste stand, ein Zitat ohne Quelle. Das passiert, weil das Modell auch dort weiterformuliert, wo es keine gesicherte Information hat. Es hat gelernt, wie eine Antwort aussieht – nicht, wann es besser schweigen sollte.

Halluzinationen lassen sich nicht vollständig abschalten, aber stark reduzieren:

• Firmenwissen gezielt in den Kontext geben, statt auf das Trainingswissen zu vertrauen. Das Verfahren dafür heißt RAG.
• Das Modell anweisen, seine Quelle zu nennen und bei fehlender Information nachzufragen.
• Ergebnisse mit Wirkung nach außen von einem Menschen prüfen lassen.

Ausführlich beschreibt das unser Beitrag KI-Halluzinationen und RAG.

Wofür LLMs taugen – und wofür nicht

LLMs sind die Grundlage dessen, was allgemein als generative KI bezeichnet wird. Für Marketing und Redaktion ist ein LLM ein schnelles Werkzeug für Entwürfe. Guter Content entsteht trotzdem erst, wenn jemand mit Fachwissen die Aussagen prüft und eigene Erfahrung ergänzt.

Was bedeutet das für Ihr Unternehmen?

Ein Sprachmodell allein löst selten ein betriebliches Problem. Nutzen entsteht, wenn drei Dinge zusammenkommen:

1. Ein klarer Einsatzzweck. Nicht „wir machen jetzt KI“, sondern „Anfragen im Sammelpostfach bekommen einen Antwortentwurf“.
2. Ihr Wissen als Grundlage. Preislisten, Produktdaten, Vorlagen, frühere Antworten – angebunden so, dass das Modell daraus zitiert.
3. Eine Prüfung durch Menschen. Wo eine Antwort nach außen geht oder Geld bewegt, gibt jemand aus dem Team frei.

Beim Datenschutz lohnt ein genauer Blick: Welche Daten gehen an welchen Anbieter, wo stehen die Server, gibt es einen Auftragsverarbeitungsvertrag, und werden Eingaben zum Training verwendet? Diese Fragen sollten geklärt sein, bevor Mitarbeitende Kundendaten in ein Chatfenster kopieren.

In der Praxis: Sprachmodelle im Betrieb

Bei der KI-Einführung wählen wir mit Ihnen den Einsatzzweck, binden Ihr Firmenwissen an und betreiben die Lösung auf Servern in Deutschland. Aus einem Sprachmodell wird so ein Werkzeug, das Ihre Begriffe, Preise und Abläufe kennt. Soll die KI darüber hinaus Aufgaben übernehmen, wird daraus ein KI-Mitarbeiter mit fester Rolle und Freigaben.

Mehr als 11 Unternehmen arbeiten bereits mit KI-Lösungen von uns. Das erste greifbare Ergebnis liegt in der Regel nach 14 Tagen vor.

Häufige Fragen

Was bedeutet LLM?

LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. „Groß“ bezieht sich auf die Menge an Trainingstext und die Zahl der Parameter, also der gelernten Einstellungen im Modell.

Ist ChatGPT ein LLM?

ChatGPT ist eine Anwendung, die auf den GPT-Sprachmodellen von OpenAI aufbaut. Das LLM ist der Motor, ChatGPT das Fahrzeug mit Oberfläche, Verlauf und Zusatzfunktionen. Ähnlich verhält es sich bei Claude und Gemini.

Kann ein LLM mit unseren Firmendaten arbeiten?

Ja, ohne es neu zu trainieren. Die passenden Daten werden bei jeder Anfrage in den Kontext geladen (RAG). Ein Nachtraining per Fine-Tuning braucht es nur für Sonderfälle wie einen festen Stil. So bleiben sie aktuell, und Sie behalten die Kontrolle darüber, was das Modell zu sehen bekommt.