Was ist Fine-Tuning bei KI-Modellen?

Fine-Tuning bedeutet, ein bereits trainiertes KI-Modell mit eigenen Beispielen weiterzutrainieren, damit es eine bestimmte Aufgabe, einen Stil oder ein Ausgabeformat zuverlässiger beherrscht. Das Modell lernt dabei Verhalten – für aktuelles Firmenwissen wie Preise, Produkte oder Abläufe ist Retrieval Augmented Generation (RAG) meist der bessere Weg.

Der Begriff taucht in fast jedem Gespräch über KI im Unternehmen auf, oft mit einer falschen Erwartung: „Wir trainieren die KI mit unseren Daten, dann weiß sie alles über uns.“ Warum das selten funktioniert und wofür Fine-Tuning trotzdem wertvoll ist, zeigt dieser Artikel.

So funktioniert Fine-Tuning

Ein großes Sprachmodell entsteht in zwei Phasen. Im Vortraining lernt es aus riesigen Textmengen Sprache und Allgemeinwissen. Danach wird es darauf trainiert, Anweisungen zu befolgen. Fine-Tuning ist eine dritte, kleine Phase, die Sie selbst anstoßen:

1. Beispiele sammeln: Paare aus Eingabe und gewünschter Ausgabe, etwa „Kundenmail“ → „richtige Kategorie“ oder „Stichpunkte“ → „fertiger Text in Ihrem Stil“.
2. Trainieren: Das Modell passt seine internen Gewichte so an, dass es diese Ausgaben häufiger trifft. Bei sparsamen Verfahren wie LoRA werden nur kleine Zusatzbausteine (Adapter) trainiert, die Gewichte des Grundmodells bleiben unverändert.
3. Prüfen: Mit Beispielen, die im Training nicht vorkamen, wird gemessen, ob das Modell wirklich besser geworden ist.

Fine-Tuning ist bei einigen Cloud-Anbietern als Dienst buchbar. Offene Modelle lassen sich auch auf eigener Hardware oder auf Servern in Deutschland nachtrainieren.

Wann Fine-Tuning sinnvoll ist

• Fester Stil und Tonalität: Texte sollen immer gleich klingen, und Beispiele im Prompt reichen dafür nicht aus.
• Strenges Ausgabeformat: Das Modell soll immer dieselbe Struktur liefern, zum Beispiel für die Übergabe an ein anderes System.
• Enge Klassifikation: Eingangspost, Tickets oder Belege in feste Kategorien sortieren, die für Ihr Haus typisch sind.
• Fachsprache: Kürzel und Begriffe aus Ihrer Branche, die ein allgemeines Modell regelmäßig missversteht.
• Kleine Modelle für große Mengen: Ein kleines, nachtrainiertes Modell erledigt eine eng umrissene Aufgabe oft genauso gut wie ein großes – schneller und günstiger im Betrieb.

Wann RAG die bessere Wahl ist

Fine-Tuning ist schlecht darin, Fakten zuverlässig zu speichern. Ein nachtrainiertes Modell erinnert sich an Ihre Preisliste ungefähr so wie ein Mensch an eine Tabelle, die er einmal überflogen hat. Hinzu kommt:

• Wissen veraltet: Jede neue Preisliste würde ein neues Training erfordern.
• Keine Quellen: Das Modell kann nicht sagen, woher eine Aussage stammt.
• Keine Rechte: Was einmal im Modell steckt, kann im Zweifel jeder Nutzer des Modells wieder herauslocken.
• Erfundene Antworten bleiben: Das Modell erfindet weiter, nur überzeugender in Ihrem Tonfall. Mehr dazu im Beitrag KI-Halluzinationen und Firmenwissen.

Bei RAG sucht das System dagegen bei jeder Frage die passenden Stellen in Ihren Dokumenten und gibt sie dem Modell mit. Aktualisieren Sie ein Dokument, ist die nächste Antwort aktuell.

Vergleich: Prompt, RAG und Fine-Tuning

Die Reihenfolge in der Tabelle ist auch die empfohlene Reihenfolge in Projekten. Viele Vorhaben, die mit „Wir brauchen Fine-Tuning“ beginnen, sind mit einem guten Prompt und einer Dokumentensuche erledigt.

Beispiele aus dem Mittelstand

• Posteingang sortieren: Ein Großhändler lässt eingehende Mails in seine eigenen Kategorien einsortieren – Bestellung, Reklamation, Lieferavis, Anfrage. Die Kategorien sind hausspezifisch, die Menge ist groß: ein klassischer Fall für ein kleines, nachtrainiertes Modell.
• Produkttexte im Hausstil: Ein Hersteller erzeugt Beschreibungen aus technischen Daten. Mit einigen Hundert guten Beispieltexten lernt das Modell den Aufbau und die Wortwahl. Die technischen Daten selbst kommen weiter aus dem System.
• Service-Wissen: Ein Maschinenbauer möchte, dass Techniker Fragen zu Handbüchern stellen können. Hier ist Fine-Tuning der falsche Weg – RAG mit Quellenangabe passt besser.

Risiken und Aufwand

• Datenqualität: Das Modell lernt auch Ihre Fehler. Schlechte Beispiele erzeugen ein schlechtes Modell.
• Datenschutz: Personenbezogene Daten gehören nicht ins Training. Aus einem trainierten Modell lassen sie sich kaum wieder entfernen.
• Bindung an ein Modell: Erscheint ein besseres Grundmodell, muss neu trainiert werden.
• Messbarkeit: Ohne Testdaten weiß niemand, ob das Training geholfen hat.

In der Praxis: So hilft SEODACH

Bei der KI-Einführung beginnen wir mit dem Ergebnis, das Sie brauchen, nicht mit der Technik. Meist reichen klare Anweisungen und eine Suche in Ihren Dokumenten, und das erste Ergebnis steht nach etwa 14 Tagen. Fine-Tuning setzen wir erst ein, wenn Messungen zeigen, dass Stil, Format oder Genauigkeit anders nicht zu erreichen sind.

Für ein Stil-Training brauchen Sie vor allem gute Beispieltexte. Wer schon heute sorgfältigen Content pflegt, hat hier einen Vorsprung.

Häufige Fragen

Kann ich ChatGPT mit meinen Firmendaten trainieren?

Technisch ja, bei einigen Anbietern auch per Fine-Tuning. Für Firmenwissen ist es aber meist der falsche Weg: Das Modell merkt sich Fakten unzuverlässig und kann keine Quellen nennen. Eine Dokumentensuche mit RAG liefert aktuellere und prüfbare Antworten.

Wie viele Beispiele braucht Fine-Tuning?

Das hängt von Aufgabe und Modell ab. Für eine enge Klassifikation reichen oft wenige Hundert saubere Beispiele, für einen komplexen Stil braucht es mehr. Wichtiger als die Menge ist die Qualität.

Was ist der Unterschied zwischen Fine-Tuning und RAG?

Fine-Tuning verändert das Modell und bringt ihm ein Verhalten bei. RAG verändert das Modell nicht, sondern gibt ihm bei jeder Frage die passenden Dokumente mit. Das eine lehrt, wie geantwortet wird, das andere liefert, was drinstehen soll.