Was ist Human in the Loop?

Human in the Loop (HITL) bezeichnet ein Arbeitsprinzip, bei dem ein Mensch fest in den Ablauf eines KI-Systems eingebunden ist: Er prüft Ergebnisse, gibt Aktionen frei, korrigiert Fehler oder entscheidet unklare Fälle. Die KI übernimmt Vorarbeit und Routine, die Verantwortung für Entscheidungen mit Folgen bleibt beim Menschen.

Der Begriff stammt ursprünglich aus der Regelungstechnik und der Simulation. Mit dem Einzug von Sprachmodellen und KI-Agenten in Büros und Werkhallen ist er zur zentralen Frage jeder Einführung geworden: An welchen Stellen muss ein Mensch draufschauen, und wo darf die Maschine allein weitermachen?

Wozu der Mensch in der Schleife sitzt

KI-Systeme arbeiten mit Wahrscheinlichkeiten. Sie liegen meistens richtig, aber nicht immer, und sie merken selbst nicht zuverlässig, wann sie falsch liegen. Sprachmodelle können zudem überzeugend formulierte Falschaussagen erzeugen, die KI-Halluzinationen.

Der Mensch in der Schleife fängt diese Fehler ab, bevor sie Schaden anrichten. Er bringt Kontext ein, den das System nicht kennt – den Ärger mit genau diesem Kunden im letzten Jahr, die mündliche Zusage des Außendienstes. Und seine Korrekturen sind wertvolle Daten, mit denen sich das System verbessern lässt.

In, on oder out of the Loop: die Stufen

Die richtige Stufe hängt vom Schaden ab, den ein Fehler anrichten kann – nicht davon, wie gut die KI im Durchschnitt arbeitet. Ein falsch sortierter Newsletter ist egal, ein falscher Preis im Angebot nicht.

Formen der menschlichen Kontrolle

• Freigabe: Nichts verlässt das Haus, bevor ein Mensch zugestimmt hat.
• Eskalation bei Unsicherheit: Unterhalb einer festgelegten Sicherheit geht der Fall automatisch an einen Menschen.
• Schwellenwerte: Ab einem Betrag, einer Menge oder einer Kundengruppe entscheidet immer ein Mensch.
• Stichproben: Ein fester Anteil automatisch erledigter Fälle wird nachträglich geprüft.
• Korrekturschleife: Änderungen der Mitarbeitenden werden gesammelt und fließen in die Verbesserung des Systems ein.
• Not-Aus: Jemand kann das System jederzeit anhalten.

Was Recht und Regulierung verlangen

Die DSGVO gibt Menschen in Art. 22 das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden – von engen Ausnahmen abgesehen. Wer etwa Bewerbungen oder Kreditanfragen vollautomatisch ablehnt, bewegt sich auf dünnem Eis.

Der EU AI Act verlangt für Hochrisiko-KI-Systeme in Art. 14 der KI-Verordnung ausdrücklich eine wirksame menschliche Aufsicht: Die Aufsichtsperson muss das System verstehen, Ergebnisse richtig deuten, sich über sie hinwegsetzen und das System anhalten können. Auch außerhalb der Hochrisiko-Fälle ist das ein guter Maßstab. Wie Unternehmen solche Regeln insgesamt ordnen, beschreibt der Artikel zur KI-Governance.

Beispiele aus Betrieben

• Kundenanfragen: Die KI schreibt zu jeder Anfrage einen Entwurf mit Quelle. In den ersten Wochen gibt das Team jeden Entwurf frei, später nur noch neue Themen und Reklamationen.
• Buchhaltung: Belege werden gelesen und vorkontiert. Ab einem festgelegten Betrag oder bei neuen Lieferanten entscheidet die Buchhalterin.
• Qualitätsprüfung: Die Kamera sortiert eindeutige Fälle, unsichere Teile landen auf einem Prüftisch.
• Terminvergabe: Ein Assistent schlägt Termine vor; Termine mit Neukunden bestätigt der Disponent.

Wenn die Kontrolle nur auf dem Papier steht

• Blindes Abnicken. Wer hundert gute Vorschläge gesehen hat, winkt auch den nächsten durch. Dieser Automatisierungs-Bias ist gut belegt. Gegenmittel: gezielt eingestreute Prüffälle, wechselnde Zuständigkeiten, Kennzahlen zur Korrekturquote.
• Flaschenhals. Wenn jeder Vorgang auf eine einzige Person wartet, verliert die Automatisierung ihren Nutzen. Stufen und Schwellen verteilen die Last.
• Keine Zeit, kein Wissen. Prüfen erfordert Kenntnis des Falls und Zeit. Wer beides nicht hat, kontrolliert nur formal.
• Kein Protokoll. Ohne Aufzeichnung, wer was freigegeben hat, ist die Kontrolle im Streitfall nicht belegbar.

In der Praxis: Freiheit schrittweise erweitern

Unsere KI-Mitarbeiter starten grundsätzlich mit Freigabe für jede Aktion. Erst wenn die Auswertung zeigt, dass ein Aufgabentyp zuverlässig erledigt wird, erweitern Sie den Spielraum – Schritt für Schritt und schriftlich festgehalten. Jede Aktion wird protokolliert. Wie solche Freigaben in einen durchgängigen Ablauf eingebaut werden, zeigt die Prozessautomatisierung. Beim Zusammenspiel mehrerer Agenten gilt dasselbe Prinzip, siehe Multi-Agenten-System.

Häufige Fragen

Was bedeutet Human in the Loop auf Deutsch?

Wörtlich „Mensch in der Schleife“. Gemeint ist, dass ein Mensch fester Bestandteil eines automatisierten Ablaufs ist und an bestimmten Stellen prüft oder entscheidet.

Bremst Human in the Loop die Automatisierung aus?

Nur wenn jeder Vorgang geprüft wird. Mit Schwellenwerten, Eskalation bei Unsicherheit und Stichproben prüft der Mensch nur, was wirklich seine Aufmerksamkeit braucht.

Ist Human in the Loop gesetzlich vorgeschrieben?

Für Hochrisiko-KI verlangt der EU AI Act menschliche Aufsicht, und die DSGVO schränkt rein automatisierte Entscheidungen über Personen ein. Für viele Alltagsanwendungen ist es keine Pflicht, aber gute Praxis.

Wann kann man auf die Freigabe verzichten?

Wenn ein Fehler wenig Schaden anrichtet, schnell auffällt und leicht zu korrigieren ist – und wenn Stichproben über längere Zeit eine niedrige Fehlerquote zeigen.