KI für den Betrieb
Vernetzter Mitarbeiter

„Human-in-the-Loop“-KI in der Fertigung: Warum die Zukunft nicht „Lights Out“ heißt

Mike McKay

AI Summary

Operations Calling 2025 showcased how modern manufacturing depends on open ecosystems, with dozens of partners demonstrating integrated AI, hardware, and software solutions. The event emphasized that collaboration and interoperability—not single all-in-one systems—are key to scalable, future-ready operations.

„Human-in-the-Loop“ (HITL) in der Fertigung ist ein Betriebsmodell, bei dem KI-Systeme und menschliche Mitarbeiter bei der Bewältigung von Aufgaben zusammenarbeiten. Die KI verarbeitet Daten und gibt Empfehlungen ab, doch ein menschlicher Experte behält die Befugnis, die endgültige Entscheidung zu überprüfen, anzupassen oder auszuführen – wodurch Sicherheit, Verantwortlichkeit und Feinabstimmung in komplexen Produktionsumgebungen gewährleistet werden.

In den letzten zehn Jahren bestand das implizite Ziel der Fertigungstechnik darin, den Menschen aus dem Prozess zu entfernen. Die „Lights-out“-Fabrik galt als Leitbild, und menschliche Arbeitskräfte wurden oft als Quelle von Schwankungen angesehen, die durch technische Maßnahmen beseitigt werden mussten.

Im Jahr 2026 kehrt sich diese Logik um. Da KI-Agenten und Automatisierung Routineaufgaben (Dateneingabe, Terminplanung, einfache Kontrollen) zur Massenware machen, verschwindet der Wert des menschlichen Arbeitnehmers nicht – er steigt vielmehr sprunghaft an. Doch die Art dieses Werts verändert sich.

Wir bewegen uns weg von der Nutzung von Menschen als „schlechte Roboter“ – die nur wegen ihrer Hände und Augen wertvoll sind – hin zu einem Modell, bei dem menschliches Urteilsvermögen die wichtigste Leistung der Belegschaft ist.

„Human-in-the-Loop“ (HITL) ist die Architektur, die diesen Wandel ermöglicht. Es handelt sich dabei nicht um eine Ausweichlösung für den Fall, dass die KI versagt, sondern um das permanente Betriebssystem für eine Welt, in der Flexibilität wichtiger ist als reine Effizienz.

Das Problem mit „Bad Robot“

Viel zu lange hat die Branche die Mitarbeiter an vorderster Front wie biologische Maschinen behandelt. Wir haben von ihnen verlangt, repetitive Aufgaben zu erledigen, komplexe Standardarbeitsanweisungen auswendig zu lernen und die Lücke zwischen nicht miteinander verbundenen Systemen manuell zu schließen.

Das war eine Verschwendung der einzigen Fähigkeit, über die Menschen verfügen, die der KI jedoch fehlt: Urteilsvermögen.

  • KI eignet sich hervorragend für die Verarbeitung riesiger Datensätze, das Erkennen subtiler Muster (wie beispielsweise Schwingungstrends) und die schnelle Ausführung logischer Abläufe.
  • Menschen sind hervorragend darin, Nuancen, Zusammenhänge und ethische Fragen zu erfassen sowie mit „Black-Swan“-Ereignissen umzugehen – also mit unerwarteten Szenarien, die noch in keinem Modell berücksichtigt wurden.

HITL-Architekturen ermöglichen es uns, Menschen nicht mehr für Aufgaben einzusetzen, die KI gut bewältigt (den Koordinationsaufwand beim Abrufen von Daten, bei der Terminplanung und bei der Protokollierung), und sie stattdessen voll und ganz auf die entscheidenden Entscheidungen zu konzentrieren, die den Fabrikbetrieb am Laufen halten.

Die Ironien der Automatisierung

In der Technik gibt es ein Paradoxon, das als „Ironien der Automatisierung“ bekannt ist (der Begriff wurde von Lisanne Bainbridge in ihrer bahnbrechenden Abhandlung aus dem Jahr 1983 geprägt). Es besagt, dass der menschliche Bediener umso wichtiger wird, je fortschrittlicher ein automatisiertes System wird – und nicht weniger wichtig.

Warum? Weil die Automatisierung die routinemäßigen, einfachen Aufgaben effizient erledigt. Dadurch werden die unwesentlichen Aspekte aussortiert, sodass nur noch die komplexen, mehrdeutigen und risikoreichen Sonderfälle übrig bleiben, die vom Menschen gelöst werden müssen.

Wenn sich eine Fabrik vollständig auf autonome KI verlässt, könnte eine Rohstoffcharge mit leicht abweichenden chemischen Eigenschaften dazu führen, dass das Modell „halluziniert“ und Tausende fehlerhafter Teile produziert. Ein Mensch, der in den Prozess eingebunden ist, erkennt diese Nuance („Dieses Material fühlt sich wachsartig an“), setzt sich über das Modell hinweg und passt die Parameter auf der Grundlage seiner physikalischen Intuition an.

In diesem Zusammenhang ist der Mensch kein Engpass, sondern die entscheidende Kontrollebene.

Die drei Formen der Interaktion zwischen Mensch und KI

Nicht alle HITL-Systeme funktionieren auf dieselbe Weise. Je nach Risikostufe des Prozesses verschiebt sich die Rolle des Menschen entlang eines Kontrollspektrums:

1. Human-in-the-Loop (Der Gatekeeper) Die KI gibt eine Empfehlung ab, kann jedoch erst handeln, wenn ein Mensch diese genehmigt hat.

  • Der Ablauf: KI-Analyse → Überprüfung durch einen Menschen → Maßnahme.
  • Anwendungsfall: GxP Chargenfreigabe. Ein KI-Agent könnte eine Zusammenfassung der Chargenprotokolle erstellen und dabei drei potenzielle Abweichungen kennzeichnen. Die Vorschriften der „ FDA “ (sowie der gesunde Menschenverstand) verlangen jedoch, dass eine qualifizierte Person diese Kennzeichnungen überprüft und abzeichnet, bevor das Produkt ausgeliefert wird. Die KI erledigt die Vorarbeit; der Mensch gibt die Note.

2. Human-on-the-Loop (Der Aufseher) Die KI agiert autonom, doch ein Mensch überwacht das System und kann eingreifen, falls die Parameter abweichen.

  • Der Mechanismus: KI-Aktion → Menschliche Überwachung → Übersteuerung (falls erforderlich).
  • Anwendungsfall: Automatisierte Nachschubsteuerung. Ein Bestandsagent überwacht die Lagerbestände und bestellt automatisch Schrauben nach, sobald diese unter den Sicherheitsbestand fallen. Der Mitarbeiter im Materialmanagement beobachtet ein „ dashboard “ und greift nur ein, wenn er etwas weiß, was die KI nicht weiß (z. B. „Bei diesem Lieferanten wird gestreikt, stornieren Sie die Bestellung“).

3. „Human-out-of-the-Loop“ (begrenzte Automatisierung): Die KI handelt ohne menschliches Eingreifen.

  • „The Mechanic“: KI-Aktion -> Protokoll.
  • Anwendungsfall: Risikominimierte Dateneingabe. Ein Mitarbeiter erfasst automatisch die Maschinenzykluszeiten im „ MES “. Dabei besteht keinerlei Sicherheitsrisiko und es ist keinerlei Ermessensentscheidung erforderlich.

Entwerfen mit Blick auf die Beurteilung, nicht nur auf die Umsetzung

Die Implementierung von HITL ist nicht nur eine Herausforderung für das Backend, sondern auch für die Benutzeroberfläche (UI).

Wenn man einem Bediener eine „Black Box“ gibt, auf der ohne weitere Erklärung „Dieses Teil ablehnen“ steht, wird er dieser Anweisung entweder blindlings folgen (Selbstgefälligkeit) oder sie gänzlich ignorieren (Misstrauen). Um das menschliche Urteilsvermögen zu fördern, muss die Benutzeroberfläche erklärbar sein.

Effektive „Connected Worker “-Anwendungen nutzen Vertrauensschwellenwerte, um den Regelkreis zu steuern:

  • Hohe Zuverlässigkeit (>95 %): Das System verarbeitet den Eintrag möglicherweise automatisch und benachrichtigt den Mitarbeiter lediglich darüber.
  • Low Confidence (<70%): The system routes the item to a human for review, explicitly stating: "I am 65% sure this is a scratch, but it might be a shadow. Please verify."

Dadurch wird der Bediener nicht mehr nur zum Knopfdrücker, sondern zum Ermittler. Er führt nicht einfach nur eine Aufgabe aus, sondern trainiert das Modell. Jedes Mal, wenn er auf „Überschreiben“ klickt, wird dieser Datenpunkt in das System zurückgespeist, wodurch die KI intelligenter wird und die Zusammenarbeit enger wird.

Die wichtigsten Anwendungsfälle für HITL-Operationen

  1. Qualitätssicherung (Der KI-Spotter) Die visuelle Inspektion ist die klassische HITL- Anwendungsfall. Computervision -Modelle sind schnell, neigen jedoch zu Fehlalarmen. Durch den Einsatz Computervisionfungiert die KI als „Spotter“ und umrandet einen potenziellen Defekt mit einem Kasten.
  2. Vorausschauende Instandhaltung (Der Realitätscheck) Ein KI-Modell könnte anhand von Schwingungsdaten eine Wahrscheinlichkeit von 90 % für einen Lagerausfall vorhersagen. Eine Stilllegung der Anlage ist jedoch kostspielig.

    Der Kreislauf: Die KI alarmiert den Instandhaltungstechniker, der sich die Maschine anhört. Die KI liefert das Signal; der Mensch sorgt für den Realitätscheck.
  3. On-Demand-Informationen aus der Praxis Wir können von neuen Mitarbeitern nicht erwarten, dass sie sich jahrzehntelanges „Stammeswissen“ einprägen. KI-Assistenten schließen diese Qualifikationslücke, indem sie institutionelles Wissen im Gespräch zugänglich machen.

    Der Kreislauf: Die KI fungiert als „Bibliothekar“ und ruft sofort technische Daten, historische Reparaturprotokolle oder Qualitätsstandards ab. Der Mensch fungiert als „Richter“ und entscheidet, ob diese historischen Daten auf die aktuelle, einzigartige Situation zutreffen. Diese Zusammenarbeit ermöglicht es einem Mitarbeiter am ersten Tag, Probleme mit der Genauigkeit eines Veteranen am 1000. Tag zu lösen.

Die Lücke auf dem Arbeitsmarkt schließen

Die Fertigungsindustrie sieht sich mit einem anhaltenden Arbeitskräftemangel konfrontiert. Da bis 2033 3,8 Millionen Arbeitskräfte benötigt werden und 1,9 Millionen dieser Stellen möglicherweise unbesetzt bleiben, ist der Mangel an Fachkräften der größte Wachstumsengpass. Wir können uns nicht aus diesem Problem herausstellen – wir müssen es durch zusätzliche Maßnahmen bewältigen.

HITL AI dient als Kraftverstärker für die knappste Ressource in der Fertigung: die Menschen.

Indem die KI die kognitive Belastung durch das Abrufen von Daten und die routinemäßige Überwachung übernimmt, ermöglicht sie es einem einzelnen Bediener, komplexere Aufgaben zu bewältigen, ohne dabei auszubrennen. Zudem verkürzt sie die Einarbeitungszeit erheblich. Ein neuer Mitarbeiter, der mit einem KI-Spotter und einem intelligenten Assistenten ausgestattet ist, kann viel schneller das Leistungsniveau eines erfahrenen Mitarbeiters erreichen, als dies mit herkömmlichen Schulungsmethoden möglich wäre.

Dieser Ansatz ersetzt den Mitarbeiter nicht, sondern verstärkt seine Wirkung. Er stellt sicher, dass menschlicher Einfallsreichtum nur dort zum Einsatz kommt, wo er den größten Mehrwert schafft – nämlich bei der Lösung von Problemen, der Verbesserung von Prozessen und beim Treffen kritischer Entscheidungen, die Maschinen nicht treffen können.

Die Zukunft liegt in der Zusammenarbeit

Die Fabrik des Jahres 2026 wird nicht leer sein. Dort wird mehr los sein als je zuvor, aber die Arbeit wird anders aussehen.

Es wird weniger Menschen geben, die Klemmbretter mit sich herumtragen, und mehr, die sich um Ausnahmesituationen kümmern. Es wird weniger Menschen geben, die acht Stunden lang auf Bauteile starren, und mehr, die Mitarbeiter darin schulen, diese Aufgabe für sie zu übernehmen.

Die Hersteller, die sich durchsetzen werden, sind nicht diejenigen, die am stärksten automatisieren, sondern diejenigen, die es schaffen, menschliches Urteilsvermögen und maschinelle Intelligenz zu einem einzigen, nahtlosen Nervensystem zu verknüpfen.

Häufig gestellte Fragen

HITL ist ein Betriebsmodell, bei dem Menschen KI-Systeme überwachen. Die KI analysiert Daten und unterbreitet Vorschläge, doch ein menschlicher Bediener oder Ingenieur prüft diese Vorschläge, bevor endgültige Maßnahmen ergriffen werden, um Sicherheit und Genauigkeit zu gewährleisten.

KI-Modelle können mit großer Sicherheit Fehler (Halluzinationen) produzieren, wenn sie auf Daten stoßen, die sie zuvor noch nicht gesehen haben. Ein Mensch im Regelkreis fungiert dabei als Sicherheitsventil und fängt diese Fehler ab, bevor sie zu Verletzungen, Ausschuss oder Geräteschäden führen.

Nicht unbedingt. Zwar entsteht dadurch ein zusätzlicher Überprüfungsschritt, doch werden dadurch die massiven Ausfallzeiten vermieden, die mit KI-Fehlern einhergehen. Darüber hinaus ermöglichen „Human-on-the-Loop“-Systeme es einem Menschen, viele KI-Agenten zu überwachen, wodurch der Gesamtdurchsatz im Vergleich zur manuellen Arbeit erheblich gesteigert wird.

In vielen Fällen ja. Vorschriften wie die „ FDA “ (21 CFR Part 11) legen großen Wert auf Datenintegrität und Nachvollziehbarkeit. Zwar kann KI Prozessdaten, doch für kritische Entscheidungen wie die Freigabe einer Charge ist oft die Unterschrift einer Person erforderlich.

Nutzen Sie eine „Human-First“-KI, um die Produktion mithilfe einer vernetzten Betriebsplattform zu verbessern

Erfahren Sie, wie Hersteller mithilfe von „ Tulip “ Echtzeitdaten aus der Fertigung erfassen, Arbeitsabläufe standardisieren und die betriebliche Grundlage schaffen, die KI-Systeme benötigen, um Qualität, Durchsatz und Entscheidungsfindung zu verbessern.

Machen Sie eine virtuelle, interaktive Produkttour
Illustration: Ein Tag im Leben