Die Illusion des „digitalen Orakels“: Warum KI im HSE-Bereich ein Rechner bleibt und kein Experte ist
Die HSE-Branche steht unter enormem Druck. Dieser Druck geht nicht nur von den Aufsichtsbehörden aus, sondern auch vom sogenannten „Technologie-Hype“. Das Top-Management, beeindruckt von Präsentationen über die digitale Transformation, fordert die sofortige Einführung von künstlicher Intelligenz. Es entsteht eine gefährliche Illusion: Es scheint, als seien Algorithmen ein „Zauberknopf“, der den menschlichen Faktor sofort eliminiert und die Unfallquote auf null senkt.
Hinter den schönen Demoversionen verbirgt sich jedoch eine grundlegende Begriffsverwirrung. Dem Markt wird KI als „Intelligenz“ (ein verstehendes Wesen) verkauft, obwohl sie technisch gesehen ein leistungsstarker Wahrscheinlichkeitsrechner bleibt. In Prozessen, in denen der Preis für einen Fehler ein Menschenleben ist, kann diese Verwechslung schwerwiegende Folgen haben. Wir laufen Gefahr, eine bittere Enttäuschung zu erleben, wenn die Realität der mathematischen Statistik auf das Chaos der realen Produktion prallt.
Ich möchte niemandem meine Meinung aufzwingen, sondern teile die Erfahrung von jemandem, der seit Anfang 2024 aktiv KI implementiert und damit arbeitet.
Das Kontextproblem: KI erkennt nicht den Kern der Sache
Der Hauptunterschied zwischen einer erfahrenen Führungskraft und einem neuronalen Netz ist das Verständnis für den Kontext. Ein Experte liest „schwache Signale“: Nervosität in der Stimme, Müdigkeit im Team, nicht offensichtliche Anzeichen für Abweichungen. Künstliche Intelligenz funktioniert anders – sie ist in den Grenzen eines mathematischen Modells gefangen.
Ein Computer-Vision-System versteht nicht, was ein „Verstoß“ ist. Es sieht lediglich eine Ansammlung von Pixeln und vergleicht diese mit einem Muster. Für den Algorithmus sind eine Lichtreflexion auf dem Helm und ein fehlender Helm einfach nur Daten. Daraus resultiert das Risiko der „metrischen Blindheit“. Wenn man die Kontrolle vollständig den Algorithmen überlässt, erhält das Unternehmen perfekte Berichte und grüne Diagramme, während die tatsächliche Sicherheitskultur verfällt. Die KI wird Zahlen optimieren und dabei reale, aber nicht digitalisierte Bedrohungen ignorieren.
Das Effizienzparadoxon und versteckte Kosten
Die Erfahrung bei der Einführung generativer Modelle und Analysesysteme lässt die 70/30-Regel ableiten, die einen klaren finanziellen Ausdruck hat. Die ersten 70 % der Arbeit – die Erstellung eines Dokumentenentwurfs, die primäre Videoanalyse – erledigt die KI sofort. Das erzeugt einen Wow-Effekt und die Illusion von Einsparungen.
Aber die restlichen 30 % – das Perfektionieren des Ergebnisses und die Überprüfung der Genauigkeit – erfordern enorme Ressourcen. Das sind die versteckten Kosten der Implementierung, über die die Anbieter schweigen. Die anfänglichen Einsparungen verwandeln sich in ein Vielfaches an Kosten für Nachbesserung, Validierung und Systemunterstützung. Das Management muss verstehen: Ein Mitarbeiter, der früher eine Stunde für das Schreiben einer Anweisung brauchte, verbringt nun dieselbe Stunde damit, die Fehler der KI zu korrigieren. Das ist keine Reduzierung der Lohnkosten, sondern ein Tätigkeitswechsel: Anstatt kreativ zu sein, beschäftigt sich der Spezialist mit der endlosen Kontrolle der Maschine.
Neue Risiken und der Preis für Fehler
Die Einführung von KI bringt Bedrohungen mit sich, die nicht nur eine technische, sondern auch eine kolossale finanzielle Dimension haben. Ein Fehler des neuronalen Netzes, der zu einem Vorfall führt, ist nicht einfach nur ein Codefehler. Es bedeutet Klagen, Geldstrafen, Produktionsstopps und fallende Aktienkurse.
Erstens gibt es die „Halluzinationen“ des Systems. Generative Modelle können überzeugend Fakten erfinden und sich auf nicht existierende Normen berufen. Die Anwendung solcher Vorschriften ist rechtlich nichtig, und die Folgen für das Unternehmen können fatal sein.
Zweitens die Vererbung von Fehlern. Ein Algorithmus ist ein Spiegel der Daten. Wenn in einem Unternehmen jahrelang kleinere Vorfälle vertuscht wurden, lernt die KI, dies als Norm zu betrachten, und wird einen echten Unfall übersehen.
Drittens Datenlecks. Das Hochladen interner Dokumentationen in Cloud-Chatbots macht die Daten öffentlich. Seit Mai 2025 bestätigen bereits über 600 Strafverfahren im Zusammenhang mit Datenlecks: Die Vertraulichkeit wird angreifbar.
Was tun? Prinzipien der verantwortungsvollen Einführung
Die Diagnose ist klar, aber wie sollen Praktiker vorgehen? Damit die KI-Einführung nicht in einer Katastrophe endet, müssen vier Prinzipien der „digitalen Hygiene“ befolgt werden.
Das Prinzip „Human-in-the-Loop“ (Mensch im Regelkreis). Keine vollständige Autonomie in kritischen Bereichen. Jede Entscheidung der KI – sei es die Verhängung einer Geldstrafe oder die Arbeitsfreigabe – muss von einem Experten verifiziert werden. Automatisierung ist eine Hilfe für den Menschen, keine Abschaffung. Die KI schlägt eine Hypothese vor, der Experte trifft die Entscheidung.
Das Prinzip der „Erhöhung der technologischen Reife des Teams“. KI funktioniert nicht in einem Umfeld, in dem Menschen Angst vor Technologie haben, ihren Zweck nicht verstehen oder sie als Bedrohung wahrnehmen. Das Team muss ein „Upgrade“ durchlaufen: grundlegende digitale Kompetenz, Verständnis der Funktionsprinzipien von KI, Fähigkeiten zur Interpretation der Modellergebnisse und Verantwortung für den Dialog mit dem System. Ein reifes Team ist eine Versicherung gegen Fehler und der Schlüssel dazu, dass KI zu einem Werkzeug wird und nicht zu einer weiteren Quelle des Chaos.
Das Prinzip der „schrittweisen Einführung“. Beginnen Sie nicht mit Systemen, von denen Menschenleben abhängen. Fangen Sie mit Hilfsaufgaben an. Lassen Sie die KI nach verborgenen Mustern in Unfallarchiven suchen, Entwürfe für Standardberichte erstellen oder die Vollständigkeit von Erste-Hilfe-Kästen überprüfen. Erproben Sie die Technologien dort, wo der Preis für einen Fehler Zeit ist und nicht Gesundheit.
Das Prinzip des „Datenaudits“. Bevor Sie Daten an den Algorithmus „verfüttern“, führen Sie eine strenge Überprüfung durch. Gab es im Unternehmen eine Kultur des Verschweigens? Wenn ja, werden „schmutzige“ Daten jedes noch so perfekte Modell ruinieren. Die Bereinigung der Daten von Verzerrungen ist ein obligatorischer Schritt vor dem Start.
Die Strategie der Zukunft: Von der Ersetzung zur Verstärkung
Die größte Angst der Fachkräfte – der Verlust von Fähigkeiten und des Arbeitsplatzes – beruht auf einer falschen Prämisse. Wir müssen das Paradigma von AI (Artificial Intelligence) zu IA (Intelligence Augmentation – Intelligenzverstärkung) ändern.
KI sollte den HSE-Experten nicht ersetzen. Sie sollte zu seinem geistigen „Exoskelett“ werden – einem Super-Assistenten, der Tonnen von Daten verarbeitet und dem Menschen das reine Konzentrat für die Entscheidungsfindung überlässt. Anstelle eines Verfalls erwartet uns eine Transformation der Fähigkeiten. Es entstehen neue Rollen: Spezialisten, die zur Brücke zwischen der Welt der Algorithmen und der realen Produktion werden. Genau sie werden dafür verantwortlich sein, dass die „Zahlen“ die physische Realität der Werkstatt adäquat beschreiben.
Fazit
Künstliche Intelligenz im HSE-Bereich ist keine „Wunderpille“, sondern ein komplexes, teures und potenziell gefährliches Werkzeug, das eine höchst anspruchsvolle Betriebskultur erfordert. Investitionen in KI sind sinnlos ohne parallele Investitionen in Menschen – in ihre Expertise und ihre Fähigkeit, dem System die richtigen Fragen zu stellen.
Die Zukunft der Sicherheit gehört nicht denjenigen, die den am meisten beworbenen Algorithmus kaufen, sondern denjenigen, die eine Symbiose aus Mensch und Maschine aufbauen können. Dort, wo die kalte Logik des Rechners dem warmen Verstand des Experten dient, ohne ihn zu ersetzen. Und nun kommt zu den Aufgaben des Aufbaus einer Arbeitssicherheitskultur eine neue, unvermeidliche Aufgabe hinzu: die Kultur der Arbeit mit KI. Es geht nicht nur darum, ein System einzuführen, sondern es in den lebendigen Kontext des Unternehmens zu integrieren: in die Prozesse, in die Schulung, in die Verantwortung und in die täglichen Gewohnheiten des Teams.
Genau jene Organisationen, die lernen, professionelle Kultur und digitale Reife zu verbinden, werden Risiken wirklich managen und nicht nur auf dem Papier. Bevor Sie KI einführen, stellen Sie sich die wichtigste Frage: Sind Sie bereit, die Verantwortung für Entscheidungen zu übernehmen, die Sie nicht vollständig verstehen, und was muss getan werden, um genau dieses Verständnis zu erlangen?