Kognitive Verzerrungen bei der Risikobeurteilung: Wie ein KI-Assistent hilft, Gefahren objektiv zu erkennen

In Unternehmen im ganzen Land werden heute Dutzende von Methoden zur Beurteilung beruflicher Risiken angewendet. Äußerlich ähneln sie sich: Identifizierung von Gefahren, Bewertung der Wahrscheinlichkeit und Schwere der Folgen, Entwicklung von Barrieren und Maßnahmen zur Risikominderung. Trotz der scheinbaren Standardisierung ermöglichen diese Ansätze in der Praxis jedoch oft keine genaue Vorhersage oder Verhinderung von Verletzungen.

Warum ist das so? Schließlich sind für deren Entwicklung erfahrene Fachleute verantwortlich, die Hunderte von Unfalluntersuchungen begleitet haben?

Die Antwort liegt in kognitiven Verzerrungen.

Das menschliche Gehirn, selbst das des kompetentesten Experten, arbeitet nach vereinfachten Mustern. Im Laufe der Jahre entwickelt ein Spezialist ein „berufliches Gespür“ – aber damit einhergehend auch ein Schubladendenken. Er beginnt:

• Risiken zu unterschätzen, die man „schon immer im Griff hatte“ (Kontrollillusion);
• die Unfallursache der „Unachtsamkeit“ des Mitarbeiters zuzuschreiben, ohne systemische Ursachen zu analysieren (fundamentaler Attributionsfehler);
• unwahrscheinliche, aber katastrophale Szenarien zu ignorieren (Leugnung von „Schwarzen Schwänen“).

Infolgedessen beschränken sich formale Methoden der Risikobeurteilung auf das Ausfüllen von Tabellen nach Vorlage und nicht auf eine tiefgehende Analyse. HSE-Anweisungen werden mit allgemeinen Informationen überladen, die oft nur zur „Absicherung“ geschrieben werden und nicht für den tatsächlichen Gebrauch am Arbeitsplatz. Phrasen wie „Seien Sie aufmerksam“ geben keine konkreten Handlungen vor – und mindern somit auch nicht das Risiko.

Ein Experiment: Was wäre, wenn wir menschliche Vorurteile beseitigen?

Wir haben ein Pilotexperiment durchgeführt: Wir haben einen KI-Assistenten entwickelt, der mit einem Datensatz trainiert wurde, der Folgendes umfasst:

• Verletzungsstatistiken nach Berufen;
• Ergebnisse von Unfalluntersuchungen;
• geltende HSE-Anweisungen und Arbeitspläne;
• Anforderungen normativer Dokumente.

Die Aufgabe bestand darin, die Anweisungen zu analysieren und sie mit realen Verletzungsfällen abzugleichen.

Die Ergebnisse waren überraschend:

1. Analysegeschwindigkeit – Hunderte von Seiten wurden in Minuten verarbeitet.
2. Fehlende Voreingenommenheit – die KI „weiß“ nicht, dass es in diesem Bereich „schon immer so gemacht wurde“.
3. Genauer Abgleich – das System deckte Diskrepanzen zwischen vorgeschriebenen Handlungen und den tatsächlichen Unfallursachen auf.
4. Empfehlungen – die KI schlug konkrete, messbare Formulierungen vor: nicht „Seien Sie aufmerksam“, sondern „Schrank öffnen → Sicherungsautomat ausschalten → beide Türen schließen → Schloss verriegeln → Schlüssel in Fach Nr. 3 legen“.

Darüber hinaus identifizierte die KI „Informationsrauschen“ – Abschnitte von Anweisungen, die sich nicht auf die konkrete Aufgabe des Mitarbeiters beziehen. Solche Dokumente mit über 100 Seiten werden nicht gelesen, nicht gemerkt und nicht angewendet – sie erzeugen lediglich eine Illusion von Sicherheit.

Fazit: Technologien sind kein Ersatz für den Menschen, sondern ein Werkzeug für Objektivität

Kognitive Verzerrungen sind eine objektive Eigenschaft des menschlichen Denkens. Aber jetzt haben wir Werkzeuge, die helfen, sie zu kompensieren. Moderne KI-Assistenten sind zugänglich, verständlich und können auf Russisch arbeiten. Sie treffen keine Entscheidungen – aber sie liefern dem Menschen genaue Daten, um bessere Entscheidungen zu treffen.

Der Einsatz solcher Lösungen ermöglicht es:

• sich auf reale und nicht auf eingebildete Risiken zu konzentrieren;
• Anweisungen zu verfassen, die wirklich funktionieren;
• Barrieren aufzubauen, die auf Fakten und nicht auf Gewohnheiten basieren.

Sicherheit beginnt mit einem ehrlichen Blick auf die Realität. Und Technologien helfen uns, diesen zu erlangen.