Iluzja „Cyfrowej Wyroczni”: dlaczego AI w HSE pozostaje kalkulatorem, a nie ekspertem

Branża HSE znalazła się pod ogromną presją. Presja ta pochodzi nie tylko od organów regulacyjnych, ale także z tzw. „technologicznego szumu”. Najwyższe kierownictwo, pod wrażeniem prezentacji o cyfrowej transformacji, domaga się natychmiastowego wdrożenia sztucznej inteligencji. Powstaje niebezpieczna iluzja: wydaje się, że algorytmy to „magiczny przycisk”, który natychmiast wyeliminuje czynnik ludzki i zredukuje liczbę wypadków do zera.

Jednak za pięknymi wersjami demonstracyjnymi kryje się fundamentalne pomieszanie pojęć. Rynkowi sprzedaje się AI jako „inteligencję” (byt rozumiejący), chociaż technicznie pozostaje ona potężnym kalkulatorem prawdopodobieństwa. W procesach, w których ceną błędu jest ludzkie życie, to nieporozumienie może prowadzić do poważnych konsekwencji. Ryzykujemy bolesne rozczarowanie, gdy rzeczywistość statystyki matematycznej zderzy się z chaosem realnej produkcji.

Nikomu nie narzucam swojego zdania, dzielę się jedynie doświadczeniem osoby, która aktywnie wdraża i pracuje ze sztuczną inteligencją od początku 2024 roku.

Problem kontekstu: AI nie widzi istoty rzeczy

Główną różnicą między doświadczonym menedżerem a siecią neuronową jest zrozumienie kontekstu. Ekspert odczytuje „słabe sygnały”: nerwowość w głosie, zmęczenie zespołu, nieoczywiste oznaki odchyleń. Sztuczna inteligencja działa inaczej – jest zamknięta w ramach modelu matematycznego.

System widzenia komputerowego nie rozumie, czym jest „naruszenie”. Widzi po prostu zestaw pikseli i porównuje go ze wzorcem. Dla algorytmu odblask na kasku i brak kasku to tylko dane. Stąd wynika ryzyko „ślepoty metrycznej”. Jeśli kontrolę całkowicie powierzy się algorytmom, firma otrzyma idealne raporty i zielone wykresy, podczas gdy rzeczywista kultura bezpieczeństwa ulegnie degradacji. AI będzie optymalizować liczby, ignorując rzeczywiste, ale nie zdigitalizowane zagrożenia.

Paradoks efektywności i ukryte koszty

Doświadczenie we wdrażaniu modeli generatywnych i systemów analitycznych pozwala na sformułowanie zasady 70/30, która ma wyraźny wymiar finansowy. Pierwsze 70% pracy – stworzenie szkicu dokumentu, wstępna analiza wideo – AI wykonuje błyskawicznie. Tworzy to efekt „wow” i iluzję oszczędności.

Jednak pozostałe 30% – doprowadzenie wyniku do ideału i weryfikacja dokładności – wymaga ogromnych zasobów. To ukryty koszt wdrożenia, o którym milczą dostawcy. Oszczędności na starcie przeradzają się w wielokrotne koszty związane z dopracowaniem, walidacją i utrzymaniem systemu. Kierownictwo musi zrozumieć: pracownik, który wcześniej pisał instrukcję przez godzinę, teraz spędza tę samą godzinę na poprawianiu błędów AI. To nie jest redukcja funduszu płac, ale zmiana charakteru pracy: zamiast twórczością, specjalista zajmuje się niekończącym się kontrolowaniem maszyny.

Nowe ryzyka i cena błędu

Wdrożenie AI niesie ze sobą zagrożenia, które mają nie tylko wymiar techniczny, ale i kolosalny wymiar finansowy. Błąd sieci neuronowej, który doprowadził do incydentu, to nie tylko awaria kodu. To pozwy sądowe, kary, wstrzymanie produkcji i spadek wartości akcji.

Po pierwsze, są to „halucynacje” systemu. Modele generatywne potrafią przekonująco wymyślać fakty, powołując się na nieistniejące normy. Stosowanie takich regulacji jest prawnie nieważne, a konsekwencje dla biznesu mogą być fatalne.

Po drugie, dziedziczenie błędów. Algorytm jest lustrem danych. Jeśli w przedsiębiorstwie przez lata ukrywano drobne incydenty, AI nauczy się uważać to za normę i przeoczy prawdziwą awarię.

Po trzecie, wycieki danych. Wgrywanie wewnętrznej dokumentacji do chmurowych chatbotów sprawia, że dane stają się publiczne. Od maja 2025 roku ponad 600 spraw karnych związanych z wyciekami potwierdza: poufność staje się podatna na zagrożenia.

Co robić? Zasady odpowiedzialnego wdrażania

Diagnoza jest jasna, ale jak mają postępować praktycy? Aby wdrożenie AI nie stało się katastrofą, należy przestrzegać czterech zasad „cyfrowej higieny”.

Zasada „Człowiek w pętli” (Human-in-the-Loop). Żadnej pełnej autonomii w strefach krytycznych. Każda decyzja AI – czy to nałożenie kary, czy dopuszczenie do pracy – musi zostać zweryfikowana przez eksperta. Automatyzacja to pomoc dla człowieka, a nie jego eliminacja. AI proponuje hipotezę, ekspert podejmuje decyzję.

Zasada „Podnoszenia dojrzałości technologicznej zespołu”. AI nie sprawdzi się w środowisku, w którym ludzie boją się technologii, nie rozumieją ich przeznaczenia lub postrzegają je jako zagrożenie. Zespół musi przejść „upgrade”: podstawowa umiejętność korzystania z technologii cyfrowych, zrozumienie zasad działania AI, umiejętność interpretacji wniosków modelu i odpowiedzialność za dialog z systemem. Dojrzały zespół to ubezpieczenie od błędów i klucz do tego, aby AI stała się narzędziem, a nie kolejnym źródłem chaosu.

Zasada „Wdrażania etapowego”. Nie zaczynaj od systemów, od których zależy życie ludzi. Rozpocznij od zadań pomocniczych. Niech AI szuka ukrytych wzorców w archiwach wypadków, przygotowuje szkice standardowych raportów lub sprawdza kompletność apteczek. Przetestuj technologie tam, gdzie ceną błędu jest czas, a nie zdrowie.

Zasada „Audytu danych”. Zanim „nakarmisz” algorytm danymi, przeprowadź ich rygorystyczną rewizję. Czy w przedsiębiorstwie istniała kultura przemilczania? Jeśli tak, to „brudne” dane zepsują każdy, nawet najdoskonalszy model. Oczyszczenie danych z uprzedzeń to obowiązkowy etap przed uruchomieniem.

Strategia przyszłości: Od zastąpienia do wzmocnienia

Największy strach specjalistów – degradacja umiejętności i utrata pracy – opiera się na błędnym założeniu. Musimy zmienić paradygmat z AI (Sztuczna Inteligencja) na IA (Wzmocnienie Inteligencji).

AI nie powinna zastępować eksperta ds. HSE. Powinna stać się jego „egzoszkieletem” dla umysłu – super-asystentem, który przetwarza tony surowych danych, pozostawiając człowiekowi czysty koncentrat do podejmowania decyzji. Zamiast degradacji czeka nas transformacja umiejętności. Pojawiają się nowe role: specjaliści, którzy staną się pomostem między światem algorytmów a realną produkcją. To oni będą odpowiadać za to, aby „cyfra” adekwatnie opisywała fizyczną rzeczywistość hali produkcyjnej.

Podsumowanie

Sztuczna inteligencja w HSE to nie „magiczna pigułka”, ale skomplikowane, drogie i potencjalnie niebezpieczne narzędzie, wymagające najwyższej kultury eksploatacji. Inwestycje w AI są bezcelowe bez równoległych inwestycji w ludzi – w ich wiedzę ekspercką i umiejętność zadawania systemowi właściwych pytań.

Przyszłość bezpieczeństwa należy nie do tych, którzy kupią najbardziej reklamowany algorytm, ale do tych, którzy potrafią zbudować symbiozę człowieka i maszyny. Tam, gdzie chłodna logika kalkulatora służy ciepłemu umysłowi eksperta, nie zastępując go. I teraz do kwestii budowania kultury bezpieczeństwa pracy dochodzi nowe, nieuniknione zadanie – kultura pracy z AI. Nie chodzi tylko o wdrożenie systemu, ale o wbudowanie go w żywy kontekst przedsiębiorstwa: w procesy, szkolenia, odpowiedzialność i codzienne nawyki zespołu.

Właśnie te organizacje, które nauczą się łączyć kulturę zawodową i dojrzałość cyfrową, będą zarządzać ryzykiem naprawdę, a nie tylko na papierze. Zanim wdrożysz AI, zadaj sobie główne pytanie: czy jesteś gotów wziąć odpowiedzialność za decyzje, których nie do końca rozumiesz, i co należy zrobić, aby to zrozumienie osiągnąć?