Zaczyna się od kultury uczenia się na błędach i bezpieczeństwa psychologicznego.

W wielu firmach rozmowa o AI zaczyna się od narzędzi. Od tego, co wdrożyć, jak szybko i z jakim budżetem.

Znacznie rzadziej od pytania, które w praktyce okazuje się ważniejsze niż wybór technologii: czy nasza organizacja jest kulturowo gotowa na AI?

Co uczenie się na błędach ma wspólnego z AI?

Nie chodzi tu o kompetencje techniczne ani o poziom cyfryzacji. Chodzi o coś znacznie głębszego. O to, jak organizacja reaguje na błędy, jak podejmuje decyzje po porażkach i czy potrafi korygować kurs bez szukania winnych, ale z realnymi konsekwencjami.

W kontekście AI te pytania stają się jeszcze bardziej wymagające. Reakcja organizacji na błąd nie dotyczy już tylko decyzji ludzi, ale także decyzji podejmowanych lub rekomendowanych przez algorytmy. I właśnie wtedy kultura organizacyjna jest wystawiana na prawdziwą próbę.

Gdy decyzja oparta na AI okazuje się błędna, wiele firm instynktownie szuka usprawiedliwienia w technologii. „Model się pomylił” brzmi neutralnie i bezpiecznie. Pozwala uniknąć trudniejszych pytań o to, kto zdecydował się zaufać rekomendacji, w jakim kontekście została użyta i jakie założenia przyjęto bezrefleksyjnie. W efekcie odpowiedzialność zostaje rozmyta, a system pozostaje nietknięty.

Dojrzała organizacja reaguje inaczej. Traktuje błąd algorytmu nie jako problem techniczny, lecz jako sygnał decyzyjny. Pyta, gdzie zawiodły założenia, w jakich warunkach rekomendacja powinna być kwestionowana i kto ma prawo oraz obowiązek ją zatrzymać. Nie chodzi o wskazanie winnego, ani wśród ludzi, ani „w kodzie”, lecz o zmianę sposobu podejmowania decyzji w przyszłości.

Korekta kursu w świecie AI oznacza coś bardzo konkretnego. Może wymagać zmiany danych, na których opiera się model. Może oznaczać wprowadzenie dodatkowych progów decyzyjnych, ręcznych punktów kontroli albo jasnego rozróżnienia między rekomendacją systemu a decyzją biznesową. Zawsze jednak oznacza jedno: decyzja algorytmiczna przestaje być traktowana jak obiektywna prawda, a zaczyna być elementem procesu, za który ktoś realnie odpowiada.

To moment, w którym ujawnia się różnica między organizacją, która korzysta z AI, a organizacją, która jej ulega. W pierwszej błędy algorytmiczne prowadzą do korekty sposobu użycia technologii. W drugiej są ignorowane albo tłumaczone, aż powtórzą się w większej skali.

Najtrudniejsze w tej korekcie jest to, że dotyka ona nie tylko systemu, ale też narracji przywódczej. Przyznanie, że rekomendacja AI była błędna, oznacza przyznanie, że wcześniejsza decyzja o jej użyciu była nieadekwatna w danym kontekście. To wymaga dojrzałości i gotowości do zmiany kursu bez szukania winnych, ale z realnymi konsekwencjami.

W organizacjach, które potrafią to zrobić, AI staje się narzędziem uczenia się. W pozostałych staje się mechanizmem utrwalania błędów, tylko szybszym i trudniejszym do zatrzymania.

AI w firmie nie działa w próżni.

Działa w konkretnej kulturze organizacyjnej. I dokładnie tę kulturę wzmacnia.

Dlatego tak często okazuje się, że AI nie tyle tworzy nowe problemy, ile bezlitośnie ujawnia te, które istniały od dawna. W organizacjach, w których błędy są zamiatane pod dywan, trudne tematy są odkładane, a decyzje po porażkach nie zapadają, AI bardzo szybko staje się wygodnym alibi. „System tak pokazał” zastępuje odpowiedzialność, a technologia tworzy dodatkowy dystans między decyzją a jej konsekwencjami.

Jeśli organizacja nie potrafi uczyć się na błędach ludzi, nie będzie potrafiła uczyć się na błędach algorytmów. Mechanizm jest dokładnie ten sam, tylko skala i tempo są większe.

Bezpieczeństwa psychologiczne – „miękki” dodatek do twardej technologii?

W tym miejscu pojawia się temat bezpieczeństwa psychologicznego, często traktowany jako „miękki” dodatek do twardej technologii. W rzeczywistości to jeden z kluczowych warunków sensownego użycia AI. Systemy oparte na AI będą się mylić. Będą generować odpowiedzi brzmiące pewnie, ale błędne. Będą wymagały ludzkiej czujności i gotowości do zakwestionowania wyniku.

Pytanie brzmi, czy w danej organizacji ktoś ma prawo powiedzieć: „to nie ma sensu”, „tu coś się nie zgadza”, „zatrzymajmy tę decyzję”. W kulturze, w której bezpieczeństwo psychologiczne jest niskie, ludzie nie będą podważali rekomendacji AI nie dlatego, że jej ufają, ale dlatego, że boją się wyjść na niekompetentnych albo blokujących innowację. Efekt będzie prosty: błędy nie tylko się będą zdarzały, ale będą automatyzowane i powielane.

To prowadzi do kolejnego, często pomijanego aspektu. AI w organizacji nie uczy się sama. Uczy się tylko wtedy, gdy organizacja uczy się razem z nią. Gdy błędy są zauważane, omawiane i, co najważniejsze, prowadzą do zmiany decyzji, sposobu użycia narzędzia albo procesu decyzyjnego. Bez tego te same błędy będą się powtarzać, tylko szybciej i na większą skalę.

W praktyce oznacza to, że największe ryzyko związane z AI nie ma charakteru technologicznego. Największym ryzykiem nie jest to, że model się pomyli. Największym ryzykiem jest to, że nikt nie zakwestionuje rezultatów jego działania, nikt nie cofnie decyzji i nikt nie powie wprost: „to był błąd, zmieniamy sposób działania”.

Wdrożenie AI to ryzyko kulturowe i przywódcze.

AI wymusza dojrzałość przywódczą. Wymaga jasnego przypisania odpowiedzialności, gotowości do przyznania się do błędu i umiejętności korekty kursu bez utraty twarzy. Bez tego nie staje się narzędziem lepszych decyzji, lecz wzmacniaczem złych nawyków decyzyjnych, które istniały wcześniej.

Jest w tym pewien paradoks. Im więcej technologii w organizacji, tym większe znaczenie mają bardzo ludzkie kompetencje. Odwaga mówienia „to nie działa”. Zgoda na popełnianie błędów i ich naprawianie. Liderzy, którzy potrafią powiedzieć: „to była zła decyzja, zmieniamy ją”.

Bezpieczeństwo psychologiczne i kultura uczenia się na błędach nie są „przeciwieństwem „wbrew” wykorzystania AI. Są warunkiem, by AI rzeczywiście poprawiała decyzje, zamiast je automatyzować w złej formie.

Dlatego na początek, zanim organizacja zapyta „jak wdrożyć AI”, warto zapytać o coś innego.

Jak dzisiaj reagujemy na błędy, zarówno ludzkie, jak i systemowe? Czy po porażkach zapadają realne decyzje? Czy ludzie mają prawo zakwestionować rezultaty działania systemu, nawet jeśli brzmią one bardzo pewnie?

AI nie naprawi kultury organizacyjnej. AI ją ujawni i przyspieszy.

I to od liderów zależy, czy przyspieszy uczenie się, czy też zwiększy chaos.

_{ilustracje: freepic}