Kto odpowiada za błąd AI? Rola pracownika, zespołu i firmy

Dlaczego błędna odpowiedź AI może wyglądać wiarygodnie

Zespół przygotowuje ofertę, a model językowy podaje trzy szczegółowe źródła. Są zapisane poprawnie, mają autorów i daty. Dopiero klient zauważa, że jedna publikacja nie istnieje. Problemem nie jest tylko „halucynacja” modelu. Istotne jest także to, że pewnie brzmiące zdania i znajomy układ dokumentu ułatwiły przyjęcie odpowiedzi bez sprawdzenia. Łatwo ocenić wiarygodność informacji po samej formie, choć forma nie potwierdza faktów.

Goddard i współautorzy opisali w przeglądzie badań skłonność do nadmiernego polegania na podpowiedziach systemów automatycznych. Duża część analiz dotyczyła medycyny i starszych systemów wspomagania decyzji, dlatego wyników nie należy mechanicznie przenosić na wszystkie modele generatywne. Mechanizm pozostaje jednak użyteczny: nawet kompetentny specjalista może przestać szukać błędu, gdy sugestia jest podana przekonująco, a czasu jest mało. Dlatego samo zdanie „przecież sprawdziliśmy” nie wystarcza bez określenia, co rzeczywiście zostało sprawdzone.

Dlaczego odpowiedzialność nie spoczywa wyłącznie na osobie zatwierdzającej

Dokument może przechodzić przez kilka rąk. Pierwsza osoba wybiera narzędzie i dane, druga redaguje tekst, trzecia sprawdza liczby, czwarta podpisuje gotową ofertę. Jeśli w firmie nie ustalono ról, po błędzie każdy wskaże na sąsiada. „Myślałem, że sprawdzał to dział analiz” zderzy się z „ja oceniałem tylko język”. Odpowiedzialność prawną trzeba ocenić osobno, ale przyczyny organizacyjne błędu można ustalić od razu.

Pomaga rozdzielenie czterech pytań: kto mógł użyć narzędzia, kto odpowiadał za prawdziwość danych, kto miał prawo zatrzymać wysyłkę i kto miał zapewnić warunki kontroli. Pracownik wykonujący ostatni krok może mieć obowiązek staranności, lecz firma może równocześnie odpowiadać za wadliwą procedurę. Niezasadne jest automatyczne przerzucanie całej winy na osobę, która najmniej decydowała o sposobie pracy. Równie błędne byłoby stwierdzenie, że skoro „AI się pomyliła”, żadna osoba nie musi już wyciągnąć wniosków.

Dwa przykłady pokazują różnicę między użyciem narzędzia a kontrolą

W znanej amerykańskiej sprawie Mata przeciwko Avianca pełnomocnicy złożyli dokument zawierający nieistniejące orzeczenia wygenerowane przy użyciu AI. Sąd nałożył sankcje. To przykład niezweryfikowania powoływanych źródeł, nie dowód, że każda pomyłka modelu automatycznie rodzi taką samą odpowiedzialność. W polskiej firmie bardziej codzienny problem może polegać na wysłaniu klientowi oferty z błędnymi warunkami płatności, ponieważ nikt nie porównał tekstu z zatwierdzoną tabelą.

Wyobraźmy sobie dwa zespoły. W pierwszym kontrola oznacza trzy minuty pobieżnego czytania wygenerowanego raportu. W drugim kontrolujący ma listę pól do sprawdzenia, dostęp do pierwotnych danych i prawo odesłać dokument do poprawy. W obu zespołach człowiek sprawdza wynik, ale tylko w drugim ma rzeczywistą możliwość jego zakwestionowania. Wnioskiem nie jest stworzenie wielkiej biurokracji dla każdej wiadomości, ale dobranie kontroli do wagi decyzji i ryzyka popełnienia błędu.

Co przepisy o AI mówią o nadzorze, a czego nie rozstrzygają

Unijny AI Act określa m.in. wymagania nadzoru ludzkiego nad systemami zaklasyfikowanymi jako wysokiego ryzyka i obowiązki podmiotów, które ich używają. Przepisy rozróżniają kategorie zastosowań i terminy obowiązywania poszczególnych wymagań. Nie należy więc twierdzić, że każda firmowa rozmowa z chatbotem podlega identycznemu reżimowi ani że sam AI Act rozstrzyga, kto osobiście odpowiada za każdą szkodę.

W praktyce menedżer powinien sprawdzić, jakiego systemu używa firma, do czego jest przeznaczony i jakie zasady wynikają z właściwych regulacji, umów oraz procedur. W zastosowaniach dotyczących zdrowia, zatrudnienia czy istotnych praw człowieka stawka i obowiązki są inne niż przy redagowaniu neutralnej notatki. Dla zespołu najważniejsze jest, aby decyzja o użyciu narzędzia miała właściciela, a osoba sprawdzająca miała kompetencje, czas i prawo powiedzieć „tego wyniku nie zatwierdzam”.

Jak ustalić kontrolę, zanim materiał wyjdzie poza firmę

Warto przygotować krótką matrycę odpowiedzialności. Przy każdym procesie zapisujemy: dopuszczone zastosowanie AI, dane wejściowe, elementy obowiązkowej kontroli, osobę zatwierdzającą i sposób zgłaszania problemu. Dla raportu liczbowego kluczowe będzie porównanie wartości z systemem źródłowym. Dla tekstu prawnego sprawdzenie przepisów w aktualnym źródle. Dla informacji medycznej właściwa weryfikacja merytoryczna przez uprawnioną osobę. Narzędzie AI nie jest zastępnikiem tego sprawdzenia.

Takiej matrycy nie tworzy się po to, aby wskazać przyszłego winnego. Ma ona ułatwiać podejmowanie decyzji i zatrzymanie błędu. Jeśli pracownik odkrywa, że narzędzie wymyśliło źródło, musi wiedzieć, komu to zgłosić, bez obawy, że zostanie ukarany za przerwanie pracy. Menedżer powinien też sprawdzić, czy pod presją terminu nie wymaga od zespołu kontroli, której fizycznie nie da się wykonać. Odpowiedzialność bez odpowiednich warunków staje się jedynie deklaracją.

Jak rozmawiać po błędzie, żeby następny zgłoszono wcześniej

Gdy błąd wychodzi na jaw, pierwsze pytanie powinno brzmieć: „Jak ograniczamy jego skutki?”. Dopiero potem warto odtworzyć kolejność zdarzeń. Zamiast rozpoczynać od „Kto to przepuścił?”, menedżer może powiedzieć: „W dokumencie pojawiły się błędne liczby. Sprawdźmy, skąd zostały wzięte, jakie kontrole wykonaliśmy i gdzie proces przestał działać”. Taki sposób rozmowy nie oznacza zgody na zaniedbania. Umożliwia oddzielenie niejasnego zadania, niewystarczającej kontroli i świadomego pominięcia ustaleń.

Po analizie musi pojawić się decyzja: poprawiamy instrukcję, dodajemy kontrolę, ograniczamy zastosowanie albo szkolimy zespół. Ustal także, kto poinformuje odbiorców o korekcie i w jakim terminie. Jeśli pracownik wcześniej ostrzegał przed ryzykiem, menedżer powinien to uwzględnić. Zespół szybko zauważa, czy przyznanie się do pomyłki prowadzi do uczenia się, czy wyłącznie do poszukiwania kozła ofiarnego. Od tej reakcji zależy, czy kolejny błąd zostanie ujawniony wcześnie.

Za skutkami błędu AI stoją zarówno decyzje użytkowników, jak i organizacja procesu. Trzeba określić, kto weryfikuje informacje, co dokładnie sprawdza i czy ma warunki do skutecznej kontroli. Po pomyłce najpierw naprawia się skutki, później ustala odpowiedzialność i zmienia procedurę, która pozwoliła błędowi przejść dalej.

Jak Empatyzer wspiera trudną rozmowę po błędzie z udziałem AI

Po wysłaniu niepoprawnej oferty menedżer może opisać Em fakty: co powstało przy użyciu AI, kto miał sprawdzić dokument, jakie były ustalenia i co powiedział klient. Em pomoże przygotować spotkanie, podczas którego ludzie nie będą musieli bronić się przed domniemaniem winy, ale też nie unikną rozmowy o swoich obowiązkach. Można z nią ułożyć pytania rozdzielające fakty od ocen, przećwiczyć reakcję na słowa „przecież wszyscy tak robili” i przygotować jasną informację zwrotną. Jeśli uczestnikami są osoby z tej samej organizacji, dostępne wskazówki relacyjne pomagają dobrać język do odmiennych sposobów reagowania na krytykę i niepewność; nie otwierają jednak dostępu do cudzych prywatnych diagnoz. W kontekście zespołu Em może pomóc zaplanować omówienie incydentu i sposób przedstawienia nowych zasad współpracy. Dzięki temu menedżer wchodzi na spotkanie nie tylko z listą pytań o winnych, lecz z planem naprawy błędów, jasnym podziałem odpowiedzialności i sposobem zachęcania do wcześniejszego zgłaszania problemów.