Agentic AI w magazynie - kto pierwszy dowie się, że agent się pomylił

Piątek, czternasta trzydzieści. Operator dyspozycji patrzy na ekran i widzi coś, czego nie zlecił. Dwieście zamówień klienta strategicznego ma nowy priorytet. Trzydzieści osób w sobotę na nadgodzinach - już zaplanowane. Nikt go nie pytał. Nikt nie zatwierdził. System zrobił to sam.

Wchodzi do logów. Widzi jedno zdanie: agent przesunął priorytet ze względu na ryzyko przekroczenia czasu realizacji. I tyle. Bez nazwiska. Bez decyzji człowieka. Bez ścieżki, którą można zakwestionować.

To nie jest scenariusz z prezentacji vendora. To jest to, co zaczyna dziać się w polskich magazynach. WMS przestał sugerować. Zaczął decydować. Vendorzy nazywają to autonomous orchestration. Zarząd kupuje, bo na slajdzie wygląda jak święty graal. Operator dostaje system, który działa szybciej, niż on zdąży kliknąć anuluj.

Agentic AI w magazynie - dlaczego to nie jest pytanie technologiczne

Klasyczny WMS przez ostatnie dwadzieścia lat działał w jednym schemacie. System patrzy na dane. System proponuje. Człowiek klika. Albo nie klika. Decyzja zostaje u człowieka, ślad zostaje w systemie, a jak coś pójdzie nie tak - wiadomo, kto i kiedy zatwierdził.

Agentic AI w magazynie łamie ten schemat w jednym miejscu. Wycina człowieka ze środka. System patrzy na dane, system decyduje, system wykonuje. Powiadomienie do operatora przychodzi wtedy, kiedy operator może już tylko pogodzić się z faktem albo wszcząć awanturę.

To jest przesunięcie odpowiedzialności bez przesunięcia umowy. Bo formalnie za decyzję operacyjną dalej odpowiada Twoja organizacja. Tylko że Twoja organizacja jej nie podjęła.

Wyobraź sobie, że zatrudniasz kierownika zmiany. Dajesz mu kompetencje, żeby decydował o nadgodzinach, o priorytetach, o tym, który klient idzie pierwszy. Tylko że ten kierownik nie ma nazwiska, nie ma podpisu, nie ma rozmowy oceniającej, nie ma okresu wypowiedzenia. Pracuje dwadzieścia cztery godziny na dobę i podejmuje setki mikrodecyzji dziennie. Czy zatrudniłbyś takiego człowieka w realnym świecie? A w warstwie programowej właśnie to robisz, kiedy podpisujesz aneks na moduł agentic, nie pytając, co konkretnie ten moduł może zrobić bez pytania.

Trzy rzeczy, które budzą lęk u managerów logistyki

Brak audit trail

Klasyczny WMS zostawia ślad: kto, kiedy, na podstawie czego. Agent zostawia wynik. Sam proces decyzyjny dzieje się wewnątrz modelu, którego nie widzisz. Vendor mówi mamy explainability. Sprawdź na demo, co konkretnie pokazuje to wytłumaczenie. W wielu przypadkach to jest jedno zdanie typu priorytet zmieniony ze względu na ryzyko opóźnienia. To nie jest wytłumaczenie. To jest etykieta.

Drift modelu

Agent uczy się dalej po wdrożeniu. To znaczy, że jego zachowanie w styczniu i jego zachowanie w lipcu to mogą być dwa różne zachowania. Bez wyraźnego momentu, w którym ktoś zatwierdził zmianę. Klasyczny system zmieniał się w trakcie release'u. Agent zmienia się w trakcie wtorku. Jeśli nie masz mechanizmu monitorowania driftu - to po prostu nie wiesz, czym zarządzasz.

Eskalacja, kiedy agent się myli

Kto za to odpowiada? Zarząd firmy, który podpisał umowę? Manager logistyki, który zatwierdził rollout? Operator, który nie zdążył kliknąć stop? Dostawca, który napisał w umowie, że system działa best effort?

W większości kontraktów ta odpowiedzialność jest rozmyta. Nienapisana wprost. Nieustalona przed wdrożeniem. A jak przychodzi piątek, czternasta trzydzieści - odpowiada ten, kto akurat trzyma telefon w ręku. W obszarze audytów logistycznych obserwuję, że to właśnie ta próżnia odpowiedzialności jest najczęstszym brakiem w organizacjach, które wdrożyły agentic AI w magazynie bez wcześniejszego ułożenia struktury decyzyjnej.

Co konkretnie zatrzymuje agenta, kiedy ten się myli

Circuit breaker - wyłącznik bezpieczeństwa

Pierwsza rzecz, której musisz wymagać od dostawcy. W elektryce to bezpiecznik, który wybija, kiedy prąd skacze. W agentic AI to mechanizm, który wstrzymuje agenta, zanim decyzja zostanie wykonana, jeśli przekracza ona określony próg.

• Próg wartości decyzji

• Próg liczby zamówień zmienianych jednocześnie

• Próg kosztu operacyjnego, czyli ile to kosztuje firmę, gdyby agent się pomylił

• Lista klientów strategicznych, których agent nie dotyka bez zatwierdzenia

• Okno czasowe, w którym agent musi pytać człowieka - na przykład piątek po południu

To nie jest funkcja, którą vendor da Ci w pudełku. To jest specyfikacja, którą musisz napisać sam, zanim podpiszesz umowę. Jeśli vendor mówi to skomplikujemy później - to jest sygnał, żeby później przesunąć na przed podpisaniem.

Prawdziwy kill switch vs soft stop

Prawdziwy kill switch cofa decyzję i przywraca stan sprzed niej. Soft stop blokuje kolejne decyzje, ale tej, która już została wykonana, nie odwraca. Większość modułów agentic, które dziś widać na demo, ma tylko soft stop. I to jest fundamentalny problem - w piątek po południu nie potrzebujesz blokady. Potrzebujesz cofnięcia.

Pytanie kontrolne dla zarządu: zapytaj dostawcę: pokażcie mi w demo, jak cofnąć decyzję agenta z ostatnich kilkunastu minut i przywrócić stan operacyjny. Jeśli odpowiedzią jest prezentacja, a nie kliknięcie - masz odpowiedź.

Architektura trzech progów

Dobrze zaprojektowany agent ma trzy warstwy:

• Próg twardy - pewnych decyzji agent nie podejmuje nigdy. Koniec. Na przykład zmiana priorytetu klienta strategicznego.

• Próg miękki - agent może zaproponować, ale czeka na człowieka.

• Próg obserwacyjny - agent działa sam, ale loguje pełen ślad decyzyjny do późniejszego audytu.

Większość wdrożeń, które widzę w projektach optymalizacji operacji magazynowych, nie ma żadnej z tych trzech warstw. Agent dostaje listę zadań i pełną autonomię w ich obrębie. To jest jak zatrudnienie nowego kierownika i danie mu od pierwszego dnia uprawnień do podpisywania umów z kluczowymi klientami.

Monitoring driftu i odpowiedzialność za błąd

Wymóg, który warto wpisać w kontrakt: dostawca regularnie dostarcza raport pokazujący, jak rozkład decyzji agenta zmienił się względem punktu wyjściowego. Bez tego raportu wiesz tylko, że coś tam się dzieje w środku, i masz nadzieję, że dzieje się dobrze. Nadzieja nie jest strategią operacyjną.

Zanim podpiszesz umowę, ustal na piśmie, kto ponosi konsekwencje, kiedy agent się pomyli. W kontraktach widzę klauzule typu system działa w oparciu o best effort albo dostawca nie odpowiada za decyzje operacyjne podejmowane przy użyciu systemu. One znaczą jedno: kiedy agent się pomyli, Ty za to odpowiadasz.

Kto jest właścicielem agenta - bo to nie jest pytanie techniczne

Nawet najlepiej zaprojektowany hamulec nie zadziała, jeśli w organizacji nie ma osoby, której zadaniem jest na ten hamulec patrzeć. Kto jest właścicielem agenta po stronie operacji? Imię i nazwisko. Nie zespół. Nie dział. Nie funkcja. Jedna osoba, która rano otwiera panel i wie, że to jej praca.

Pomyśl o tym jak o samochodzie z dziesięcioma kierownicami i bez jednego kierowcy. Każdy może skręcić, ale nikt nie odpowiada za to, dokąd jedzie. Dopóki droga jest prosta, wszystko wygląda dobrze. Problem zaczyna się przy pierwszym zakręcie. W magazynie zakręt to nie jest sytuacja wyjątkowa. To jest standard.

Trzy obowiązki właściciela agenta

• Codziennie patrzy na próbkę decyzji, które agent podjął w ostatniej dobie - te, które przekroczyły próg wartości lub dotyczyły klientów strategicznych.

• Raz w tygodniu robi przegląd driftu - sprawdza, czy rozkład decyzji wygląda tak samo jak miesiąc temu.

• Raz w miesiącu siada z menedżerem logistyki i odpowiada na pytanie: czy gdybyśmy nie mieli agenta, podjęlibyśmy te decyzje tak samo.

To trzecie pytanie jest najważniejsze. Bo ono sprawdza, czy agent dalej decyduje zgodnie z polityką firmy, czy zaczął decydować zgodnie ze swoją własną logiką. Agent nie wie, że w zeszłym kwartale zmieniliście strategię obsługi małych klientów. Agent nie wie, że nowy kontrakt z klientem strategicznym zmienił hierarchię priorytetów. To wie człowiek, który czyta umowy.

Rozdzielenie odpowiedzialności IT i operacji

W projektach doradztwa logistycznego obserwuję wzorzec. Dział IT traktuje agenta jako swój system, bo on stoi na ich infrastrukturze. Operacja traktuje agenta jako narzędzie IT, bo nie rozumie modelu. Powstaje sytuacja, w której agent decyduje o sprawach operacyjnych, ale formalnie należy do działu, który nie odpowiada za operacje.

To trzeba rozdzielić. Dział IT odpowiada za infrastrukturę, dostępność, bezpieczeństwo, integracje. Operacja odpowiada za to, jak agent decyduje - za progi, za listy klientów strategicznych, za zatwierdzanie zmian w polityce decyzyjnej, za audyt decyzji. To musi być wpisane w opisy stanowisk i macierz odpowiedzialności.

Plan na najbliższe miesiące - krok po kroku

Krok 1: Inwentaryzacja decyzji

Usiądź z managerem logistyki i z osobą, która konfiguruje WMS po stronie operacji. Wypiszcie wszystkie typy decyzji, które agent dziś podejmuje sam albo które ma podejmować w nowym module. Priorytety zamówień. Slotting. Replenishment. Przydział zadań do operatorów. Decyzje o nadgodzinach. Każdy typ decyzji w osobnej linii - przy każdej trzy pytania o konsekwencję, o to kto się dowie pierwszy i o możliwość cofnięcia.

Krok 2: Wyznaczenie właściciela

Imię i nazwisko. Konkretna osoba w operacji, nie w IT. Z opisem stanowiska, w którym wprost stoi: odpowiada za zachowanie agenta w WMS. Z czasem na tę pracę wpisanym w kalendarz, a nie dorzuconym do dwudziestu innych obowiązków. Jeśli w ciągu dwóch tygodni nie potrafisz wskazać tej osoby - nie podpisuj aneksu na żaden nowy moduł autonomous orchestration.

Krok 3: Kontrakt

Otwórz umowę z dostawcą WMS i przeczytaj trzy rzeczy: klauzulę odpowiedzialności za błąd agenta, definicję mechanizmu zatrzymania, zobowiązanie do regularnego raportu driftu. Wymóg pilotażu w wąskim zakresie - na przykład tylko na jednym kanale sprzedaży albo na jednej grupie towarowej - zanim podpiszesz pełną licencję. Tym tematem zajmujemy się w obszarze wdrożeń WMS, gdzie kontrakt jest często ważniejszy niż sama technologia.

Krok 4: Architektura progów

Usiądźcie z controllingiem i policzcie. Powyżej jakiej wartości zamówienia agent nie decyduje nigdy. Powyżej jakiej liczby linii zmienionych jednocześnie agent pyta. Które grupy klientów są poza zasięgiem autonomii. Które okna czasowe wymagają eskalacji do człowieka. To zadanie wymaga jednego dnia pracy ze strony operacji i jednego dnia ze strony controllingu - w obszarze KPI logistycznych pokazujemy, jak takie progi powiązać z faktycznym kosztem błędu.

Krok 5: Rytm operacyjny

Codzienna próbka decyzji powyżej progu. Tygodniowy raport driftu. Miesięczna ocena spójności z polityką firmy. Kwartalna rozmowa z dostawcą o aktualizacjach modelu. To nie są rzeczy do delegowania na asystenta. To jest praca właściciela agenta, ujęta w stałym kalendarzu.

Regulacja, której nie można zignorować

EU AI Act wchodzi w życie i w niektórych obszarach obejmuje decyzje wpływające na zatrudnienie i bezpieczeństwo. Decyzja agenta o nadgodzinach dla trzydziestu osób w sobotę to dokładnie taka decyzja. Nie czekaj, aż prawnicy przyjdą z pytaniami. Przygotuj dokumentację już dziś: audit trail, polityki decyzyjne, ścieżki eskalacji, raporty driftu. Jeśli regulator zapyta, masz odpowiedź. Jeśli nie zapyta, masz porządek u siebie. W obu przypadkach wygrywasz.

Narzędzia i wsparcie

Jeśli budujesz dziś architekturę decyzji w swoim magazynie, warto spojrzeć na narzędzia, które wspierają decyzje operacyjne bez wycinania człowieka ze środka. Pronostico służy do prognozowania popytu z udziałem człowieka w pętli decyzyjnej. Modeler 3D pozwala testować scenariusze operacyjne, zanim się je puści w produkcję. To są narzędzia, które wspierają, a nie zastępują decyzję człowieka.

Cały odcinek podcastu, w którym rozkładam ten temat na czynniki pierwsze, znajdziesz na kanale YouTube Piotra Susza. Bieżące komentarze i dyskusje publikuję też na profilu LinkedIn.

Podsumowanie

Agentic AI w magazynie ma sens, ale tylko wtedy, kiedy wiesz, co go zatrzymuje, gdy się myli. Pytanie nie brzmi czy puścić agenta. Pytanie brzmi kto pierwszy się dowie, że agent się pomylił.

• Klasyczny WMS sugerował - agentic AI stawia organizację przed faktem dokonanym. Różnica między sugeruje a zrobił to różnica między asystentem a współzarządzającym, którego nie zatrudniałeś.

• Trzy obszary ryzyka: brak audit trail, drift modelu, rozmyta eskalacja odpowiedzialności. Każdy z nich wymaga konkretnej odpowiedzi przed podpisaniem umowy.

• Wymagaj od dostawcy: circuit breaker, prawdziwy kill switch (nie soft stop), trzy warstwy progów, raport driftu, jasna klauzula odpowiedzialności w kontrakcie.

• Wyznacz właściciela agenta - imię i nazwisko, w operacji, nie w IT. Z trzema obowiązkami: dzienna próbka, tygodniowy drift, miesięczna ocena spójności z polityką firmy.

• Plan na kwartał: inwentaryzacja, właściciel, kontrakt, progi, rytm. W tej kolejności.

• EU AI Act - przygotuj dokumentację zanim regulator zapyta.

Agent w magazynie działa szybciej, niż Twoja organizacja zdąży się dogadać, kto go pilnuje. I to jest ta różnica, która w piątek po południu decyduje, czy klient strategiczny dzwoni w poniedziałek z pytaniem, czy z pretensją. Jeśli temat agentic AI w magazynie wymaga rozmowy w kontekście Twojej operacji - skontaktuj się z nami.