Agentowa AI pozwala platformom logistycznym nie tylko analizować dane, lecz także wykonywać działania. System może przekierować transport, zmienić wykorzystanie mocy przewozowych, przewidzieć brak zapasu lub przeorganizować pracę magazynu.
Takie możliwości pomagają podczas korków, złej pogody i awarii przewoźników, ale zwiększają znaczenie kontroli. Każdy typ decyzji powinien mieć właściciela oraz ustalony poziom autonomii. Proste uzupełnienie zapasu może odbywać się automatycznie, natomiast kosztowna zmiana trasy, modyfikacja terminu klienta, wybór niezatwierdzonego przewoźnika lub decyzja dotycząca pracowników powinny wymagać akceptacji.
Unijne przepisy dotyczące AI wskazują, że nadzorujący muszą rozumieć ograniczenia systemu, umieć odrzucić jego wynik i zatrzymać działanie. Kontrola staje się pozorna, gdy planista potwierdza setki rekomendacji w ciągu jednej zmiany. Skuteczny punkt kontrolny pokazuje przyczynę decyzji, przewidywany efekt i możliwe alternatywy.
Szczególną ostrożność trzeba zachować przy systemach rozdzielających zadania lub oceniających pracowników na podstawie ich zachowania czy wydajności. Mogą one podlegać zasadom dla systemów wysokiego ryzyka, a prawo pracy i ochrona danych obowiązują niezależnie od kalendarza wdrażania regulacji.
Przed uruchomieniem automatyzacji na większą skalę operator powinien wskazać właściciela decyzji, zakres dozwolonego działania, obciążenie kontrolą, osobę uprawnioną do wyłączenia oraz procedurę ręcznego prowadzenia procesu. Brak jasnych odpowiedzi oznacza, że model zarządzania nie nadąża za technologią.
