Agentní umělá inteligence posouvá logistiku od podpory rozhodování k jeho částečnému provádění. Software může předvídat nedostatek zásob, přesměrovat zásilky, upravit dopravní kapacitu nebo změnit pořadí skladových operací.
V případě uzavřené silnice či výpadku dopravce je taková rychlost významnou výhodou. Současně ale vzniká nová provozní povinnost: firma musí vědět, kdo odpovídá za výsledek, kdo může systém zastavit a zda lidé dokážou bez něj pokračovat.
Rozhodnutí je třeba rozdělit podle dopadu
Jednotný režim pro všechny výstupy agenta nedává smysl. Automatické přeřazení položek s rychlou obrátkou má jiné důsledky než zrušení rezervace u dopravce nebo změna přidělení pracovníků. Organizace by proto měla každému typu akce přiřadit stupeň autonomie.
Nízkorizikové úkoly mohou probíhat bez schválení, například doplnění zásoby v předem stanoveném rozsahu. U dalších akcí stačí následná kontrola plánovače. Významné náklady, změna zákaznického termínu, neověřený dopravce, bezpečnost nebo pracovní úkoly by měly vyžadovat konkrétního schvalovatele. Pravidla musí obsahovat čísla a podmínky, nikoli pouze vágní pojmy jako „velká odchylka“.
Formální tlačítko nestačí
Požadavky EU na lidský dohled zdůrazňují porozumění omezením systému, schopnost zpochybnit jeho výstup a možnost zásahu. Pokud jeden plánovač dostává stovky doporučení za směnu, schválení se snadno změní v automatický úkon. Kontrolní rozhraní proto musí ukázat důvod návrhu, očekávaný přínos i dostupnou alternativu.
Stejně důležitý je vyzkoušený návrat k ručnímu provozu. Zvláštní pozornost vyžadují systémy, které podle chování nebo výkonu rozdělují práci či hodnotí zaměstnance; ty mohou spadat do vysoce rizikové oblasti. Ochrana osobních údajů a pracovní právo platí bez ohledu na posuny v termínech AI Actu.
Praktický audit se může zaměřit na vlastníka rozhodnutí, povolenou autonomii, počet kontrol za směnu, pravomoc k vypnutí a dopad na zaměstnance. Nejasné odpovědi jsou signálem, že technologie předběhla řízení.
