Autonómni AI agenti vs. agenti s ľudským dohľadom (human-in-the-loop)

Rozhodnutie medzi plne autonómnym AI agentom a human-in-the-loop AI agentom nie je len technická otázka – je to otázka toho, koľko rizika je firma ochotná preniesť na systém, ktorý sa učí a niekedy sa mýli. Kým autonómny agent koná bez čakania na potvrdenie, model s ľudským dohľadom zaraďuje do procesu kontrolný bod, kde človek rozhodnutie potvrdí, upraví alebo zamietne. Rozdiel medzi oboma prístupmi určuje nielen rýchlosť nasadenia, ale aj to, čo sa stane, keď agent urobí chybu.

Autonómny AI agent dostane cieľ, má prístup k nástrojom a dátam a sám rozhoduje o krokoch potrebných na jeho splnenie – bez toho, aby pred každou akciou čakal na súhlas človeka. To môže byť napríklad agent, ktorý sám vyhľadá informácie, vyplní formulár, odošle e-mail alebo upraví záznam v databáze.

Human-in-the-loop AI agent pracuje inak: pred vykonaním určitej triedy akcií (napríklad pred odoslaním platby, zmenou zmluvných podmienok alebo verejnou komunikáciou) sa proces zastaví a čaká na schválenie človeka. Agent teda navrhuje, človek rozhoduje. V praxi existuje aj medzistupeň – agent koná autonómne pri nízkorizikových úlohách a prepína na ľudský dohľad len pri vybraných, citlivejších krokoch.

Prečo na tomto rozdiele záleží

Voľba modelu ovplyvňuje nielen bezpečnosť, ale aj to, ako sa dá systém auditovať, ako rýchlo sa dá odhaliť chyba a kto za výsledok zodpovedá. Firmy, ktoré nasadzujú agentov bez jasného rozhodnutia o miere autonómie, si tento problém často uvedomia až vo chvíli, keď sa niečo pokazí.

Plná autonómia je lákavá, pretože eliminuje čakanie na človeka a proces zrýchľuje. Riziko sa však koncentruje presne tam, kde je cena chyby najvyššia.

• Finančné transakcie. Agent, ktorý samostatne schvaľuje platby alebo mení limity, môže preniesť chybu z jedného zlého vstupu do reálnej straty peňazí skôr, než si to niekto všimne.
• Komunikácia navonok. Autonómne odoslaný e-mail alebo odpoveď klientovi sa nedá vziať späť – ak agent zle interpretuje kontext, chyba je verejná.
• Zmeny v citlivých dátach. Úprava záznamov v CRM, ERP alebo účtovnom systéme bez kontroly môže spôsobiť škody, ktoré sa prejavia až s odstupom, keď je náprava zložitejšia.
• Rozhodnutia s právnym alebo zmluvným dopadom. Zmena podmienok, schválenie objednávky nad rámec pravidiel alebo interpretácia požiadaviek GDPR si vyžadujú kontext, ktorý agent nemusí mať celý.

Human-in-the-loop nemusí znamenať, že človek schvaľuje úplne všetko – to by poprelo zmysel automatizácie. V praxi sa najčastejšie kombinujú tri mechanizmy:

1. Schválenie pred akciou – agent pripraví návrh (platbu, e-mail, zmenu záznamu) a človek ho potvrdí alebo upraví skôr, než sa vykoná.
2. Prahové hodnoty pre eskaláciu – agent koná autonómne do určitej hranice (napríklad sumy, rozsahu zmeny alebo miery neistoty modelu) a nad ňou automaticky posúva rozhodnutie človeku.
3. Spätná kontrola (review po akcii) – agent koná samostatne, no výstupy sa pravidelne kontrolujú a chyby sa vracajú do procesu ako spätná väzba na úpravu pravidiel.

Voľba medzi týmito mechanizmami závisí od typu úlohy. Pre kategorizáciu e-mailov alebo interné vyhľadávanie v dokumentoch je zvyčajne postačujúca spätná kontrola. Pre platby, zmluvy alebo komunikáciu s verejnosťou sa oplatí schválenie pred akciou.

Graf ukazuje len všeobecný princíp: čím vyššia je cena prípadnej chyby, tým bližšie by mal byť kontrolný bod k okamihu vykonania akcie, nie po ňom.

Rozhodnutie by nemalo byť ideologické („chceme čo najviac automatizácie“), ale odvodené od dôsledkov chyby. Pri návrhu nasadenia sa oplatí položiť si tri otázky:

• Dá sa dôsledok agentovej akcie vrátiť späť, alebo je nezvratný (odoslaná platba, verejná odpoveď)?
• Aké veľké množstvo prípadov agent spracuje bez toho, aby ich niekto videl – teda ako rýchlo sa môže chyba znásobiť?
• Existuje regulačná alebo zmluvná povinnosť mať rozhodnutie zdokumentované a schválené človekom, napríklad pri spracovaní osobných údajov? Tejto téme sa venuje článok o AI agentoch a GDPR, kde nájdete konkrétnejšie zásady pre prácu s osobnými údajmi.

Rozdiel medzi autonómnym agentom a agentom typu RPA, ktorý vykonáva presne definované kroky bez vlastného rozhodovania, býva ďalším bodom nejasnosti pri výbere riešenia – podrobnejšie ho rozoberá článok AI agent vs. RPA: aký je rozdiel a kedy použiť čo.

Miera autonómie by mala byť súčasťou návrhu architektúry, nie dodatočnou úpravou po nasadení. To znamená vopred definovať, ktoré akcie agent smie vykonať samostatne, ktoré vyžadujú schválenie, a ako sa loguje každé rozhodnutie – vrátane dôvodu, prečo sa agent rozhodol tak, ako sa rozhodol. Firmy, ktoré uvažujú o nasadení AI agenta, nájdu prehľad možných riešení a prístupov na stránke vývoja AI agentov a automatizácie.

Keďže správne nastavenie kontrolných bodov závisí od konkrétnych procesov, rizikového profilu a regulačného prostredia firmy, nedá sa zovšeobecniť jedným pravidlom. Ak zvažujete, kde v procese potrebujete ľudský dohľad a kde už agent môže konať samostatne, môžete si dohodnúť nezáväznú konzultáciu.

Autonómni AI agenti a agenti s ľudským dohľadom nie sú dva vzájomne vylučujúce sa modely, ale body na jednej škále. Skutočná otázka neznie „autonómia, alebo dohľad“, ale „kde presne v procese má stáť kontrolný bod tak, aby chyba nestihla narobiť škodu skôr, než ju niekto zachytí“. Čím vyššia je cena chyby, tým bližšie k okamihu vykonania akcie by mal byť človek zapojený – a čím je úloha opakovateľnejšia a nízkoriziková, tým viac priestoru môže dostať samotný agent.