Výber dodávateľa AI agenta je iné rozhodnutie ako výber dodávateľa bežnej webovej aplikácie – agent pracuje s citlivými dátami, rozhoduje sa autonómne a jeho chyby sa prejavia priamo v komunikácii so zákazníkmi alebo v internej prevádzke. Firmy preto potrebujú konkrétny checklist otázok, nie len dojem z prezentácie. V tomto článku nájdete zoznam otázok, ktoré si má firma položiť pred podpisom zmluvy – od dát a integrácií cez bezpečnosť až po to, čo sa deje po nasadení.
Prečo je výber dodávateľa AI agenta iné ako pri bežnom softvérovom projekte
Klasická webová aplikácia alebo firemný systém má relatívne predvídateľné správanie – rovnaký vstup vedie k rovnakému výstupu. AI agent pracuje inak: kombinuje jazykový model, firemné dáta a logiku rozhodovania, a jeho výstup sa môže líšiť aj pri podobných vstupoch. To kladie na dodávateľa iné nároky – musí vedieť, ako obmedziť halucinácie, ako otestovať agenta pred nasadením a ako nastaviť hranice jeho autonómie.
Pri výbere dodávateľa AI agenta preto nestačí porovnať referencie a portfólio. Treba sa pýtať na spôsob práce s dátami, na architektúru riešenia a na to, čo sa stane, keď agent narazí na situáciu, ktorú nepozná. Skôr než firma osloví dodávateľa, oplatí sa aj interne ujasniť, ktorý proces má agent riešiť a prečo – prehľad, odkiaľ začať s automatizáciou firemných procesov a čo prioritizovať, pomôže rozsah zúžiť ešte pred prvým stretnutím. Dobrým doplnkovým zdrojom je aj všeobecný checklist na výber softvérového dodávateľa, ktorý pokrýva otázky spoločné pre akýkoľvek IT projekt – zmluvné podmienky, spôsob komunikácie, prácu s dokumentáciou.
Otázky o dátach a integráciách, ktoré si musíte položiť pred podpisom zmluvy
Väčšina problémov s AI agentmi po nasadení nevzniká z chyby modelu, ale z nesprávne pripravených dát alebo nedotiahnutej integrácie. Preto by mala byť táto oblasť prvá na zozname otázok pri výbere dodávateľa AI agenta.
Odkiaľ agent získava dáta
- Bude agent odpovedať výlučne na základe firemnej dokumentácie, alebo aj z verejných zdrojov modelu?
- Ako dodávateľ zabezpečí, že agent nebude „vymýšľať” odpovede tam, kde firemné dáta chýbajú?
- Kto a ako aktualizuje zdrojové dáta, keď sa zmenia produkty, ceny alebo interné postupy?
Ak plánujete agenta, ktorý má odpovedať z internej dokumentácie, oplatí sa pozrieť, ako funguje prístup cez RAG a napojenie na firemnú dokumentáciu – dodávateľ by mal vedieť vysvetliť, prečo volí práve tento prístup a nie iný.
Ako prebieha integrácia s existujúcimi systémami
- Do ktorých systémov sa má agent napojiť (CRM, ERP, e-shop, interné nástroje) a akým spôsobom – cez API, webhooky, alebo dávkový export?
- Kto nesie zodpovednosť, ak integrácia zlyhá alebo tretia strana zmení svoje API?
- Ako sa bude agent správať, ak jeden zo systémov, s ktorými pracuje, dočasne nefunguje?
Bezpečnosť, GDPR a prevádzková zodpovednosť
AI agent, ktorý pracuje s osobnými údajmi zákazníkov alebo zamestnancov, podlieha rovnakým pravidlám ako akýkoľvek iný systém spracúvajúci osobné údaje. Dodávateľ by mal vedieť jasne odpovedať na otázky spojené s bezpečnosťou a súladom s GDPR, nie ich odbiť všeobecným tvrdením „sme v súlade s legislatívou”.
Konkrétne sa oplatí pýtať:
- Kde sa dáta spracúvajú a ukladajú a kto k nim má prístup?
- Ako dlho sa uchovávajú logy konverzácií a dá sa z nich niečo vymazať na žiadosť dotknutej osoby?
- Má riešenie mechanizmus na eskaláciu k človeku, keď agent narazí na citlivú alebo rizikovú požiadavku?
Ak sa téma týka priamo vášho projektu, podrobnejší prehľad otázok nájdete v článku AI agenti a GDPR: na čo si dať pozor pri spracovaní osobných údajov. Bezpečnostné otázky sa oplatí konzultovať aj so špecialistom na kybernetickú bezpečnosť, najmä ak agent pristupuje k viacerým interným systémom naraz.
Dodávateľa si nevyberáte na jeden projekt, ale na obdobie prevádzky – agent sa bude meniť spolu s firmou.
Ako overiť skúsenosti a spôsob práce dodávateľa
Referencie a portfólio sú dobrým východiskovým bodom, ale pri AI agentoch nestačia – veľa firiem dnes ponúka „AI riešenia” postavené na jednoduchom prepojení hotového nástroja bez hlbšej úpravy pre konkrétny prípad použitia. Pri hodnotení dodávateľa sa preto pýtajte na proces, nie len na výsledok.
| Oblasť | Otázka pre dodávateľa |
|---|---|
| Testovanie | Ako overujete, že agent odpovedá správne pred nasadením do ostrej prevádzky? |
| Chybové stavy | Čo sa stane, keď si agent nie je istý odpoveďou? |
| Škálovateľnosť | Ako riešenie zvládne nárast objemu požiadaviek alebo rozšírenie na ďalšie prípady použitia? |
| Vlastníctvo | Kto vlastní kód a konfiguráciu promptov po ukončení spolupráce? |
| Tímové zloženie | Kto konkrétne bude na projekte pracovať a aké majú skúsenosti s podobnými nasadeniami? |
Užitočné je tiež porovnať, či firma potrebuje jedného agenta s jasne ohraničenou úlohou, alebo komplexnejší systém – v takom prípade sa oplatí prečítať si o multi-agentových systémoch a o tom, kedy má zmysel viac AI agentov namiesto jedného. Dodávateľ, ktorý vie vysvetliť rozdiel a odporučí jednoduchšie riešenie, ak stačí, je spravidla dôveryhodnejší než ten, kto automaticky navrhuje najkomplexnejšiu možnú architektúru.
Čo sa deje po nasadení: údržba, monitoring a ďalší rozvoj
Nasadenie agenta nie je koncom projektu, ale začiatkom prevádzkovej fázy. Firmy, ktoré si túto otázku nepoložia pred podpisom zmluvy, sa často po čase dostanú do situácie, že agent „drift-uje” – odpovedá čoraz menej presne, pretože sa nemení spolu s firmou.
Pýtajte sa:
- Kto sleduje kvalitu odpovedí agenta po spustení a ako často?
- Aké metriky sa vyhodnocujú – napríklad podiel eskalovaných konverzácií k človeku, alebo podiel otázok, na ktoré agent nevedel odpovedať?
- Ako prebieha aktualizácia agenta, keď sa zmenia firemné procesy alebo pribudnú nové zdroje dát?
Namiesto jedného čísla o „miere rizika” je užitočnejšie mať jasný postup, podľa ktorého sa dodávateľ dá overiť krok za krokom:
| Krok overenia | Čo konkrétne skontrolovať | Prečo to znižuje riziko |
|---|---|---|
| Referencie | Kontaktovať aspoň jedného predchádzajúceho klienta priamo, nie len čítať case study | Overí, ako dodávateľ reálne komunikuje a rieši problémy |
| Spôsob testovania | Vyžiadať si popis testovacieho procesu pred nasadením do ostrej prevádzky | Ukáže, či dodávateľ testuje systematicky, alebo len „to vyskúša” |
| Bezpečnostný audit | Overiť, kde sa dáta ukladajú a kto má k nim prístup | Znižuje riziko úniku dát alebo nesúladu s GDPR |
| Plán po nasadení | Vyžiadať si konkrétny popis monitoringu a údržby po spustení | Predchádza tomu, že agent bude po čase odpovedať nepresne |
Práve porovnanie stavu „pred” a „po” je dôvod, prečo sa oplatí nastaviť merateľné ukazovatele hneď na začiatku projektu, nie až keď sa objaví problém. Metodike merania sa venuje článok ako merať ROI nasadenia AI agenta vo firme – ukazuje, ktoré metriky sledovať a ako si stanoviť východiskový stav pred spustením.
Checklist: zhrnutie otázok pred výberom dodávateľa
Na záver zhrnutie otázok, ktoré by mala mať firma pripravené na prvé stretnutie s potenciálnym dodávateľom AI agenta:
- Z akých dát bude agent čerpať a ako sa zabráni „vymýšľaniu” odpovedí?
- Ako presne prebehne integrácia s existujúcimi systémami a kto nesie zodpovednosť za jej fungovanie?
- Kde sa spracúvajú a uchovávajú dáta a je riešenie v súlade s GDPR?
- Existuje mechanizmus eskalácie k človeku pri citlivých alebo neistých požiadavkách?
- Ako dodávateľ testuje agenta pred nasadením a aké má skúsenosti s podobnými projektmi?
- Kto vlastní výsledný kód a konfiguráciu promptov po skončení spolupráce?
- Kto a ako sleduje kvalitu agenta po spustení a ako prebieha jeho ďalší rozvoj?
Ak si na tieto otázky viete od dodávateľa vypýtať konkrétne, overiteľné odpovede – nielen všeobecné uistenia – máte solídny základ na rozhodnutie. Ak zvažujete vývoj AI agenta a chcete si prejsť konkrétne otázky pre váš prípad použitia, pozrite si riešenia v oblasti AI a automatizácie alebo si dohodnite nezáväznú konzultáciu, kde môžete prebrať rozsah a požiadavky vášho projektu.