Výběr dodavatele AI agenta je jiné rozhodnutí než výběr dodavatele běžné webové aplikace – agent pracuje s citlivými daty, rozhoduje se autonomně a jeho chyby se projeví přímo v komunikaci se zákazníky nebo v interním provozu. Firmy proto potřebují konkrétní checklist otázek, ne jen dojem z prezentace. V tomto článku najdete seznam otázek, které by si měla firma položit před podpisem smlouvy – od dat a integrací přes bezpečnost až po to, co se děje po nasazení.
Proč je výběr dodavatele AI agenta jiný než u běžného softwarového projektu
Klasická webová aplikace nebo firemní systém má relativně předvídatelné chování – stejný vstup vede ke stejnému výstupu. AI agent pracuje jinak: kombinuje jazykový model, firemní data a logiku rozhodování, a jeho výstup se může lišit i u podobných vstupů. To klade na dodavatele jiné nároky – musí vědět, jak omezit halucinace, jak agenta otestovat před nasazením a jak nastavit hranice jeho autonomie.
Při výběru dodavatele AI agenta proto nestačí porovnat reference a portfolio. Je třeba se ptát na způsob práce s daty, na architekturu řešení a na to, co se stane, když agent narazí na situaci, kterou nezná. Než firma osloví dodavatele, vyplatí se i interně ujasnit, který proces má agent řešit a proč – přehled odkud začít s automatizací firemních procesů a co prioritizovat pomůže rozsah zúžit ještě před prvním setkáním. Dobrým doplňkovým zdrojem je i obecný checklist pro výběr softwarového dodavatele, který pokrývá otázky společné pro jakýkoli IT projekt – smluvní podmínky, způsob komunikace, práci s dokumentací.
Otázky o datech a integracích, které si musíte položit před podpisem smlouvy
Většina problémů s AI agenty po nasazení nevzniká z chyby modelu, ale z nesprávně připravených dat nebo nedotažené integrace. Proto by tato oblast měla být první na seznamu otázek při výběru dodavatele AI agenta.
Odkud agent získává data
- Bude agent odpovídat výhradně na základě firemní dokumentace, nebo i z veřejných zdrojů modelu?
- Jak dodavatel zajistí, že agent nebude „vymýšlet“ odpovědi tam, kde firemní data chybí?
- Kdo a jak aktualizuje zdrojová data, když se změní produkty, ceny nebo interní postupy?
Pokud plánujete agenta, který má odpovídat z interní dokumentace, vyplatí se podívat, jak funguje přístup přes RAG a napojení na firemní dokumentaci – dodavatel by měl umět vysvětlit, proč volí právě tento přístup a ne jiný.
Jak probíhá integrace se stávajícími systémy
- Na které systémy se má agent napojit (CRM, ERP, e-shop, interní nástroje) a jakým způsobem – přes API, webhooky, nebo dávkový export?
- Kdo nese odpovědnost, pokud integrace selže nebo třetí strana změní své API?
- Jak se bude agent chovat, pokud jeden ze systémů, se kterými pracuje, dočasně nefunguje?
Bezpečnost, GDPR a provozní odpovědnost
AI agent, který pracuje s osobními údaji zákazníků nebo zaměstnanců, podléhá stejným pravidlům jako jakýkoli jiný systém zpracovávající osobní údaje. Dodavatel by měl umět jasně odpovědět na otázky spojené s bezpečností a souladem s GDPR, ne je odbýt obecným tvrzením „jsme v souladu s legislativou“.
Konkrétně se vyplatí ptát:
- Kde se data zpracovávají a ukládají a kdo k nim má přístup?
- Jak dlouho se uchovávají logy konverzací a dá se z nich něco vymazat na žádost dotčené osoby?
- Má řešení mechanismus pro eskalaci k člověku, když agent narazí na citlivý nebo rizikový požadavek?
Pokud se téma týká přímo vašeho projektu, podrobnější přehled otázek najdete v článku AI agenti a GDPR: na co si dát pozor při zpracování osobních údajů. Bezpečnostní otázky se vyplatí konzultovat i se specialistou na kybernetickou bezpečnost, zejména pokud agent přistupuje k více interním systémům najednou.
Dodavatele si nevybíráte na jeden projekt, ale na období provozu – agent se bude měnit spolu s firmou.
Jak ověřit zkušenosti a způsob práce dodavatele
Reference a portfolio jsou dobrým výchozím bodem, ale u AI agentů nestačí – řada firem dnes nabízí „AI řešení“ postavená na jednoduchém propojení hotového nástroje bez hlubší úpravy pro konkrétní případ použití. Při hodnocení dodavatele se proto ptejte na proces, ne jen na výsledek.
| Oblast | Otázka pro dodavatele |
|---|---|
| Testování | Jak ověřujete, že agent odpovídá správně před nasazením do ostrého provozu? |
| Chybové stavy | Co se stane, když si agent není jistý odpovědí? |
| Škálovatelnost | Jak řešení zvládne nárůst objemu požadavků nebo rozšíření na další případy použití? |
| Vlastnictví | Kdo vlastní kód a konfiguraci promptů po ukončení spolupráce? |
| Složení týmu | Kdo konkrétně bude na projektu pracovat a jaké má zkušenosti s podobnými nasazeními? |
Užitečné je také porovnat, zda firma potřebuje jednoho agenta s jasně ohraničeným úkolem, nebo komplexnější systém – v takovém případě se vyplatí přečíst si o multiagentových systémech a o tom, kdy má smysl více AI agentů místo jednoho. Dodavatel, který umí vysvětlit rozdíl a doporučí jednodušší řešení, pokud stačí, je zpravidla důvěryhodnější než ten, kdo automaticky navrhuje nejkomplexnější možnou architekturu.
Co se děje po nasazení: údržba, monitoring a další rozvoj
Nasazení agenta není koncem projektu, ale začátkem provozní fáze. Firmy, které si tuto otázku nepoloží před podpisem smlouvy, se často po čase dostanou do situace, že agent „drift-uje“ – odpovídá čím dál méně přesně, protože se nemění spolu s firmou.
Ptejte se:
- Kdo sleduje kvalitu odpovědí agenta po spuštění a jak často?
- Jaké metriky se vyhodnocují – například podíl eskalovaných konverzací k člověku, nebo podíl otázek, na které agent neuměl odpovědět?
- Jak probíhá aktualizace agenta, když se změní firemní procesy nebo přibudou nové zdroje dat?
Místo jednoho čísla o „míře rizika“ je užitečnější mít jasný postup, podle kterého se dodavatel dá ověřit krok za krokem:
| Krok ověření | Co konkrétně zkontrolovat | Proč to snižuje riziko |
|---|---|---|
| Reference | Kontaktovat alespoň jednoho předchozího klienta přímo, ne jen číst case study | Ověří, jak dodavatel reálně komunikuje a řeší problémy |
| Způsob testování | Vyžádat si popis testovacího procesu před nasazením do ostrého provozu | Ukáže, zda dodavatel testuje systematicky, nebo jen „to zkusí“ |
| Bezpečnostní audit | Ověřit, kde se data ukládají a kdo k nim má přístup | Snižuje riziko úniku dat nebo nesouladu s GDPR |
| Plán po nasazení | Vyžádat si konkrétní popis monitoringu a údržby po spuštění | Předchází tomu, že agent bude po čase odpovídat nepřesně |
Právě porovnání stavu „před“ a „po“ je důvod, proč se vyplatí nastavit měřitelné ukazatele hned na začátku projektu, ne až když se objeví problém. Metodice měření se věnuje článek jak měřit ROI nasazení AI agenta ve firmě – ukazuje, které metriky sledovat a jak si stanovit výchozí stav před spuštěním.
Checklist: shrnutí otázek před výběrem dodavatele
Na závěr shrnutí otázek, které by měla mít firma připravené na první setkání s potenciálním dodavatelem AI agenta:
- Z jakých dat bude agent čerpat a jak se zabrání „vymýšlení“ odpovědí?
- Jak přesně proběhne integrace se stávajícími systémy a kdo nese odpovědnost za její fungování?
- Kde se zpracovávají a uchovávají data a je řešení v souladu s GDPR?
- Existuje mechanismus eskalace k člověku u citlivých nebo nejistých požadavků?
- Jak dodavatel testuje agenta před nasazením a jaké má zkušenosti s podobnými projekty?
- Kdo vlastní výsledný kód a konfiguraci promptů po skončení spolupráce?
- Kdo a jak sleduje kvalitu agenta po spuštění a jak probíhá jeho další rozvoj?
Pokud si na tyto otázky umíte od dodavatele vyžádat konkrétní, ověřitelné odpovědi – ne jen obecná ujištění – máte solidní základ pro rozhodnutí. Pokud zvažujete vývoj AI agenta a chcete si projít konkrétní otázky pro váš případ použití, podívejte se na řešení v oblasti AI a automatizace nebo si domluvte nezávaznou konzultaci, kde můžete probrat rozsah a požadavky vašeho projektu.