Proč je potřeba AI assurance

Naši klienti se nás často ptají, jak pustit AI do firmy tak, aby to bylo bezpečné, kontrolované a zároveň to mělo měřitelný efekt. Ptají se na to banky, výrobní firmy i úřady. A situace je skoro všude podobná: vedení chce AI nasadit, zaměstnanci ji už dávno používají a nikdo přesně neví, jaká data kam tečou, kdo za co odpovídá a co se stane, až se zeptá auditor nebo regulátor.

Řada firem AI nejen používá, ale dokonce si „navibecodovala" různé interní nástroje a aplikace. Do tří měsíců většina z nich přestane fungovat a řada z těch zbývajících představuje reálné riziko ztráty dat nebo kybernetického útoku.

Jan Janča, zakladatel Cognito Works

Nejde o pocit, čísla mluví stejně. Podle studie MIT (projekt NANDA, 2025) nepřinese 95 % firemních generativních AI pilotů žádný měřitelný přínos a Gartner očekává, že do konce roku 2026 skončí 60 % AI projektů, které nestojí na připravených datech. Bezpečnost není o nic veselejší: dlouhodobá analýza Veracode nad více než stovkou jazykových modelů ukazuje, že zhruba 45 % vygenerovaného kódu neprojde základními bezpečnostními testy. A podle reportu IBM Cost of a Data Breach 2025 figurovala neřízená shadow AI u pětiny bezpečnostních incidentů a prodražila je v průměru o 670 tisíc dolarů.

Mezi „AI zakážeme" a „AI necháme běžet živelně" přitom existuje třetí cesta: nasadit ji pod kontrolou. Vyžaduje to několik rozhodnutí, která je lepší udělat na začátku než po prvním průšvihu.

Sepsali jsme proto devět tezí, podle kterých postupujeme u sebe i u klientů. Nejsou to poučky z konference. Je to praxe z nasazení AI ve vlastní firmě i u klientů v regulovaných oborech.

1. Governance není brzda, je předpoklad škálování

Nejčastější námitka zní: pravidla nás zpomalí. Praxe ukazuje opak. Firmy bez governance zvládnou jeden dva piloty a pak se zaseknou, protože každé další nasazení znovu otevírá tytéž otázky: čí jsou data, kdo to schválil, co když se to pokazí.

Governance tyhle otázky zodpoví jednou a pro všechny další případy. Nasazení třetího, pátého a desátého AI nástroje pak není nové kolo vyjednávání, ale rutina s jasnými pravidly. Kontrola není opak rychlosti. Je to podmínka, aby rychlost vydržela déle než jeden pilot.

2. Shadow AI vzniká tam, kde chybí pravidla

Zaměstnanci nečekají na směrnici. Když jim AI ušetří hodinu práce denně, zapnou si ji sami: na soukromém účtu, mimo IT, bez přehledu o tom, jaká data do ní vkládají. To není selhání lidí. To je selhání firmy, která jim nedala řízenou alternativu.

Zákaz to neřeší, jen zatlačí používání hlouběji do stínu. Jediná funkční odpověď je nabídnout schválené nástroje, jasně říct, co se smí a co ne, a vést registr toho, co ve firmě běží. Shadow AI nezmizí příkazem. Zmizí, když přestane být nejjednodušší cestou.

3. Odpovědnost za rozhodnutí AI nese vždy člověk

AI doporučí úvěr, vytřídí uchazeče, odpoví zákazníkovi. Ale když se rozhodnutí ukáže jako špatné, neponese následky model. Ponese je firma a konkrétní člověk v ní. Věta „to rozhodla AI" není obhajoba, je to přiznání, že nikdo nerozhodoval.

Proto musí být u každého nasazení AI předem jasné, kdo je vlastníkem rozhodnutí: kdo výstupy kontroluje, kdo je smí přebít a kdo odpovídá za důsledky. Kde tohle není určeno, není AI nástroj, ale alibi. Stejný princip držíme ve vývoji: AI generuje, člověk rozhoduje a ručí.

4. Auditovatelnost od prvního dne

Otázka „proč to AI rozhodla takhle" jednou přijde. Od interního auditu, od zákazníka, od regulátora. Firma, která si logování a dokumentaci nechala na později, na ni nemá odpověď a zpětně ji už nedoplní. Historie, která se nezaznamenala, neexistuje.

Audit trail proto patří do návrhu, ne do dodatku: co model dostal na vstupu, co vrátil, kdo výstup schválil a s jakou verzí se pracovalo. Není to byrokracie navíc. Je to rozdíl mezi „myslíme si" a „doložíme".

5. Data neopouštějí kontrolovaný perimetr bez rozhodnutí

Každý dotaz do veřejného AI nástroje je potenciální export firemních dat. Osobní údaje, smlouvy, zdrojový kód, obchodní čísla: jakmile jednou odejdou, nejde je vzít zpět. Většina úniků přitom nevznikne útokem, ale dobře míněným dotazem zaměstnance, který chtěl jen rychle pomoct.

Neznamená to, že data nesmí ven nikdy. Znamená to, že o tom někdo rozhodl: která kategorie dat smí do kterého nástroje, za jakých smluvních podmínek a s jakým zabezpečením. Rozhodnutí může znít i „ano, smí". Ale musí to být rozhodnutí, ne náhoda.

6. Vendor AI je taky vaše riziko

Nakoupená AI není přenesená odpovědnost. Když CRM dodavatele začne posílat data vašich zákazníků do modelu třetí strany, je to váš problém: vaše compliance, vaše reputace, vaše smluvní vztahy. Regulace i zákazníci se budou ptát vás, ne vašeho dodavatele.

Proto každý AI vendor zaslouží stejnou prověrku jako vlastní nasazení: kde zpracovává data, čím to doloží, k čemu se smluvně zavazuje a co se stane při incidentu. A protože dodavatelé AI funkce často přidávají do existujících produktů bez ptaní, nestačí prověřit jednou. Perimetr se posouvá s každým updatem.

7. Politika bez školení je jen papír

Směrnice o používání AI, kterou nikdo nečetl, chrání jen pocit, že se něco udělalo. V reálném provozu rozhoduje to, co lidé skutečně vědí: co smí do AI vložit, co ne a proč. Pravidlo, kterému lidé nerozumí, se nedodržuje, obchází se.

Fungující policy je krátká, srozumitelná a opřená o konkrétní situace z práce daného týmu. A doprovází ji školení, které nevysvětluje paragrafy, ale ukazuje případy: tenhle dotaz je v pořádku, tenhle je únik dat. Cíl není podepsaný dokument. Cíl je, aby lidé rozhodovali správně i ve chvíli, kdy se nikdo nedívá.

8. Governance je operating model, ne dokument

Nejčastější selhání AI governance: vznikne dokument, schválí se, založí se. Mezitím se objeví nové nástroje, nové modely a nová rizika a dokument stárne rychleji, než ho kdo stačí číst. Governance, která nežije, neexistuje.

Skutečná governance je provozní model: kdo schvaluje nové nástroje, kdo sleduje, jak se používají, jak se vyřazuje to, co se neosvědčilo, a jak často se pravidla reviduji. Má vlastníky, rytmus a rozpočet. Dokument je jen otisk tohoto modelu v čase, ne jeho podstata.

9. Compliance je vedlejší efekt, ne cíl

AI Act, GDPR, sektorová regulace: to všechno jsou důvody, proč governance řešit. Ale kdo staví kontrolu nad AI jen kvůli termínu regulace, staví ji špatně. Termíny se posouvají, výklady se mění a checklist splněný k datu neříká nic o tom, jestli máte AI skutečně pod kontrolou.

Platí to i obráceně: firma, která ví, jaká AI u ní běží, s jakými daty, kdo za ni odpovídá a jak se to dokládá, splní většinu regulatorních požadavků jako vedlejší efekt. Stavějte kontrolu, která dává smysl pro váš byznys. Soulad s regulací z ní vypadne skoro zadarmo.

Těchto devět tezí není teorie. Je to postup, kterým jsme prošli sami, když jsme AI zaváděli do vlastního vývoje, a kterým dnes provázíme klienty v bankovnictví, výrobě i státní správě. AI se do vaší firmy dostane tak jako tak. Jediná otázka je, jestli pod kontrolou, nebo jako riziko.

Pokud tu otázku právě řešíte, podívejte se na naši službu AI Assurance: audit současného stavu, governance rámec, operating model a audit trail, který obstojí u interní kontroly i u regulátora. Nasaďte AI, aniž ztratíte kontrolu.