AI audit ve firmě: shadow AI, inventura nástrojů a data residency

Odpověď hned: Shadow AI znamená, že lidé ve firmě používají AI nástroje, o kterých firma neví — typicky osobní účet v ChatGPT, do kterého někdo vloží zákaznickou smlouvu. Zjistit to jde bez sledování lidí, ve čtyřech krocích: zeptat se (dotazník a rozhovory), projít výdaje na kartách, u každého nalezeného nástroje ověřit typ účtu a sepsat seznam povolených nástrojů s jedním schvalovatelem. Rozdíl mezi osobním a firemním účtem není kosmetický: u spotřebitelských plánů ChatGPT může OpenAI obsah použít k trénování modelů, pokud si to uživatel nevypne, u ChatGPT Business, Enterprise a API se podle OpenAI ve výchozím stavu netrénuje. Data residency je pak jiná otázka — kde data fyzicky leží a kde probíhá výpočet.

Většina firem, které mě volají kvůli „nastavení AI”, má nastavování za sebou. Jen o něm neví. Někdo si otevřel ChatGPT na mobilu, ukázal to kolegům a od té doby přes něj chodí koncepty nabídek a shrnutí zápisů z jednání. Pak přijde otázka od většího zákazníka — „jaké AI nástroje používáte a kde se zpracovávají naše data?” — a firma nemá co odpovědět. Následující postup vede k seznamu, ne k nachytání zaměstnanců.

Co je shadow AI a proč se o něm ve firmě nemluví

Pojem shadow AI je odvozený od staršího shadow IT — softwaru, který si lidé pořídili sami mimo firemní procesy. AI verze je horší v jedné věci: u neschváleného programu odejde z firmy většinou jen jeho existence, u AI chatu odchází obsah. Do promptu se vloží celý dokument — e-mail zákazníka i s podpisem a číslem objednávky.

Zaměstnanci tuší, že to není v pořádku, a nechtějí si přidělávat problém; vedení má pocit, že „u nás se AI nepoužívá”, protože ji nikdo nekupoval. Jaká rizika vkládání dat do veřejného chatbota nese, rozebírá samostatný text firemní data v ChatGPT. Tady jdeme dál: jak zjistit skutečný stav a udělat z toho proces.

Jak udělat inventuru AI nástrojů ve firmě

Inventura je tabulka. Ne dokument na dvacet stran, ne projekt. Pět sloupců, jeden řádek na nástroj — a po vyplnění jediná odpověď na otázku „co u nás jede a s jakými daty”.

Řádky výše jsou vzor struktury, ne vaše zjištění.

1. Začněte dotazníkem a rozhovory

Nejrychlejší zdroj informací jsou zaměstnanci a nejjistější způsob, jak o něj přijít, je začít kontrolou provozu. Pošlete krátký dotazník — anonymita nutná není, slib, že za odpověď nikdo nedostane vynadáno, ano:

1. Používáte při práci nějaký AI nástroj? Jaký?
2. Přihlašujete se do něj pracovním, nebo osobním účtem?
3. Platíte za něj? Kdo?
4. Jaké typy dokumentů nebo textů do něj vkládáte?
5. Co by vám chybělo, kdyby ho firma zítra zakázala?

Pátá otázka je nejdůležitější a většina firem ji vynechá. Říká, jakou reálnou práci ten nástroj dělá — a jestli hledat náhradu, nebo jen zakázat. Zákaz bez náhrady inventuru zneplatní: nástroj nezmizí, jen se příště nikdo nepřizná. Navažte rozhovory s vedoucími: „ukažte mi poslední tři věci, které jste přes to dělali.”

2. Projděte výdaje — AI se platí kartou

Předplatné AI nástrojů se platí kartou a schová se mezi drobnými položkami. Projděte výpisy firemních karet za posledních dvanáct měsíců, vyúčtování proplácených nákladů zaměstnanců a fakturaci od agentur, kde může být AI služba přeúčtovaná jako součást jiné položky; hledejte opakované měsíční platby v cizí měně zahraničním dodavatelům.

Pozor na položky, které v účetnictví nebudou nikdy: bezplatné verze a nástroje placené z vlastní karty zaměstnance. Ty bývají nejrizikovější, protože nad nimi firma nemá žádnou správu.

3. Pohled ze sítě jako doplněk, ne jako hlavní nástroj

Firemní DNS resolver nebo proxy ukáže, na které domény se ze sítě chodí. Pro inventuru je to legitimní zdroj, pokud pracujete s agregovaným seznamem domén za celou síť, ne s výpisem po uživatelích ani s obsahem komunikace, a pokud o tom lidem dopředu řeknete. Sledování jednotlivých zaměstnanců je samostatná právní otázka a návod na něj tu nenajdete. Většina práce s AI navíc probíhá na mobilech přes mobilní data, takže tenhle zdroj ukáže jen část obrazu.

4. Sepište, co je povolené, a určete jednoho schvalovatele

Výstupem auditu nemá být zjištění, ale seznam. Rozdělte nástroje do tří skupin: povolené (firma za ně platí, běží na firemním účtu, ví se, jaká data do nich smějí), povolené s omezením (jen na definovaný typ obsahu — třeba veřejné texty, ne dokumenty zákazníků) a nepovolené s důvodem a ideálně s náhradou. A pak to, co rozhoduje, jestli seznam bude za rok platit: kdo schvaluje nový nástroj. Jeden konkrétní člověk, ne komise, a schválení trvá dny, ne měsíce.

Osobní vs. firemní účet: ChatGPT, Gemini a Copilot

Stojí za to znát skutečné znění podmínek, ne to, co se traduje.

OpenAI (ChatGPT). U služeb pro jednotlivce — tedy běžný ChatGPT včetně placených plánů — OpenAI uvádí, že obsah může použít k trénování svých modelů. Uživatel se může odhlásit: v nastavení účtu v části Data Controls vypne přepínač Improve the model for everyone; konverzace pak zůstanou v historii, ale podle OpenAI se k trénování nepoužijí. U produktů pro firmy — ChatGPT Business (dříve Team), ChatGPT Enterprise a API — OpenAI uvádí, že na vstupech ani výstupech firemních uživatelů ve výchozím stavu netrénuje; u API to deklaruje od 1. března 2023. Totéž potvrzuje stránka Enterprise privacy aktualizovaná 8. ledna 2026.

Přechod z osobních účtů na firemní workspace je proto největší změna, která z auditu obvykle vyplyne — a nesouvisí s tím, jestli osobní účet byl placený.

Google (Gemini). Spotřebitelská aplikace Gemini a Gemini v Google Workspace se chovají odlišně. U spotřebitelské verze Google uvádí, že část konverzací kontrolují lidští hodnotitelé včetně proškolených poskytovatelů služeb, a přímo doporučuje nevkládat důvěrné informace, které nechcete ukázat hodnotiteli nebo použít ke zlepšování služeb; ovlivňuje to nastavení aktivity aplikací Gemini. U Google Workspace naproti tomu platí, že Workspace nepoužívá zákaznická data k trénování modelů bez svolení nebo pokynu zákazníka a že interakce zůstávají uvnitř organizace.

Microsoft (Copilot). U Microsoft Copilotu v pracovním prostředí Microsoft 365 dokumentace uvádí, že prompty, odpovědi ani data získaná přes Microsoft Graph se nepoužívají k trénování základních jazykových modelů. Tyhle závazky Microsoft váže na komerční zákazníky Microsoftu 365 — tedy na pracovní účet ve firemním tenantu; kdo si otevře Copilot přihlášený osobním účtem, je mimo tenhle rámec.

U Copilotu audit vyplaví ještě jedno zjištění, které s trénováním nesouvisí: zobrazuje uživateli jen data, ke kterým má alespoň oprávnění ke čtení. To zní uklidňujícím dojmem, dokud nezjistíte, jak je ve vašem SharePointu nastavené sdílení. Copilot nic neprolomí — jen efektivně najde, co bylo špatně nasdílené roky.

Co znamená data residency a proč na ní záleží

Data residency znamená, ve které zeměpisné oblasti se data fyzicky ukládají, případně i zpracovávají. Je to jiná otázka než trénování: „netrénuje se na našich datech” neříká nic o tom, kde ta data leží. Rozlišujte proto uložení v klidu (data at rest), tedy kde data sedí na discích, a zpracování, tedy kde běží výpočet modelu. Poskytovatelé je nabízejí odděleně a ne vždy ve stejných regionech.

OpenAI nabízí uložení obsahu mimo jiné v Evropě (EHP a Švýcarsko), Spojeném království a USA; takzvaná inference residency, tedy běh modelu v regionu, je podle dokumentace k dispozici pro Evropu, USA a Spojené arabské emiráty. Dostupnost je omezená na způsobilé zákazníky API a nové zákazníky ChatGPT Enterprise a Edu — u ChatGPT Business tahle volba není. Google Workspace umožňuje ve funkci Data Regions zvolit uložení pokrytých dat v USA, nebo v Evropě, přičemž mezi pokrytá data patří i prompty a odpovědi Gemini; funkce je vázaná na konkrétní edice. Microsoft uvádí Copilot jako službu spadající do EU Data Boundary pro zákazníky z EU a jako pokrytou službu ve svých závazcích k datové rezidenci od 1. března 2024. A upozornění přímo z dokumentace: modely třetích stran použité jako subdodavatel nemusí být do EU Data Boundary zahrnuté, takže i volba modelu uvnitř Copilotu ovlivňuje, kde výpočet proběhne.

Jak to souvisí s GDPR, vám v obecném článku nikdo závazně neodpoví — záleží na tom, jaká data zpracováváte, v jaké roli a na jakém právním základě, a posouzení předání do třetí země patří právníkovi. Volba regionu sama o sobě nic nevyřeší, ale jsou situace, kdy zpracování v EU zjednoduší dokumentaci i jednání se zákazníky. Do tabulky si proto ke každému nástroji poznamenejte, jestli region vůbec nabízí, jestli je u vašeho plánu dostupný a jestli je skutečně zapnutý. To poslední bývá překvapení: funkce existuje, ale u konkrétního workspace ji nikdo nezapnul. Vedle toho běží regulatorní rovina v podobě AI Actu, kterému web věnuje samostatné články.

AI směrnice: co se smí vkládat a kdo rozhoduje

Ze seznamu se stane pravidlo, teprve když je někde napsané. Nemusí to být směrnice v právnickém jazyce; dvě strany stačí. Co v nich má být:

• Co se nevkládá nikdy. Osobní údaje zákazníků a zaměstnanců, obsah smluv, hesla a přístupové údaje, zdrojové kódy s klíči, podklady chráněné mlčenlivostí a materiály třetích stran, které nemáte právo předat dál.
• Co se vkládat smí a do kterých konkrétně jmenovaných nástrojů.
• Kdo schvaluje nový nástroj a jak dlouho to trvá.
• Co dělat, když už se něco vložilo — komu to nahlásit a že za nahlášení nenásleduje postih. Bez tohohle bodu se o incidentu nedozvíte.
• Kdo směrnici jednou za rok projde, protože podmínky poskytovatelů i názvy plánů se mění (viz přejmenování ChatGPT Team na Business).

Pravidla, která si nikdo nepamatuje, nefungují — proto směrnici spojte se zaškolením, které řeší text o školení AI pro firmy.

Kdy cloud nestačí: agendy, které nemají ze sítě odejít

U některých agend nepomůže ani firemní účet, ani evropský region. Mzdy, zdravotní dokumentace, podklady pod mlčenlivostí, know-how tvořící hodnotu firmy — u nich je otázka „kdo to má na svých discích” důležitější než záruka o netrénování. Řešením je model běžící na vlastním hardwaru. Které agendy sem patří, rozebírá text o AI bez cloudu; jestli takový model zvládne dost dobrou češtinu, ukazuje srovnání lokálních modelů na českých úlohách.

Často se ptáte

Nestačí AI prostě zakázat? Plošný zákaz bez náhrady přesune používání na soukromá zařízení a účty, kde nad ním firma nemá správu. Zákaz jednoho nástroje se schválenou náhradou funguje.

Co když zjistíme, že už někdo vložil smlouvu zákazníka? Zjistěte, do jakého nástroje a na jakém účtu, ověřte u toho účtu nastavení trénování a podle povahy dat posuďte, jestli jde o incident, který je potřeba hlásit. Posouzení ohlašovací povinnosti patří právníkovi.

ITHOPE dělá v Brně AI audit pro malé a střední firmy: inventura nástrojů, kontrola typu účtů a nastavení, sepsání pravidel a — u agend, které nemají opustit firmu — nasazení lokálního modelu na vlastním hardwaru. Audit obvykle odhalí i to, kdo má k čemu přístup a jestli je z čeho obnovit data; k tomu patří správa IT a zálohování a přehled služeb IT pro firmy.

Zdroje

• OpenAI: How your data is used to improve model performance — https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance
• OpenAI: Data Controls FAQ — https://help.openai.com/en/articles/7730893-data-controls-faq
• OpenAI: Enterprise privacy — https://openai.com/enterprise-privacy/
• OpenAI: Data residency and inference residency for ChatGPT — https://help.openai.com/en/articles/9903489-data-residency-and-inference-residency-for-chatgpt
• Google: Gemini Apps a vaše data — https://support.google.com/gemini/answer/13594961
• Google Workspace: Generative AI privacy hub — https://knowledge.workspace.google.com/admin/generative-ai/generative-ai-in-google-workspace-privacy-hub
• Microsoft: Data, Privacy, and Security for Microsoft Copilot — https://learn.microsoft.com/en-us/copilot/microsoft-365/microsoft-365-copilot-privacy