AI poznatky/Rizika/A1

Co jednou vložíte do AI, už nevezmete zpět.

Vysoké riziko Skupina A — Omyly Riziko A1 čtení ~7 min

Únik dat neznamená jen „poslali jsme něco omylem ven“. S umělou inteligencí odchází víc, než napíšete: účet zdarma se z vašich dat učí, tlačítko „Sdílet“ udělá z konverzace veřejný odkaz a AI připojená k disku najde i to, co tam roky leželo špatně nasdílené. A jakmile data jednou opustí firmu, nevezmete je zpět.

Dřív šel citlivý dokument ven jen tak, že ho někdo poslal špatnému adresátovi. AI přidala tiché cesty: co vložíte do chatu zdarma, se model může učit a drží si to roky; co nasdílíte odkazem, může najít Google; a co uvidí AI připojená k firemnímu disku, může naservírovat komukoli. Malá firma navíc drží cizí data — osobní údaje nájemců, kódy od budov, smlouvy pod NDA.

Dobrá zpráva: nejsilnější obrana je jedno rozhodnutí — firemní účet, který se z dat neučí — plus krátký seznam „co se do AI nikdy nevkládá“. Firemní účet ale neřeší všechno: nechrání před veřejným sdílením, před tím, že AI zpřístupní špatně nasdílené soubory, ani před incidentem u samotného poskytovatele.

Jak k tomu dojde — krok za krokem.

Vložení

Někdo vloží citlivý obsah do AI, aby si ulehčil práci — text do chatu, celou přílohu, fotku z terénu, nebo rovnou připojí AI k disku a poště.

Odchod

Obsah opustí hranice firmy: k poskytovateli AI (kde se z něj model může učit), přes veřejný odkaz „Sdílet“, nebo se prosákne do výstupu určeného někomu jinému.

Uložení mimo kontrolu

Data už nevezmete zpět: použijí se k učení, zaindexuje je vyhledávač, zůstanou v retenci, uniknou při incidentu poskytovatele. „Smazáno“ neznamená pryč.

Následek

Únik osobních údajů (a 72h ohlášení ÚOOÚ), prozrazený kód od budovy, porušená NDA, ztráta zakázky nebo pokuta.

Skutečný scénář

Ve firmě Samsung zaměstnanci během pár týdnů roku 2023 třikrát vložili do ChatGPT interní zdrojový kód a zápisy z porad — firma nato používání AI plošně zakázala. Že nejde o vzdálenou raritu: v červenci 2025 vláda ČR na varování NÚKIB zakázala ve státní správě čínský DeepSeek — vložené dotazy končí na serverech, které je musí na výzvu vydat státu; DeepSeek navíc v lednu 2025 nechal veřejně přístupnou databázi s historiemi chatů uživatelů (nález firmy Wiz).

Kde vás to konkrétně potká

9 podob téhož rizika.

Konkrétní situace z provozu firmy. Rozklikněte „Víc detailu“ u každé z nich.

📋

Seznam dlužníků do AI zdarma

Účetní vloží tabulku nájemců-dlužníků do ChatGPT zdarma, aby vygeneroval upomínky. Jsou tam jména, adresy i dlužné částky.

Obrana: osobní údaje do AI zdarma nikdy; na firemním účtu pseudonymizovat (jména → iniciály).
Víc detailu

Účet zdarma se z vložených dat učí a drží je roky — jednou vložené už nevezmete zpět. Jde o osobní údaje třetích osob, takže únik spadá pod GDPR.

Proces: upomínky generovat ze šablony bez osobních údajů a jména s částkami doplnit až ručně; na regulovaná data jen firemní účet bez učení.

🔑

Kódy a plány budov do AI

Správce nahraje do AI plán zabezpečení, seznam kódů od alarmů nebo fotku rozvaděče s nalepeným kódem strojovny, aby si nechal poradit.

Obrana: přístupové kódy, čipy a plány zabezpečení do AI nikdy — ani na firemní účet.
Víc detailu

U správy nemovitostí není nejhorší následek pokuta, ale fyzický průnik do budovy. Fotka z terénu nese víc, než vidíte — kód nalepený na skříni, RZ auta v pozadí, jmenovku.

Proces: kódy, čipy, plány kamer a zabezpečení patří na seznam „nikdy přes AI“; před nahráním fotky se ptát, co všechno je na ní vidět.

🔗

Veřejný odkaz na konverzaci

Kolega chce sdílet užitečný chat, klikne na „Sdílet“ a pošle odkaz. Ten je veřejný a s celým obsahem se může dostat do Googlu.

Obrana: konverzaci nikdy nesdílet odkazem — zkopírovat text. Firemní no-training účet proti tomuhle nechrání.
Víc detailu

Tlačítko Sdílet vytváří veřejnou URL; v roce 2025 se takto do vyhledávačů dostaly tisíce konverzací (ChatGPT ~4 500, Grok stovky tisíc). Účet bez učení z dat to neřeší — obsah unikl jinou cestou.

Proces: ve firemním adminu veřejné sdílení omezit nebo vypnout; obsah předávat kopií, ne odkazem.

🗂️

AI najde mzdy na společném disku

Připojíte AI k firemnímu disku. Mzdové a HR podklady tam formálně vidí všichni, jen je nikdo nehledal. AI je najde a naservíruje první den.

Obrana: nejdřív uklidit sdílení a oprávnění, teprve pak připojit AI.
Víc detailu

AI ruší ochranu neviditelností: co bylo „schované“ jen tím, že to nikdo nehledal, teď zobrazí na jediný dotaz. 40 % firem odložilo nasazení Copilota přesně kvůli tomuhle oversharingu (Gartner).

Proces: mzdy a HR do výslovně omezené složky mimo dosah AI; projít, kdo co na disku vidí, ještě před připojením.

🎙️

AI zapisovatel schůze SVJ

Na schůzi vlastníků pustíte AI zapisovatele. Nahraje osobní údaje desítek lidí a přepis pak automaticky rozešle všem — i těm, co odešli.

Obrana: zapisovatele používat jen se souhlasem účastníků; automatické rozesílání přepisů vypnout.
Víc detailu

Přepis schůze jsou osobní údaje mnoha lidí bez souhlasu. Nástroj Otter.ai v 9/2024 po odchodu hosta dál nahrával interní debatu a přepis automaticky rozeslal — obchod padl.

Proces: účastníky předem informovat, používat jen schválený nástroj, auto-rozesílání vypnout a přepis zkontrolovat před odesláním.

✉️

Údaj klienta A v dopise klientovi B

V jedné dlouhé konverzaci řešíte víc nájemců najednou. AI vplete dlužnou částku nebo slevu klienta A do dopisu určeného klientovi B.

Obrana: nový chat pro nový subjekt; před odesláním zkontrolovat jména a částky.
Víc detailu

Sdílený kontext jedné konverzace (nebo trvalá paměť agenta) prosákne pravdivý, ale důvěrný údaj do textu pro někoho jiného. U hromadného vyúčtování hrozí i souhrn všech nájemců místo individuálních příloh a CC místo BCC.

Proces: pro každého klienta samostatný chat; texty ven číst na jména a částky třetích osob; hromadné rozeslání přes BCC a s individuálními přílohami.

🌐

Virální AI zdarma stažená bez ptaní

Někdo si stáhne populární AI aplikaci zdarma (třeba DeepSeek) a začne do ní vkládat pracovní data.

Obrana: jen nástroje ze schváleného seznamu; nové „zázračné“ AI neprověřovat na ostrých datech.
Víc detailu

Vláda ČR na varování NÚKIB v 7/2025 zakázala DeepSeek ve státní správě — vložené prompty končí na serverech v Číně s povinností vydat je státu; DeepSeek navíc v 1/2025 nechal veřejně přístupnou databázi s historiemi chatů.

Proces: krátký seznam povolených nástrojů; co na něm není, se na firemní data nepoužívá; novinky prověřuje pověřená osoba.

🚪

Odcházející zaměstnanec sklidí data

Kolega před odchodem jedním promptem nechá AI sestavit celou klientskou bázi a ceník a stáhne si je.

Obrana: při odchodu zrušit přístup k AI a konektorům tentýž den; hlídat neobvykle rozsáhlé dotazy.
Víc detailu

Není to omyl ani vnější útok — je to zneužití vlastního legitimního přístupu, na které je firma s vyšší fluktuací citlivá. AI takový export zvládne za minuty.

Proces: offboarding ruší přístup k AI, poště a konektorům v den odchodu; log upozorní na neobvykle velké exporty a dotazy.

🏢

Únik u samotného poskytovatele

I na placeném firemním účtu jsou data u třetí strany. Poskytovatel může mít vlastní bezpečnostní incident.

Obrana: pravidlo „co se nikdy nevkládá“ platí na každém tarifu — firemní účet řeší učení, ne cizí breach.
Víc detailu

ChatGPT v 3/2023 kvůli chybě zobrazil cizí titulky konverzací a platební údaje; DeepSeek v 1/2025 nechal historii chatů ve veřejné databázi. Firemní účet tomu nezabrání.

Proces: nejcitlivější věci (kódy, hesla, rodná čísla) nevkládat vůbec, ani na firemní účet; udržovat seznam, co kam smí.

Jak se riziko mění po stupních 0–4

Stejné riziko, jiná velikost — podle toho, jak AI používáte.

Stupně z Listu 00 (Cesta). Stupeň 3 přidává dosah na počítač, stupeň 4 nepřítomnost člověka.

0
Bez AI nízká

Firma AI nezavedla, ale data stejně odcházejí: lidé si tajně pomáhají osobními účty a vkládají do nich firemní i klientská data. „Bez AI“ tak často znamená nejméně hlídaný únik.

Pojistka

Dát lidem oficiální nástroj a jasná pravidla dřív, než si je zavedou sami — a amnestii: „řekněte, co používáte“.

1
Prohlížeč vysoká

Vrchol rizika. Zkopírovaný citlivý text do chatu — zvlášť na účtu zdarma, který se z vašich dat učí a drží je roky. A pozor: tlačítko „Sdílet“ umí z konverzace udělat veřejný odkaz, který najde i Google.

Pojistka

Firemní účet (bez učení z dat) pro všechny + písemný seznam „co se nikdy nevkládá“; konverzace nikdy nesdílet veřejným odkazem.

2
Aplikace střední

Firemní propojení má smluvní ochranu, ale mění povahu úniku: AI VIDÍ víc, než kdo vloží. Připojíte ji k disku plnému let špatně nasdílených složek — a mzdy nebo HR podklady naservíruje první den. Konektor navíc často žádá přístup k celému disku místo jedné složky.

Pojistka

Nejdřív uklidit sdílení a oprávnění na disku, teprve pak připojit AI; rozsah konektorů na minimum; před regulovanými daty projít GDPR (DPA, záznam o činnosti).

3
Terminál střední

Jeden pokyn může do AI poslat celou složku — a tajemství (hesla v .env, smlouvy, kódy) často leží hned vedle pracovních souborů. Agent navíc neuniká jen čtením: umí data odeslat i do světa (nahrát report, publikovat, poslat).

Pojistka

Vymezená pracovní složka; tajemství a kódy mimo její dosah (a agentovi zakázat je vůbec číst); vymezit i KAM smí agent posílat.

4
Vlastní OS vysoká

Naplánovaná úloha přesouvá data bez přítomného člověka. Chybný rozsah se neopraví — OPAKUJE se každou noc a kumuluje; a když do zdrojové složky přibude nová podsložka, čistá úloha začne odtékat i to, co nikdy neměla.

Pojistka

Úzký rozsah úloh + log „co kam odešlo“, který se čte + revize prvních běhů a periodická re-revize (ne jen jednou při schválení).

Hranice automatizace

Co smí běžet samo — a co vždy odklepne člověk.

Hranici je potřeba narýsovat předem. Pro toto riziko platí:

Může běžet automaticky

  • Práce s obecným textem bez osobních a klientských údajů
  • Koncepty a šablony, do kterých jména a částky doplní až člověk
  • Shrnutí a rozbor dokumentů na firemním účtu bez učení z dat

Vždy schvaluje člověk

  • Vkládání osobních údajů (nájemců, zaměstnanců) do AI zdarma
  • Přístupové kódy, čipy a plány zabezpečení budov — nikdy, ani na firemní účet
  • Veřejné sdílení konverzace odkazem
  • Připojení AI k disku, na kterém není uklizené sdílení

Jak se bránit.

Návyky, které toto riziko vypínají
Co na to zákon Únik osobních údajů (nájemců, zaměstnanců) spadá pod GDPR: povinnost ohlásit do 72 h ÚOOÚ (čl. 33), při vysokém riziku i dotčeným osobám (čl. 34); zamlčení je samostatný delikt. Pro firmu ve správě nemovitostí bývá ještě citlivější B2B vrstva: klientská data (plány budov, kódy, ceníky) kryje smluvní mlčenlivost a NDA a obchodní tajemství (§ 504 obč. zák.) je chráněno jen při „odpovídajícím utajování“ — nahrání do nástroje, který se z dat učí, může ochranu nevratně zrušit. A „smazáno“ neznamená pryč: soud v kauze NYT v. OpenAI nařídil uchovat i smazané chaty; spotřebitelské verze AI se z chatů mohou učit, pokud to uživatel v nastavení nevypne — u Clauda od 8/2025 s retencí 5 let a se souhlasem předvoleným v dialogu, takže většina lidí ho dá, aniž by o tom věděla (firemních tarifů se to netýká — přesně tenhle rozdíl firemní účet kupuje). Realistická expozice malé firmy není 20mil. € pokuta pro poskytovatele, ale pokuta ÚOOÚ v řádu desítek tisíc až milionů Kč plus individuální nároky. Od 2/2025 platí i AI Act čl. 4: firma musí zajistit AI gramotnost lidí, kteří s AI pracují — tenhle web je důkazem plnění.
Když už se to stalo

Řekněte to hned — mlčení škodu jen zvětší.

  1. Řekněte to tentýž den určené osobě, bez trestu. Čím dřív se ví, tím víc se dá zachránit — a 72h lhůta běží od zjištění.
  2. Zastavte odtok: smažte konverzaci a požádejte poskytovatele o odstranění; u veřejného odkazu zrušte sdílení; u konektoru odvolejte přístup (grant) — změna hesla nestačí.
  3. Posuďte osobní údaje: pokud unikly, do 72 h ohlaste ÚOOÚ (čl. 33). U dat nájemců jste často jen zpracovatel — hlásíte především vlastníkovi.
  4. Zkontrolujte log „co kam odešlo“ a zapište případ do sdíleného seznamu; u prozrazených kódů a přístupů je nechte fyzicky změnit.
Zapamatujte si

Co jednou vložíte do AI, už nevezmete zpět. Firemní účet bez učení z dat + seznam „co se nikdy nevkládá“ + žádné veřejné odkazy na konverzace.

Technická příloha

Chcete jít do hloubky?

Pro zvídavé — mechanismus, doložené případy s čísly, časté otázky a návod na vynucení. Číst nemusíte; návyky výše platí i bez nich.

PŘÍLOHA AKudy data ve skutečnosti unikají

Únik přes AI má dvě různé cesty a každá potřebuje jinou pojistku. (1) K poskytovateli: co vložíte do chatu, jde na cizí servery. Účet zdarma se z toho může učit (data se rozpustí do modelu) a drží si historii roky; firemní účet bez učení tohle řeší, ale data jsou pořád u třetí strany. (2) Do světa: tlačítko „Sdílet“ vyrobí veřejný odkaz, agent umí data nahrát nebo publikovat a údaj jednoho klienta se může prosáknout do textu pro jiného — proti tomu firemní účet nechrání vůbec.

Zákeřné je, že AI vidí víc, než kdo vloží. Připojená k disku zpřístupní i soubory, které tam roky ležely „schované“ jen tím, že je nikdo nehledal (oversharing). A vložení není jen text: příloha, fotka z terénu nebo hlasový přepis schůze nesou často mnohem víc, než potřebujete — celou smlouvu kvůli jedné klauzuli, kód nalepený na rozvaděči, osobní údaje desítek lidí ze schůze SVJ.

Poslední vrstva je čas: „smazáno“ neznamená pryč (retence, právní hold, indexace), a na stupni 4 se chybný rozsah úlohy opakuje každou noc a kumuluje — jednorázový omyl se mění v trvalý odtok.

PŘÍLOHA BDoložené případy a čísla

Samsung, 2023. Zaměstnanci během pár týdnů 3× vložili do ChatGPT interní kód a zápisy — firma AI plošně zakázala.

DeepSeek + NÚKIB, ČR 2025. Vláda ČR v 7/2025 zakázala DeepSeek ve státní správě (data na servery v Číně); DeepSeek v 1/2025 nechal veřejně přístupnou databázi s historiemi chatů (nález Wiz).

Veřejné odkazy, 2025. Do vyhledávačů se dostalo ~4 500 sdílených konverzací ChatGPT a stovky tisíc konverzací Grok — funkce sdílení se ukázala jako únik.

Breach poskytovatele. ChatGPT v 3/2023 kvůli chybě zobrazil cizí titulky konverzací a platební údaje.

Stínová AI v číslech. 77 % uživatelů AI do ní vkládá firemní data, 82 % přes osobní účty, 22 % vložení obsahuje osobní/platební údaje (LayerX 2025); stínová AI zdražila incident v průměru o ~670 tis. USD (IBM 2025).

ZDROJE: BLOOMBERG (SAMSUNG) · NÚKIB / VLÁDA ČR 7/2025 · WIZ (DEEPSEEK DB) · LAYERX 2025 · IBM COST OF A DATA BREACH 2025 · NYT v. OPENAI (PRÁVNÍ HOLD)

PŘÍLOHA CNejčastější otázky

Ochrání mě firemní účet?

Z velké části ano u učení a retence — data se z vašich chatů neučí a nedrží se roky. Neřeší ale veřejné sdílení, oversharing na disku ani incident u poskytovatele. Seznam „co se nikdy nevkládá“ platí na každém tarifu.

Vložil jsem jen malý kousek, to nevadí, ne?

I kousek může být osobní údaj nebo obchodní tajemství. Rozhoduje citlivost obsahu, ne délka — u osobních údajů běží stejná ohlašovací povinnost.

Smazal jsem konverzaci — je to pryč?

Nemusí. Data mohla být použita k učení, zůstat v záloze či retenci, nebo být pod právním holdem (kauza NYT v. OpenAI). Smazání pomáhá, ale odstranění nezaručuje.

Můžu do AI nahrát fotku z terénu?

Opatrně — fotka nese víc, než vidíte: kód nalepený na skříni, RZ auta, jmenovku, plán. Před nahráním se ptejte, co všechno je na snímku.

PŘÍLOHA DVynucení: nastavení, kterým data neprotečou

Únik se nezastaví ostražitostí jednotlivce, ale nastavením a procesem:

  • Firemní účet bez učení z dat pro všechny + krátký seznam povolených nástrojů; osobní AI účty na pracovní data zakázat (s amnestií „řekněte, co používáte“).
  • Písemný seznam „co se nikdy nevkládá“: rodná čísla, čísla účtů, hesla a klíče, přístupové kódy/čipy/plány zabezpečení, kamerové záznamy, nájemné a slevy konkrétních lidí, zdravotní údaje.
  • Úklid disku před připojením AI: projít, kdo co vidí; mzdy a HR do omezené složky mimo dosah AI.
  • Veřejné sdílení konverzací vypnout ve firemním adminu; obsah předávat kopií.
  • Log „co kam odešlo“ + čtvrtletní revize rozsahu konektorů a naplánovaných úloh; offboarding ruší přístup k AI tentýž den.
Ověřte si to

Rozumíte tomuto riziku?

Klikněte na odpověď — hned uvidíte vysvětlení. Výsledek se zapíše do vašeho průkazu.

Otázka 1/4

Účetní chce vložit tabulku dlužníků (jména, adresy, částky) do ChatGPT zdarma, aby vygeneroval upomínky. Co je správně?

Otázka 2/4

Máte užitečný chat a chcete ho poslat kolegovi. Použijete tlačítko „Sdílet“, které vytvoří odkaz?

Otázka 3/4

Firma má firemní účet bez učení z dat. Můžete tam nahrát seznam kódů od alarmů budov?

Otázka 4/4

Zjistíte, že jste omylem vložili osobní údaje nájemců do neprověřené AI. Co uděláte jako první?