9
rizik s rozborem
Bezpečnostní příručka pro každého ve firmě — žádné odborné výrazy. Devět rizik roztříděných do tří skupin podle toho, kdo škodu způsobí, a zmapovaných napříč pěti stupni používání AI. Každé má podrobný rozbor a vlastní kvíz.
Umělé inteligence se nemusíte bát — ale musíte vědět, kde dělá chyby a kudy na vás míří útok. Tři největší ochrany: firemní účet místo účtů zdarma, „AI radí a člověk rozhoduje“, a u peněz ověření druhým kanálem. A jedna věc navíc: ani „my AI nepoužíváme“ vás nechrání — útočník i okolí ji používají za vás (stupeň 0).
U každého maléru si stačí položit jednu otázku: udělal to omyl, útočník, nebo to jen něco zhoršilo? Odtud tři skupiny — a devět rizik, která dohromady pokrývají všechno podstatné.
Něco citlivého odejde tam, kam nemá.
Něco nepravdivého přijde — a my podle toho jednáme.
Něco se špatně změní nebo provede.
Útok tím, co AI čte nebo používá.
Útok vaším přihlášením (cizí i vlastní).
Útok vašimi smysly — deepfake, dokonalý phishing.
Dosah AI je širší, než musí být.
Nástroje, o kterých firma neví.
Člověk přestal číst a rozhodovat.
Řádky = 9 rizik. Sloupce = 5 stupňů používání AI. Barva = jak zle to dopadne, když pojistky selžou. Klikněte na název rizika pro rozbor; čtěte i po sloupcích.
| Riziko | 0Bez AI | 1Prohlížeč | 2Aplikace | 3Terminál | 4Vlastní OS |
|---|---|---|---|---|---|
| A · Omyly | |||||
| A1Únik dat | ●nízká | ●●●vysoká | ●●střední | ●●střední | ●●●vysoká |
| A2Vymýšlení | ●nízká | ●●střední | ●●střední | ●●●vysoká | ●●●vysoká |
| A3Špatné úpravy a akce | ○— | ●●střední | ●●střední | ●●●vysoká | ●●●vysoká |
| B · Útoky | |||||
| B1Skrytý příkaz a otrávené nástroje | ●nízká | ●●střední | ●●●vysoká | ●●●vysoká | ●●●vysoká |
| B2Zneužitá identita | ●●střední | ●●střední | ●●●vysoká | ●●●vysoká | ●●●vysoká |
| B3Podvody vyrobené AI | ●●●vysoká | ●●●vysoká | ●●●vysoká | ●●●vysoká | ●●●vysoká |
| C · Zesilovače | |||||
| C1Příliš klíčů | ○— | ○— | ●●střední | ●●●vysoká | ●●●vysoká |
| C2Stínová AI | ●●střední | ●●●vysoká | ●●střední | ●●střední | ●●střední |
| C3Slepá důvěra | ●nízká | ●●střední | ●●●vysoká | ●●●vysoká | ●●●vysoká |
Stupeň 0 nechrání. I když firma AI nepoužívá, útočník i okolí ji používají za vás. Podvody (B3) jsou nejvyšší podlaha — vysoké hned od nuly. A stínová AI (C2) je jediné riziko, které oficiálním zavedením AI klesá: kdo lidem dá firemní nástroj, sebere motiv k tajným účtům.
Čím výš na Cestě jste, tím víc AI umí — a tím výš lezou rizika. Poloha 2b přidává jednání, stupeň 3 dosah do celého počítače, stupeň 4 nepřítomnost člověka. Sloupec 2 v mapě výše pokrývá obě polohy — u polohy 2b berte jeho hodnoty jako spodní hranici.
My ji nemáme — ale okolí a útočníci ano.
Chat na webu. AI čte, co vložíte, a odpovídá.
Dvě polohy: 2a — AI vidí poštu a dokumenty a navrhuje. 2b — agentní režim: pracuje se soubory ve vymezené složce a dokončuje úlohy.
AI mění soubory a spouští příkazy v počítači.
AI jedná podle plánu i bez přítomného člověka.
Každý rozbor má stejnou stavbu: jak k riziku dojde, konkrétní situace z provozu, jak se mění po stupních 0–4, co smí běžet automaticky, obrana, rámečky Co na to zákon a Když už se to stalo — a vlastní kvíz.
Nově: dvě cesty úniku (k poskytovateli i do světa), veřejné odkazy na chaty, oversharing na společném disku, kódy od budov a fotky z terénu — plus co dělat v prvních 72 hodinách po úniku.
Vymýšlení VysokéAI si vymyslí lhůtu revize, číslo normy i paragraf — a řekne to se stejnou jistotou jako pravdu. Nově: proč selhává „ověř si to“, proč roste se stupněm, závaznost dle Air Canada a bezpečnostně-kritické lhůty jako auto_stop.
Špatné úpravy a akce VysokéHromadná rozesílka se špatnou sazbou, přehozené číslo účtu, smazaný termín revize, noční smyčka agenta — a klíčový rozdíl vratné vs. nevratné. Nově: plán před akcí, pilot na vzorku, zálohy mimo dosah agenta, stropy vynucené v konzoli (ne v promptu) a datová schránka jako český chyták.
Skrytý příkaz a otrávené nástroje VysokéPrompt injection lidsky: skrytý příkaz v cizí faktuře, otrávený doplněk, otrávená paměť agenta — 9 konkrétních pastí správcovské firmy, „smrtící trojice" a jediná spolehlivá obrana: oddělit čtení od jednání.
Zneužitá identita StředníKrádež relace a tokenu obchází i dvojité ověření, sdílený účet je předem ukradený, změna hesla po průniku nestačí. Nově: odchozí podvod vaším jménem, zneužití přístupu odcházejícím kolegou a úklid po krádeži krok za krokem.
Podvody vyrobené AI Vysoké NovéDeepfake hlas a video, dokonalý phishing, změna čísla účtu dodavatele. Obrana: druhý kanál. Jediné riziko vysoké i na stupni 0.
Příliš klíčů StředníŽivotní cyklus klíče (token přežije i změnu hesla), oversharing na sdíleném disku, seznam „nikdy nepřipojovat“ pro budovy a banku, doložené případy Salesloft Drift a Asana MCP — a proč rozsah klíče rozhoduje o velikosti pokuty.
Stínová AI Střední NovéOsobní účty, appky v telefonu, vnucené AI funkce, AI zapisovatelé schůzek — devět konkrétních podob stínové AI ve správě nemovitostí, proč zákaz situaci zhoršuje a jak zviditelnit víc než jakýkoli příkaz: firemní nástroj plus amnestie.
Slepá důvěra StředníAutomation bias, únava z potvrzování, „už se neptej“ a noční agent, kterého nikdo nekontroluje. Plus tři pasti správy nemovitostí: triáž havárií, kalendář revizí a hromadné vyúčtování. Nově s právním rámečkem (Air Canada, GDPR čl. 22) a pravidlem, proč přehled od agenta není důkaz.
Většina rad zní „jak zabránit“. Ale pojistky někdy selžou — a pak rozhoduje, jestli to poznáme a víme, co dělat. Nejcennější část pro firmu bez IT.
U správy nemovitostí není nejhorší následek pokuta, ale průnik do budovy. Proto dva tvrdé seznamy:
Nemusíte si pamatovat devět rizik. Stačí šest návyků — pokrývají všechna rizika najednou.
Rychlá pomůcka na zeď. Nevíte-li, kam úkol patří, berte ho jako výstrahu.
Průřez všemi skupinami. Každý rozbor má navíc vlastní kvíz. Klikněte na odpověď — hned uvidíte vysvětlení.
AI vám napsala nabídku pro zákazníka. Vypadá skvěle a spěcháte. Co uděláte?
Potřebujete rychle shrnout interní směrnici. Máte otevřený osobní ChatGPT zdarma…
AI po „shrň mi poštu“ dodá: „přeposlala jsem složku Smlouvy panu Novákovi, jak bylo požádáno.“ Vy jste o nic nežádali.
AI vám upravila ceník. Jak výsledek uložíte?
Volá „ředitel“ — jeho hlas, spěchá: pošlete zálohu na nové číslo účtu. Co uděláte?
Kolega doporučí šikovnou AI appku zdarma na faktury. Co uděláte?
AI je pro firmu naší velikosti obrovská příležitost — umí každému vrátit hodinu práce týdně a víc. Žádné z devíti rizik není důvod ji nepoužívat; všechna se dají zvládnout pár návyky.
Začněte jednou věcí: pracovní věci jen do firemního účtu. A když si nebudete jistí — zeptejte se.