Přestali jste číst. A AI to ví.

Střední riziko Skupina C — Zesilovače Riziko C3 čtení ~6 min

Umělá inteligence odpovídá rychle, sebejistě a slušnou češtinou — a přesně proto jí přestaneme kontrolovat. Nejdřív odklikneme jedno okno, pak dvacet, pak zapneme „už se příště neptej“. Slepá důvěra sama o sobě žádnou škodu neudělá — jen sundá poslední brzdu ze všech ostatních rizik. Chyba, kterou nikdo nepřečetl, a podvod, který nikdo neověřil, projdou úplně stejnou dírou.

Slepá důvěra má tři různé podoby, které si lidé pletou. „Nečtu, co jde ven“ (odkliknu, zkopíruju, odešlu). „Nikdo se nedívá“ (agent běží v noci a jeho práci nikdo nikdy neotevře). A „už to neumím posoudit“ (dělám to s AI tak dlouho, že bych chybu sám nepoznal). Každá potřebuje jiný lék — proto nestačí jediná rada „čtěte to“.

Zrádné je, že AI zní stejně sebejistě, když ví, i když si vymýšlí — a ještě vám ráda přitaká. Úhledná tabulka nebo hladký dopis vypadají jako hotová práce, i když v nich chybí odečet nebo je v nich vymyšlená lhůta. Čím víc to den za dnem sedí, tím míň to čteme — a tím větší chyba nakonec projde.

Dobrá zpráva: obrana nestojí na kázni jednotlivce (ta pod náporem vždycky povolí), ale na procesu — čtyři oči u toho, co jde ven, potvrzení jen u důležitého, aby mělo váhu, a log, který vzniká mimo agenta, takže nemůže lhát o vlastní práci.

Jak k tomu dojde — krok za krokem.

Úleva

AI odpoví za vteřinu, sebejistě a bez chyb v češtině. Výstup vypadá hotově, ušetří půl hodiny. Zažijeme úlevu — a začneme věřit.

Rutina

Den za dnem to sedí. Přestaneme číst celé, odklikáváme „povolit“ reflexivně, u otravných oken zapneme „už se příště neptej“. Kontrola se z návyku vytratí.

Slepé místo

Projde chyba — vymyšlená lhůta, špatný odečet, přehlédnutá havárie — nebo podvod z jiného rizika, protože poslední brzda (lidské oko) je vypnutá. Na stupni 4 se nedívá vůbec nikdo.

Následek

Chyba odejde ven: hromadné vyúčtování, závazná nabídka, rozhodnutí o nájemci. Škoda padá na firmu — protože „to přece schválil člověk“, i když ho jen odklikl.

Skutečný scénář

Ne jenom malé firmy. V říjnu 2025 odevzdala poradenská firma Deloitte australské vládě zprávu za ~440 000 AUD, ve které AI vymyslela citace a odkazy na neexistující zdroje. Neselhal jeden člověk — selhala revize celé firmy: každý předpokládal, že kontroloval někdo jiný. Deloitte musel část honoráře vrátit. O půl roku dřív nechal software Cursor (4/2025) podpůrného AI bota odpovídat zákazníkům bez lidské revize; bot si vymyslel neexistující pravidlo a naštvaní zákazníci rušili předplatné. A že to není americká rarita: Ústavní soud ČR v 12/2025 pokutoval advokáta 25 000 Kč za podání s 12 vymyšlenými rozsudky, které nikdo nezkontroloval.

Kde vás to konkrétně potká

9 podob téhož rizika.

Konkrétní situace z provozu firmy. Rozklikněte „Víc detailu“ u každé z nich.

🚨

AI triáž nahlášených závad

AI třídí příchozí hlášení od nájemců do fronty podle priority. „Je cítit plyn“ nebo „teče voda z výtahové šachty“ zařadí omylem mezi běžné a nikdo si toho včas nevšimne.

Obrana: kritická klíčová slova (plyn, kouř, voda, výtah, úraz) eskalují VŽDY na člověka — nikdy je neodbaví agent sám.
Víc detailu

U správy nemovitostí není nejhorší následek pokuta, ale havárie a úraz. AI hodnotí text podle podobnosti s minulými hlášeními — havárie formulovaná neobvykle propadne do „rutiny“ a odpověď „vyřídíme do 3 dnů“ odejde na něco, co snese hodiny.

Proces: seznam havarijních a bezpečnostních slov, na která systém automaticky pípne na telefon určené osoby; AI smí předtřídit, ale havarijní frontu čte člověk hned a každou směnu.

🧾

Hromadné vyúčtování služeb

AI připraví roční vyúčtování pro celý dům a rozešle je najednou. Jedna nezkontrolovaná chyba (chybějící odečet, špatný rozúčtovací klíč) se rozkopíruje do desítek jednotek.

Obrana: před rozesláním dávky přepočítat ručně vzorek 3 nájemníků proti fakturám dodavatelů a poslat pilot sobě.
Víc detailu

Chyba, kterou by u jednoho dopisu člověk chytil, se u dávky znásobí počtem nájemců — a je venku dřív, než ji stihnete najít. AI navíc chybějící odečet ráda „dopočítá“ věrohodným číslem, místo aby ho označila.

Proces: součty vyúčtování se musí rovnat fakturám dodavatelů; hromadná rozesílka jde nejdřív jako pilot na jednoho příjemce (nebo sobě), pak teprve na zbytek. Vadné vyúčtování = penále 50 Kč/den za každého nájemce dle z. 67/2013 Sb.

Únava z potvrzování

Aplikace se ptá dvacetkrát denně „Povolit tuto akci?“. Po týdnu klikáte „povolit“ reflexivně, aniž čtete co. Právě tudy projde skrytý příkaz z podvržené faktury (riziko B1).

Obrana: potvrzení jen u toho, na čem opravdu záleží — když jich je dvacet denně, žádné už nemá váhu.
Víc detailu

Útočník tenhle reflex umí i vyrobit: kompromitovaný nástroj zaplaví schvalování dávkou neškodných žádostí a tu jednu škodlivou protlačí uprostřed (jako obtěžování falešnými výzvami k přihlášení). Neobvykle mnoho oken najednou je signál útoku, ne důvod klikat rychleji.

Proces: nastavit tři úrovně — neškodné akce povolit trvale, nebezpečné (odeslání ven, mazání, osobní údaje) zakázat trvale, potvrzuje se jen zbytek; akce s reálným dopadem mají vždy jiné, těžší potvrzení.

🔁

„Už se příště neptej“

Jednou zaškrtnete „tuto akci už nepotvrzovat“, aby vás to neotravovalo. Za čtvrt roku máte desítky takových výjimek a fakticky režim „dělej si, co chceš“ — aniž to kdo rozhodl.

Obrana: „už se neptej“ jen v pískovišti bez ostrých dat; čtvrtletně otevřít seznam trvalých povolení a promazat.
Víc detailu

Výjimky se sčítají a nikdy neubývají — každé „už se neptej“ je trvalé pravidlo, které přežije důvod, proč vzniklo. Když vás k vypnutí potvrzování někdo nabádá (návod, dodavatel, sám agent), je to varovný signál, ne dobrá rada.

Proces: vypnout potvrzování smí jen jedna pověřená osoba; seznam trvalých povolení se čtvrtletně projde vcelku a promaže; výchozí nastavení nástrojů (často „povol vše“) se hned po instalaci utáhne.

📅

AI jako jediný nositel kalendáře revizí

Necháte AI hlídat zákonné revize (výtahy, elektro, plyn, hasicí přístroje). Spolehnete se, že připomene — jenže AI si termín může splést nebo tiše vynechat a revize propadne.

Obrana: registr zákonných revizí vlastní člověk v pevné evidenci; AI smí připomínat, ne být jediným zdrojem pravdy.
Víc detailu

Propadlá revize není reklamace, ale pokuta od inspektorátu, odmítnuté pojistné plnění a při úrazu i trestní odpovědnost z nedbalosti. Když je AI jediný, kdo termíny drží, nemá to kdo zkontrolovat — a tichý výpadek (úloha přestane běžet) nikdo nepostrádá.

Proces: lhůty a data revizí se berou výhradně z revizních zpráv a od techniků, ne z paměti AI; registr je v tabulce, kterou vlastní jmenovaná osoba a čtvrtletně ho projde ručně.

🙋

Poradní past

Zeptáte se AI „můžu tuhle smlouvu vypovědět hned?“ a ona přitaká. Jednáte podle rady, kterou nikdo jiný nikdy neuvidí — není žádný dokument ke kontrole.

Obrana: u rad s dopadem na bezpečnost, právo nebo peníze rozhoduje předpis, smlouva nebo odpovědná osoba, ne chat.
Víc detailu

AI má sklon přitakat: na návodnou otázku odpoví to, co chcete slyšet, ne to, co je pravda — a „AI mi dala za pravdu“ se pak stává falešným rozhodčím sporů. Protože rada nikam neodejde, není co číst ani co ověřit, brzda úplně chybí.

Proces: důležité otázky klást neutrálně (neprozrazovat chtěnou odpověď) a chtít protiargumenty („a teď argumentuj proti“); u peněz, práva a bezpečnosti si odpověď ověřit u kompetentního člověka nebo v originálním předpisu.

👥

Důvěra z druhé ruky

Účetní pošle AI tabulku šéfovi, šéf ji přepošle klientovi. Každý předpokládá, že to zkontroloval ten druhý — a cestou zmizela nálepka „tohle je z AI, neověřeno“.

Obrana: u každého dokumentu ven je JEDEN jmenovaný kontrolor, ne mlhavé „všichni to čtou“.
Víc detailu

Předáním AI výstup ztrácí označení původu: úhledná tabulka od kolegy vypadá jako ověřený fakt, i když ji nikdo neotevřel. Rozptýlená odpovědnost („to dělal někdo jiný“) je klasická cesta, jak chyba projde přes tři lidi.

Proces: platí pravidlo „co odešleš, to jsi podepsal“ — za výstup ručí ten, kdo ho použil; neověřený AI podklad se při předání kolegovi výslovně označí („z AI, nezkontrolováno“).

🌙

Noční agent, kterého nikdo nečte

Naplánovaný agent zpracuje přes noc faktury nebo pošle přehledy. Ráno vám sám napíše „Hotovo, vše v pořádku, 12 akcí“ — a vy to berete jako kontrolu.

Obrana: přehled od agenta NENÍ důkaz — log musí vznikat mimo něj a občas se křížově porovná.
Víc detailu

Agent umí o své práci lhát (doložený případ Replit: tvrdil, že smazaná data nejdou obnovit — šla). Pokud si sám generuje i přehled, kterým ho kontrolujete, je to divadlo: pochválí se za práci, kterou možná neudělal, nebo udělal špatně.

Proces: spoléhat na nezávislý záznam (auditní log poskytovatele, výpis odeslané pošty, seznam změněných souborů), do kterého agent nesmí zapisovat; alert na první výskyt nového typu akce (nový příjemce, nová složka) a namátkové kontroly v náhodných časech.

🔎

„Nenašlo = neexistuje“

Zeptáte se AI „přišla reklamace od nájemce z bytu 5?“ a ona odpoví „nic jsem nenašla“. Uzavřete to jako vyřízené — jenže AI vyhledávání selhává tiše a neúplně.

Obrana: před závazným krokem si negativní odpověď („nic nepřišlo“, „termín volný“) ověřte ručně.
Víc detailu

AI hledání nad poštou a kalendářem nenajde všechno — přehlédne jinak formulovaný předmět, přílohu, starší vlákno. „Nenašlo“ tedy neznamená „neexistuje“, ale kvůli sebejistému tónu to tak zní.

Proces: u kroků s následkem (uzavření reklamace, potvrzení volného termínu, uplynutí lhůty) se negativní výsledek z AI ověřuje přímo ve zdroji — ručním hledáním v poště nebo v kalendáři.

Jak se riziko mění po stupních 0–4

Stejné riziko, jiná velikost — podle toho, jak AI používáte.

Stupně z Listu 00 (Cesta). Stupeň 3 přidává dosah na počítač, stupeň 4 nepřítomnost člověka.

0
Bez AI nízká

Slepě věříme CIZÍM AI výstupům, i když sami AI nemáme: podklad od dodavatele, AI shrnutí v poště, odpověď z vyhledávání — bereme jako fakt, aniž víme, že je z AI.

Pojistka

I cizí a „samo se zapnulé“ AI výstupy ověřovat; u převzatých čísel, lhůt a norem se ptát „je tohle z AI?“ a kontrolovat stejně přísně jako vlastní.

1
Prohlížeč střední

Kopírování výstupu bez čtení — vymyšlené číslo nebo přitakání projde bez odporu. Zvlášť u poradní pasti: jednáme podle rady, kterou už nikdo neuvidí.

Pojistka

Číst všechno, co jde ven; ověření = jiný zdroj než AI (originál, oficiální web, člověk od oboru) — dotaz „jsi si jistá?“ položený AI není kontrola.

2
Aplikace vysoká

Únava z potvrzování: dvacet oken denně srazí kontrolu na reflex „povolit“. Právě tudy projde skrytý příkaz z rizika B1 — a útočník ten zával umí i schválně vyrobit.

Pojistka

Potvrzení jen u důležitého, aby mělo váhu; nebezpečné akce mají vždy těžší potvrzení; neobvykle mnoho oken najednou = signál útoku, ne důvod klikat rychleji.

3
Terminál vysoká

„Už se příště neptej“ / režim bez potvrzování = vypnutá poslední brzda na akcích s ostrými daty. Výjimky se sčítají, až vznikne režim „dělej si, co chceš“, aniž to kdo rozhodl.

Pojistka

Bez potvrzování jen v pískovišti bez tajemství; vypnout ho smí jen pověřená osoba; čtvrtletně projít a promazat seznam trvalých povolení.

4
Vlastní OS vysoká

Strukturální slepota: akce, které nečte NIKDO. Přehled si generuje sám agent (a umí o své práci lhát), takže kontrola je divadlo. Dlouhodobě atrofie — přestáváme umět výstupy vůbec posoudit.

Pojistka

Log vzniká MIMO agenta (nezávislý auditní záznam, jen-append); alerty na výjimky a nové typy akcí; jmenovaný vlastník každé úlohy; občas úkol udělat postaru, ať dovednost nezakrní.

Hranice automatizace

Co smí běžet samo — a co vždy odklepne člověk.

Hranici je potřeba narýsovat předem. Pro toto riziko platí:

Může běžet automaticky

  • Návrhy a shrnutí pro přečtení člověkem (bez odeslání)
  • Připomínky a upozornění na termíny — člověk zůstává vlastníkem registru revizí a lhůt
  • Namátková druhá kontrola konceptu — AI jako filtr, ne jako schvalovatel
  • Předtřídění pošty a hlášení, kde rozhoduje člověk (a havárie eskalují vždy)

Vždy schvaluje člověk

  • Odeslání dokumentu s cenou, termínem nebo slibem bez čtení druhým člověkem
  • Rozhodnutí o člověku (nájemce, uchazeč, dlužník) odkliknuté podle AI bez skutečného posouzení
  • Trvalé „už se příště neptej“ na akcích s ostrými daty
  • Hromadná rozesílka bez kontroly vzorku proti zdroji
  • Odbavení havarijního nebo bezpečnostního hlášení bez lidské eskalace

Jak se bránit.

Návyky, které toto riziko vypínají
Co na to zákon Slepá důvěra mění právní povahu rozhodnutí — a to na účet firmy. Co AI slíbí vaším jménem, firmu zavazuje: soud v kauze Air Canada (2024) obranu „to napsal bot“ výslovně odmítl. Odkliknuté AI doporučení o člověku (nájemce, uchazeč, dlužník) bez skutečného lidského posouzení může být zakázané výhradně automatizované rozhodnutí dle čl. 22 GDPR (potvrzeno rozsudkem SDEU ve věci SCHUFA, 2023). AI Act navíc ukládá povinnosti i firmě, která AI jen používá: AI gramotnost zaměstnanců od 2/2025 (čl. 4 — tenhle web je fakticky jejím plněním) a u posuzování lidí povinný lidský dohled od 8/2026 (čl. 26). Škodu z odkliknuté chyby nese firma (§ 2914 OZ); po zaměstnanci lze vymáhat jen do 4,5násobku platu (§ 257 ZP), takže je levnější dobrý proces než hledání viníka. A proto je nezávislý log klíčový: je to důkaz, KDO výstup schválil.
Když už se to stalo

Chyba prošla ven, protože ji nikdo nepřečetl. Co teď.

  1. Řekněte to hned určené osobě — tentýž den, bez trestu. Čím dřív se ví, tím víc se dá zachránit.
  2. Zastavte další škodu — u hromadné rozesílky zastavte zbytek dávky; odeslaný dokument (nabídku, vyúčtování) aktivně a písemně opravte u příjemce, mlčení právní expozici jen zvětšuje.
  3. Projděte vše ze stejné šablony či seance. Chyba, kterou nikdo nečetl, se opakuje — zkontrolujte ostatní výstupy a zapište ji do sdíleného seznamu „co nám AI vymyslela“.
  4. Šlo o osobní údaje (rozhodnutí o nájemci, chybné vyúčtování)? Posuďte ohlášení ÚOOÚ do 72 h. A promažte trvalá „už se neptej“ povolení, aby stejná chyba neprošla znovu.
Zapamatujte si

Slepá důvěra sama nic nerozbije — jen vypne poslední brzdu u všech ostatních rizik. Čtěte, co jde ven, potvrzujte jen důležité a nikdy nevěřte přehledu, který si agent napsal o sobě sám.

Technická příloha

Chcete jít do hloubky?

Pro zvídavé — mechanismus, doložené případy s čísly, časté otázky a návod na vynucení. Číst nemusíte; návyky výše platí i bez nich.

PŘÍLOHA AJak slepá důvěra vzniká pod pokličkou

Nejsou to lajdáci — je to tři různé jevy pod jedním názvem. (1) Nečtu: člověk kopíruje a odesílá bez čtení (behaviorální, stupně 1–3). (2) Nikdo se nedívá: na stupni 4 běží akce, které nikdo nikdy neotevře (strukturální). (3) Už to neumím posoudit: kdo dělá práci jen s AI, ztrácí schopnost chybu vůbec poznat (kompetenční, roste v čase). Každý potřebuje jiný lék — proto nestačí rada „čtěte to“.

Pohání to automation bias (stroji věříme víc než sobě, i když se plete) a přitakávání (AI ráda potvrdí, co chcete slyšet). AI zní stejně sebejistě, ať ví, nebo si vymýšlí. K tomu rohatka výjimek: každé „už se neptej“ je trvalé pravidlo, které přežije svůj důvod — výjimky se jen sčítají, až vznikne režim „dělej si, co chceš“, aniž to kdo rozhodl.

PŘÍLOHA BDoložené případy a čísla

Deloitte, 10/2025. Zpráva pro australskou vládu za ~440 000 AUD s AI-vymyšlenými citacemi; selhala revize celé firmy, část honoráře vrácena.

Cursor, 4/2025. Podpůrný AI bot bez lidské revize si vymyslel neexistující pravidlo → zákazníci rušili předplatná. Jediný známý incident čistě strukturální slepoty.

Ústavní soud ČR, 12/2025. Pokuta 25 000 Kč advokátovi za podání s 12 vymyšlenými rozsudky, které nikdo nezkontroloval; ČAK řeší kárnou žalobu — domácí a čerstvé.

Nejvyšší správní soud ČR, 10/2025 (3 As 34/2025). Úspěšné straně seškrtal náhradu nákladů za vyjádření obsahující neexistující rozsudky. Druhý domácí případ během tří měsíců — a ukazuje, že vymyšlená citace stojí peníze i toho, kdo spor vyhrál.

Atrofie dovednosti. Studie Lancet (8/2025, 4 polská centra): po měsících práce s AI klesla lékařům úspěšnost záchytu z 28,4 % na 22,4 %, když AI vypnuli — první reálný důkaz, že dovednost s AI zakrňuje.

ZDROJE: FINANCIAL REVIEW / GUARDIAN (DELOITTE) · CURSOR / FORTUNE (2025) · ÚSTAVNÍ SOUD ČR + ČAK (12/2025) · NSS ČR 3 As 34/2025 (10/2025) · THE LANCET GASTROENTEROLOGY & HEPATOLOGY (8/2025)

PŘÍLOHA CNejčastější otázky

Nestačí, když si výstup po sobě přečtu sám?

U toho, co jde ven nebo rozhoduje o penězích a lidech, ne. Vlastní odklikaný výstup člověk čte „přes prsty“ (automation bias) — proto čtyři oči: druhý, věcně znalý člověk.

Můžu nechat druhou AI zkontrolovat první?

Jako filtr ano, jako schvalovatel ne. Obě AI sdílejí stejné slabiny (vymýšlení, přitakání) a člověk ze smyčky zmizí úplně. U akcí ven musí být v řetězu aspoň jeden člověk.

Agent mi ráno napsal „vše v pořádku“. To nestačí jako kontrola?

Ne — agent umí o své práci lhát (Replit tvrdil, že smazaná data nejdou obnovit, šla). Přehled musí vzniknout mimo agenta a občas ho porovnejte s nezávislým logem.

Dodavatel radí vypnout otravné potvrzování. Mám?

Ne plošně. Výzva k vypnutí potvrzování odkudkoli je varovný signál. Vypnout ho smí jen pověřená osoba a jen tam, kde nejsou ostrá data.

PŘÍLOHA DVynucení: proces, který slepá důvěra neprojde

Obrana nestojí na kázni jednotlivce (ta pod náporem povolí), ale na procesu:

  • Čtyři oči na výstupu ven. Cokoli s cenou, termínem, právním závazkem nebo jménem člověka čte před odesláním druhý, věcně znalý člověk; jmenovaný JEDEN kontrolor, ne „všichni“.
  • Tři úrovně potvrzování. Neškodné povolit trvale, nebezpečné (odeslání ven, mazání, osobní údaje) zakázat trvale, potvrzuje se jen zbytek — aby potvrzení mělo váhu.
  • Čtvrtletní úklid výjimek. Seznam trvalých „už se neptej“ povolení se projde vcelku a promaže; auto-approve zapíná jen pověřená osoba.
  • Nezávislý log + alerty. Záznam mimo agenta (jen-append); alert na nový typ akce, na útratu nad strop a na chybějící hlášení úlohy (tiché selhání).
  • Kritická slova a revize na člověka. Havarijní klíčová slova eskalují vždy; registr zákonných revizí vlastní člověk v pevné evidenci, AI jen připomíná.
  • Údržba dovednosti. 2–3 klíčové procesy (fakturace, nabídka, reakce na havárii) mají sepsaný postup bez AI a čtvrtletně je určený člověk projde ručně.
Ověřte si to

Rozumíte tomuto riziku?

Klikněte na odpověď — hned uvidíte vysvětlení. Výsledek se zapíše do vašeho průkazu.

Otázka 1/4

AI shrne 40 nájemních smluv a napíše, že výpovědní lhůta je 1 měsíc. Chystáte se podle toho poslat výpověď. Co uděláte?

Otázka 2/4

Dodavatel softwaru radí: „Vypněte si to potvrzování, ať vás to neotravuje.“ Jak zareagujete?

Otázka 3/4

Noční agent vám ráno napíše: „Hotovo, zpracováno 12 faktur, vše v pořádku.“ Berete to jako provedenou kontrolu?

Otázka 4/4

Zeptáte se AI „přišla reklamace k bytu 5?“ a ona odpoví „nic jsem nenašla“. Uzavřete to jako vyřízené?