AI poznatky/Rizika/A2

Vymyšlené číslo, které vypadá jako pravda.

Vysoké riziko Skupina A — Omyly Riziko A2 čtení ~7 min

Umělá inteligence nemá databázi faktů — dopočítává nejpravděpodobnější pokračování textu. Proto si vymyslí lhůtu revize, číslo normy ČSN i paragraf zákona a řekne to se stejnou sebejistotou jako pravdu. A když se zeptáte „jsi si jistá?“, ještě to potvrdí. Nejde o vzácnou poruchu, ale o to, jak nástroj funguje — a čím výš na cestě jste, tím tišeji se výmysl propíše do dokumentů a akcí.

Dřív jsme se báli, že AI něco neví. Skutečné riziko je opačné: AI odpoví vždy a vždy sebevědomě. Vymyšlené číslo, neexistující norma nebo špatně vyčtená výpovědní lhůta vypadají v textu úplně stejně jako pravda — žádný pravopis ani formát je neprozradí. Klasická rada „ověř si to“ přitom selhává přesně tam, kde ji nejvíc potřebujeme: když se zeptáte samotné AI „jsi si jistá?“, model svůj výmysl s klidem potvrdí. AI neověřuje AI.

Pro firmu ve správě nemovitostí je tohle riziko drahé konkrétně: vymyšlená lhůta revize znamená zameškanou zákonnou kontrolu, vymyšlený odečet ve vyúčtování znamená pokutu za každý den i každého nájemce, a vymyšlená podmínka v nabídce firmu zaváže, i když ji „napsal bot“. Obrana není chytřejší AI, ale zvyk: fakt, podle kterého se jedná, se ověřuje mimo AI — v primárním zdroji, u technika, v originále smlouvy. Co ověřit nejde, se maže.

Jak k tomu dojde — krok za krokem.

Dotaz

Zeptáme se AI na fakt — lhůtu revize, číslo normy, paragraf, sazbu — nebo jí dáme smlouvu či fakturu ke shrnutí. Chceme rychlou odpověď a věříme, že „to přece někde má“.

Sebejistá odpověď

AI odpoví plynule a bez váhání. Vymyšlený údaj zní stejně věrohodně jako pravdivý; když se zeptáme „určitě?“, ještě ho potvrdí — přitakávání je do modelu zabudované.

Převzetí

Údaj převezmeme do nabídky, vyúčtování, e-mailu nebo souboru. Nikdo ho neotevřel v původním dokumentu ani neověřil v předpise — vypadal hotově.

Jednání

Podle vymyšleného čísla se jedná: odejde nabídka, propásne se lhůta, rozešle se chybné vyúčtování všem nájemcům. Škoda nastala; oprava je dražší a veřejná.

Skutečný scénář

V roce 2023 podali dva američtí advokáti (kauza Mata v. Avianca) soudu podání s šesti smyšlenými rozsudky, které jim vygeneroval ChatGPT — a když se ptali, model existenci „rozsudků“ potvrdil. Soud jim uložil pokutu 5 000 USD. Nešlo o výjimku: veřejný tracker (D. Charlotin) k roku 2025 eviduje přes 1 762 doložených případů vymyšlených AI citací v soudních podáních, přibývají 2–3 denně a sankce vyrostly z oněch 5 000 USD (2023) až na 55 597 USD (2025). Poučení je jednoduché: dotaz „jsi si jistá?“ položený AI selhal — ověřit se musí jinde než u ní.

Kde vás to konkrétně potká

9 podob téhož rizika.

Konkrétní situace z provozu firmy. Rozklikněte „Víc detailu“ u každé z nich.

🔧

Vymyšlená lhůta revize

Zeptáte se AI, kdy má být příští revize výtahu, plynu nebo elektro. Odpoví sebejistě špatné datum — a zákonná kontrola se propásne.

Obrana: revizní lhůty a normy nikdy z paměti AI — výhradně z revizní zprávy, předpisu nebo od revizního technika.
Víc detailu

Tohle je pro facility firmu největší jednotlivá expozice tohoto rizika. Následek není reklamace, ale pokuta od inspektorátu práce nebo hasičů, odmítnuté pojistné plnění, a při úrazu i trestní odpovědnost z nedbalosti — včetně odpovědnosti firmy jako právnické osoby.

Proces: lhůty a bezpečnostní postupy má na starosti jeden konkrétní zdroj — revizní zpráva a technik, ne chat. AI smí lhůtu jen přečíst z doloženého podkladu, nikdy ji doplnit z hlavy.

📊

Chyba ve vyúčtování služeb

AI dopočítá chybějící odečet nebo si vymyslí rozúčtovací klíč. Špatné číslo se propíše do vyúčtování všech jednotek v domě.

Obrana: součty vyúčtování se musí rovnat fakturám dodavatelů; chybějící odečty se OZNAČÍ, nikdy nedopočítávají.
Víc detailu

Zákon o službách (č. 67/2013 Sb.) umožňuje sankci 50 Kč za každý den prodlení, a to za každého příjemce vyúčtování. U domu s desítkami jednotek se z jedné vymyšlené hodnoty stane pokuta v řádu tisíců korun měsíčně a série sporů.

Proces: vyúčtování se před rozesláním strojově porovná s fakturami dodavatelů — součty musí sedět na korunu. Kde odečet chybí, doplní ho člověk z reálného stavu měřidla, ne AI odhadem.

📐

Neexistující norma ČSN v nabídce

Do nabídky napíšete „provedení dle ČSN 73…“ — jenže číslo normy si AI vymyslela, nebo cituje normu, která už neplatí.

Obrana: každou normu a citaci ověřit v primárním zdroji mimo AI; co ověřit nejde, jde z konceptu pryč.
Víc detailu

ČSN jsou placené, takže řadový zaměstnanec je snadno neověří — a vymyšlené číslo normy zní odborně a projde. Zákeřná je i zastaralá pravda: norma existovala, ale byla nahrazena, což kontrola „existuje to?“ nechytí.

Proces: firma si drží ověřené výtahy ~10 norem, které reálně používá; citace mimo tento seznam se z dokumentu ven vypouští. Neověřený údaj se raději nenapíše, než aby zavazoval.

📑

Špatně vyčtená výpovědní lhůta

AI vám shrne 30 nájemních smluv. U jedné uvede špatnou výpovědní lhůtu nebo přehlédne opci — výpověď je neplatná, opce propadne.

Obrana: každé pole, podle kterého se právně jedná, ověřit kliknutím do zdrojové smlouvy.
Víc detailu

I nad pravým dokumentem umí AI tvrdit, co v něm není: přehlédne zápor, zamění strany, vynechá klauzuli. Vynechání je zákeřnější než výmysl — není co ověřovat, protože nic „nesvítí“ jako podezřelé.

Proces: u lhůt, částek a „kdo komu“ se čte doslovné znění v originále smlouvy, ne shrnutí. Od AI chtějte doslovnou citaci pasáže a otázku „co jsi vynechal?“.

💬

AI přitaká, co chcete slyšet

Zeptáte se: „tu smlouvu můžu vypovědět hned, že jo?“ AI potvrdí — protože jste jí prozradili, jakou odpověď chcete.

Obrana: důležité otázky klást neutrálně a chtít protiargument; „AI to potvrdila“ není argument.
Víc detailu

Přitakávání (sycophancy) je horší než čistá halucinace: potvrzení nikdo neověřuje a „vždyť mi AI dala za pravdu“ se stává falešným rozhodčím sporů mezi kolegy. Nepravda přitom vzniká u vás v otázce, AI ji jen zpečetí.

Proces: návodné otázky přeformulujte tak, aby neprozrazovaly chtěnou odpověď, a rovnou požádejte: „argumentuj proti“. Rozhodnutí stojí na primárním zdroji, ne na souhlasu AI.

🗓️

Zastaralá sazba nebo zrušená vyhláška

AI uvede starou sazbu DPH, zrušenou vyhlášku nebo starý limit dohody o provedení práce. Údaj kdysi platil — dnes už ne.

Obrana: u daní, sazeb a lhůt ověřovat nejen ŽE údaj existuje, ale K JAKÉMU DATU platí.
Víc detailu

Znalosti modelu končí v minulosti a česká legislativa se mění každý rok. Tenhle druh chyby projde i pečlivou kontrolou „ověř, že to existuje“, protože předpis skutečně existoval — jen už neplatí.

Proces: u časově citlivých údajů nechte AI hledat v aktuálním zdroji (režim s vyhledáváním a odkazem), ne odpovídat z paměti; datum účinnosti ověřte na e-sbirka.cz.

📨

Nájemník cituje „paragraf z ChatGPT“

Nájemník rozporuje vyúčtování odkazem na paragraf, který neexistuje — dostal ho od AI a jedná podle něj. Vy AI ani nemusíte používat.

Obrana: paragrafy a čísla v došlých dokumentech ověřovat stejně přísně jako vlastní AI výstupy.
Víc detailu

Cizí AI halucinace k vám přitékají zvenčí: v podkladu dodavatele, v podání nájemníka, v AI přehledu ve vyhledávači. Případ Wolf River Electric v. Google (2025) ukázal, že AI přehled si dokáže o firmě vymyslet i celou neexistující kauzu.

Proces: protistrana, která argumentuje paragrafem nebo číslem, dostane zdvořilý dotaz na zdroj; tvrzení si ověříte v e-sbirka.cz. Občas se také podívejte, co o vaší firmě říká AI ve vyhledávání.

🧾

Vymyšlená částka na dodavatelské faktuře

AI vytěžuje došlé faktury a navrhne částku k proplacení. Špatně načtené číslo nebo špatné spárování se smlouvou — a proplatí se cizí částka.

Obrana: částky a čísla účtů se jen OPISUJÍ a strojově porovnávají; trojí párování faktura ↔ smlouva ↔ protokol.
Víc detailu

Slití čísel dvou dokumentů nebo přehozená číslice v částce vypadá v přehledu naprosto normálně. Na stupni terminálu/agenta se navrhne rovnou k platbě a mezikrok nikdo nečte.

Proces: žádná částka se neproplácí jen podle AI shrnutí — sedí na fakturu, faktura na smlouvu a na protokol o provedení. Číslo účtu se ověřuje proti dříve známému kontaktu (viz i podvody, riziko B3).

🤖

Agent hlásí hotovo, co neudělal

Naplánovaný agent oznámí „report odeslán, data zpracována“ — jenže vstup chyběl a agent díru vyplnil věrohodnými čísly.

Obrana: hlášení agenta ověřit nezávislým důkazem (log, návratový kód), ne jeho vlastním shrnutím.
Víc detailu

Agent umí konfabulovat i o sobě: při nedostupném vstupu (spadlý export, prázdná tabulka) místo chyby dopíše hodnověrná čísla a report vypadá v pořádku. V incidentu Cursor (4/2025) podpůrný bot bez dozoru vymyslel licenční politiku a zákazníci rušili předplatná.

Proces: platí zásada fail-closed — žádná data znamenají žádný report, číslo bez doložitelného zdroje se neodešle a úloha ohlásí chybu. Namátkou (např. 1 běh z 10) člověk porovná výstup s primárním zdrojem.

Jak se riziko mění po stupních 0–4

Stejné riziko, jiná velikost — podle toho, jak AI používáte.

Stupně z Listu 00 (Cesta). Stupeň 3 přidává dosah na počítač, stupeň 4 nepřítomnost člověka.

0
Bez AI nízká

Vy AI nepoužíváte, ale cizí AI halucinace k vám přitékají: dodavatel pošle podklad s vymyšleným údajem, nájemník rozporuje vyúčtování „paragrafem z ChatGPT“, AI přehled ve vyhledávání uvede o firmě nepravdu.

Pojistka

Čísla a paragrafy v došlých dokumentech ověřovat stejně přísně jako vlastní výstupy; občas se podívat, co o firmě říká AI ve vyhledávání.

1
Prohlížeč střední

AI odpovídá z paměti a vymýšlí nejvíc — čísla, normy, citace i celé „zdroje“ zní věrohodně. Výstup ale vždy čte člověk, škoda vzniká až nekontrolovaným převzetím.

Pojistka

Ověřit každý fakt v primárním zdroji MIMO AI (rozkliknout, e-sbirka.cz, telefonát); „jsi si jistá?“ položené AI je nulová kontrola.

2
Aplikace střední

AI čte skutečné podklady, ale i z pravého dokumentu umí tvrdit, co v něm není — přehlédne zápor, zamění strany, vynechá sankční klauzuli. Vymyšlený údaj navíc rovnou odchází v e-mailu nebo nabídce.

Pojistka

Chtít doslovnou citaci místa v dokumentu; kritické pasáže (lhůty, částky, kdo-komu) číst v originále; u věcí ven dvojí kontrola.

3
Terminál vysoká

Vymyšlený údaj se ZAPÍŠE do souborů a tiše se rozkopíruje do dalších dokumentů; nikdo nečte mezikroky. Agent si navíc vymýšlí i o vlastních akcích — hlásí hotovo, co neproběhlo.

Pojistka

Kontrola změn (diff), ne jen výsledku; hlášení agenta ověřit nezávislým důkazem (log), ne jeho shrnutím.

4
Vlastní OS vysoká

Jedná se podle vymyšleného údaje bez přítomného člověka a chyba se opakuje v každém běhu; při výpadku vstupu agent díru vyplní věrohodnými čísly a report vypadá normálně.

Pojistka

Fail-closed — žádná data = žádný report, číslo bez zdroje se neodešle; namátková lidská kontrola napořád + re-kontrola po výměně modelu.

Hranice automatizace

Co smí běžet samo — a co vždy odklepne člověk.

Hranici je potřeba narýsovat předem. Pro toto riziko platí:

Může běžet automaticky

  • Návrhy a koncepty textů, které pak čte a ověří člověk
  • Shrnutí a přehledy z podkladů pro orientaci — s doslovnou citací místa v dokumentu
  • Hledání v aktuálním zdroji s klikatelným odkazem (režim s vyhledáváním)
  • Příprava otázek a osnov, u nichž na faktu nic nestojí

Vždy schvaluje člověk

  • Revizní lhůty, normy a bezpečnostní postupy převzaté z paměti AI
  • Čísla, sazby a paragrafy do dokumentů ven bez ověření v primárním zdroji
  • Vyúčtování a částky, které se nerovnají podkladům dodavatelů
  • Rozhodnutí o člověku (nájemce dluží, uchazeč pochybil) podle AI tvrzení

Jak se bránit.

Návyky, které toto riziko vypínají
Co na to zákon Za vymyšlený údaj v dokumentu, který odejde z firmy, odpovídá firma — soudní tracker eviduje přes 1 762 případů vymyšlených AI citací a sankce vyrostly z 5 000 USD (2023) na 55 597 USD (2025). Co AI slíbí zákazníkovi jménem firmy, to firma slíbila: nabídka s podstatnými náležitostmi je závazný návrh smlouvy (§ 1731–1732 obč. zák.) a obranu „to napsal bot“ soud výslovně odmítl (Moffatt v. Air Canada, 2/2024). Vymyšlený fakt o konkrétním člověku (nájemce „dluží“) je nepřesný osobní údaj dle GDPR čl. 5(1)(d) s právem na opravu. Vadné vyúčtování služeb podléhá sankci 50 Kč/den za každého příjemce (z. č. 67/2013 Sb.). A nejtvrději: vymyšlená revizní lhůta či bezpečnostní postup vede k pokutě inspektorátu/HZS, odmítnutému pojistnému plnění a při úrazu k trestní odpovědnosti z nedbalosti. Doložené školení k tomuto webu je zároveň plněním povinnosti AI gramotnosti dle čl. 4 AI Actu.
Když už se to stalo

Když už vymyšlený údaj odešel ven.

  1. Aktivně a písemně opravte u příjemce — u nabídky jde o předsmluvní odpovědnost a mlčení právní expozici jen zvětšuje.
  2. Prověřte všechny dokumenty z téže AI seance nebo šablony — konfabulace se opakují, chyba bývá i tam, kde ji nečekáte.
  3. Šlo-li o osobní údaj o člověku (nájemce, uchazeč), opravte ho v prvotní evidenci; při úniku nebo šíření nepřesných osobních údajů zvažte ohlášení ÚOOÚ do 72 h (čl. 33 GDPR).
  4. Zapište výmysl do sdíleného seznamu „co nám AI vymyslela“ — jeden dokument pro celý tým, nulové náklady; kdo chybu chytí, varuje ostatní.
Zapamatujte si

AI vždy odpoví a vždy sebejistě — sebejistota ale není pravda. Fakt, podle kterého se jedná, se ověřuje mimo AI; co ověřit nejde, se maže.

Technická příloha

Chcete jít do hloubky?

Pro zvídavé — mechanismus, doložené případy s čísly, časté otázky a návod na vynucení. Číst nemusíte; návyky výše platí i bez nich.

PŘÍLOHA AProč si AI vymýšlí (a proč „jsi si jistá?“ nepomůže)

Jazykový model nemá databázi faktů — dopočítává statisticky nejpravděpodobnější pokračování textu. Vymyšlené číslo normy, paragraf nebo citace proto vznikají stejným mechanismem jako pravdivá slova a v textu vypadají naprosto stejně. Model nemá „vnitřní pocit“, že něco neví; tam, kde chybí znalost, prostě dogeneruje věrohodně vypadající výplň.

Z toho plynou tři pasti. Přitakávání (sycophancy): na návodnou otázku model spíš potvrdí, co chcete slyšet, než řekne pravdu — proto dotaz „jsi si jistá?“ výmysl jen zpečetí a AI neověřuje AI. Zastaralá pravda: znalosti končí v minulosti, takže model klidně uvede zrušenou vyhlášku nebo starou sazbu. A falešné bezpečí groundingu: i nad pravým dokumentem umí přehlédnout zápor, zaměnit strany nebo vynechat klauzuli — vynechání je horší než výmysl, protože není co odhalit.

PŘÍLOHA BDoložené případy a čísla

Mata v. Avianca, 2023. Šest smyšlených rozsudků z ChatGPT v soudním podání; na dotaz model jejich existenci potvrdil. Pokuta 5 000 USD.

Tracker halucinovaných citací (D. Charlotin, 2025). Přes 1 762 doložených případů vymyšlených AI citací v podáních, přibývají 2–3 denně; sankce vyrostly z 5 000 USD (2023) na 55 597 USD (2025).

Cursor, 4/2025. Podpůrný bot bez dozoru vymyslel licenční politiku; zákazníci na základě nepravdivé odpovědi rušili předplatná.

Wolf River Electric v. Google, 2025. AI přehled ve vyhledávání si o firmě vymyslel neexistující kauzu — ukázka, že halucinace míří i na firmu, která sama AI nepoužívá.

ZDROJE: MATA v. AVIANCA (S.D.N.Y. 2023) · DAMIEN CHARLOTIN — AI HALLUCINATION CASES TRACKER · CURSOR/BUSINESS INSIDER 4/2025 · WOLF RIVER ELECTRIC v. GOOGLE 2025

PŘÍLOHA CNejčastější otázky

Nestačí se AI zeptat, jestli si je jistá?

Ne. Model má sklon přitakat a svůj výmysl potvrdí — přesně tak selhali advokáti v Avianca. Ověřuje se mimo AI: v dokumentu, předpise, u technika.

AI přece četla můj dokument — proč by lhala?

I nad pravým podkladem umí tvrdit, co v něm není: přehlédne zápor, zamění strany, vynechá klauzuli. Kritické pasáže (lhůty, částky) čtěte v originále.

Číslo normy nebo paragrafu existuje — je to tedy v pořádku?

Nemusí. Předpis mohl být nahrazen nebo zrušen. Ověřujte nejen ŽE údaj existuje, ale K JAKÉMU DATU platí.

Jak poznám halucinaci na první pohled?

Nepoznáte — nemá pravopisné ani formátové stopy. Proto se nespoléhá na oko, ale na ověření v primárním zdroji u všeho, co jde ven nebo rozhoduje o penězích či lidech.

PŘÍLOHA DVynucení: proces, kterým výmysl neprojde

Obrana nestojí na chytrosti jednotlivce, ale na procesu:

  • Bezpečnostní údaje z jednoho zdroje. Revizní lhůty, normy a postupy jen z revizní zprávy, předpisu nebo od technika — AI je smí číst, ne doplňovat.
  • Ověřené výtahy ~10 norem. Firma si drží ověřené výtahy norem, které reálně používá; citace mimo seznam jde z dokumentu ven pryč.
  • Vyúčtování sedí na koruny. Součty se strojově porovnají s fakturami dodavatelů; chybějící odečty se označí, nedopočítávají.
  • Nic ven bez schválení člověkem. Odpovědi s částkou, termínem nebo slibem neodcházejí bez lidské kontroly (hranice auto_ok/auto_stop).
  • Sdílený seznam „co nám AI vymyslela“. Jeden dokument pro celý tým; každý chycený výmysl varuje ostatní.
Ověřte si to

Rozumíte tomuto riziku?

Klikněte na odpověď — hned uvidíte vysvětlení. Výsledek se zapíše do vašeho průkazu.

Otázka 1/4

Zeptáte se AI, kdy má být příští revize výtahu. Odpoví konkrétní datum. Co uděláte?

Otázka 2/4

Do nabídky chcete uvést „provedení dle ČSN…“ a AI vám dodala číslo normy. Jak dál?

Otázka 3/4

Zeptáte se AI „tu smlouvu můžu vypovědět hned, že jo?“ a ona přitaká. Co s tím?

Otázka 4/4

AI vytěžila došlou fakturu a navrhla částku k proplacení. Co uděláte jako první?