Umělá inteligence přináší nové možnosti pro vzdělávání, práci i každodenní život – zároveň ale otevírá dveře sofistikovanějším formám podvodů. Deepfake videa, AI-generované phishingové e-maily a automatizované scamy jsou dnes dostupné i bez technických znalostí. Tato stránka vysvětluje, jak konkrétní hrozby fungují, jak je rozpoznat a jak se před nimi chránit.
Co jsou deepfake videa a jak je rozpoznám?
Deepfake je syntetické médium – nejčastěji video, audio nebo fotografie – vytvořené pomocí AI tak, aby zobrazovalo reálnou osobu v situaci, která se nikdy nestala. Technologie využívá modely hlubokého učení (odtud název „deep”), které se naučí napodobit obličej, hlas nebo pohyby konkrétního člověka z dostupných vzorků.
Jak deepfake technologie funguje
Základem jsou generativní modely, zejména tzv. GAN (generative adversarial networks) nebo novější difuzní modely. Jeden model generuje falešný obraz, druhý se ho snaží odhalit – výsledkem je postupně stále přesvědčivější výstup. Dnes existují webové nástroje, které zvládnou základní deepfake za minuty bez jakéhokoli programování.
Vizuální a zvukové signály, které prozradí deepfake
Přestože kvalita deepfake roste, stále existují charakteristické znaky, na které se zaměřit:
| Oblast | Co sledovat |
|---|---|
| Oči | Nepřirozené mrkání, nesprávný odraz světla, rozmazané okraje |
| Pokožka | Příliš hladká nebo naopak artefakty na hranici obličeje a vlasů |
| Zuby a uši | Rozmazané detaily, chybějící nebo deformované zuby |
| Pohyb rtů | Nesoulad mezi pohybem úst a zvukem, zejména při souhláskách |
| Pozadí | Deformace objektů v okolí hlavy při pohybu |
| Hlas | Monotónní intonace, neobvyklé pauzy, chybějící emocionální nuance |
Pokud video nebo audio vzbuzuje pochybnosti, doporučuje se:
- Vyhledat originální zdroj záznamu (zpravodajský web, oficiální kanál).
- Použít nástroje pro detekci deepfake – například Microsoft Video Authenticator nebo služby jako Sensity AI.
- Zkontrolovat metadata souboru, pokud je k dispozici.
- Ověřit informaci z videa v nezávislých zdrojích.
Deepfake se nejčastěji šíří přes sociální sítě, kde rychlost sdílení předbíhá ověřování. Pravidlo „zastav se, než sdílíš” je v tomto kontextu klíčové.
Jak AI zneužívají podvodníci k phishingu a scamům?
Phishing – podvodné zprávy, které se tváří jako legitimní komunikace – existuje desítky let. AI ho ale zásadně proměnila. Dříve bylo možné phishingové e-maily rozpoznat podle gramatických chyb, neobratného stylu nebo generického oslovení. Dnes jazykové modely generují texty, které jsou stylisticky bezchybné, personalizované a kontextově přesvědčivé.
Typy AI-asistovaných podvodů
Spear phishing – cílený útok na konkrétní osobu. AI analyzuje veřejně dostupné informace (LinkedIn, sociální sítě, firemní web) a sestaví zprávu, která zmiňuje jméno kolegy, aktuální projekt nebo nedávnou událost. Příjemce má pocit, že zpráva pochází od někoho, kdo ho zná.
Vishing s klonovaným hlasem – podvodníci nahrají krátký vzorek hlasu (stačí několik sekund z veřejného videa nebo hlasové zprávy) a pomocí AI vytvoří přesvědčivou napodobeninu. Volají pak příbuzným nebo kolegům s naléhavou žádostí o peníze nebo přístupové údaje.
Automatizované romance scamy – AI chatboti vedou dlouhodobé konverzace na seznamovacích platformách, budují emocionální vazbu a postupně žádají o finanční pomoc.
Falešné faktury a obchodní e-maily – AI generuje dokumenty, které napodobují styl konkrétní firmy nebo dodavatele.
Jak phishingový e-mail rozpoznat i bez gramatických chyb
- Zkontrolujte skutečnou e-mailovou adresu odesílatele (ne jen zobrazené jméno).
- Ověřte odkaz před kliknutím – najeďte myší a zkontrolujte URL.
- Buďte obezřetní u zpráv vyvolávajících naléhavost: „Váš účet bude zablokován do 24 hodin.”
- Neočekávané přílohy jsou rizikové i od zdánlivě známých odesílatelů.
- Při pochybnostech kontaktujte odesílatele jiným kanálem (telefonicky, osobně).
Více o tom, jak AI nástroje fungují a proč jsou tak přesvědčivé, najdete v článku Co je umělá inteligence a jak funguje?.
Jaká osobní data nesmím zadávat do AI nástrojů?
Používání AI nástrojů jako ChatGPT, Gemini nebo Copilot přináší otázku: co se děje s daty, která do nich zadávám? Odpověď závisí na konkrétním nástroji, jeho nastavení a podmínkách použití – ale obecná pravidla platí napříč platformami.
Data, která do AI nástrojů nepatří
Citlivé osobní údaje:
- Rodné číslo, číslo občanského průkazu nebo pasu
- Čísla bankovních karet a přístupové údaje k účtům
- Hesla a bezpečnostní kódy
- Zdravotní záznamy a diagnózy (vlastní i cizí)
- Přesná adresa bydliště v kombinaci s dalšími identifikátory
Firemní a profesní data:
- Interní dokumenty označené jako důvěrné
- Obchodní tajemství, cenové strategie, nepublikované výsledky
- Osobní údaje zákazníků nebo zaměstnanců (GDPR)
- Zdrojový kód proprietárních systémů
Data třetích osob:
- Informace o jiných lidech bez jejich souhlasu
- Fotografie nebo záznamy, ke kterým nemáte práva
Proč na tom záleží
Většina komerčních AI nástrojů ve výchozím nastavení může využívat zadané vstupy ke zlepšování modelů, pokud uživatel tuto funkci explicitně nevypne. Některé nástroje nabízejí podnikové verze s přísnějšími zárukami ochrany dat. Před použitím jakéhokoli AI nástroje pro práci s citlivými informacemi si přečtěte podmínky ochrany soukromí a zvažte, zda je daný nástroj pro tento účel vhodný.
Srovnání toho, jak různé nástroje přistupují k ochraně dat, najdete v článku ChatGPT vs. Gemini vs. Copilot vs. Claude: Který AI nástroj je pro vás nejlepší?.
Jak kriticky hodnotit výstupy AI a ověřovat fakta?
AI jazykové modely generují text, který zní sebejistě a autoritativně – bez ohledu na to, zda je obsah správný. Tento jev se označuje jako „halucinace”: model vymyslí fakta, citace, jména nebo čísla, která neexistují, a prezentuje je jako pravdu. Kritické hodnocení výstupů AI je proto základní dovedností každého uživatele.
Proč AI „halucinuje”
Jazykové modely nepracují s databází ověřených faktů. Generují text na základě statistických vzorců v trénovacích datech – předpovídají, jaké slovo nebo věta pravděpodobně následuje. Pokud model nemá dostatek relevantních dat, „doplní” mezeru plausibilně znějícím, ale nepravdivým obsahem.
Praktický postup ověřování
- Identifikujte konkrétní tvrzení – oddělte obecné principy (obvykle spolehlivé) od konkrétních čísel, jmen, dat a citací (vyžadují ověření).
- Vyhledejte primární zdroj – pokud AI uvádí studii nebo statistiku, ověřte, zda skutečně existuje a zda říká to, co AI tvrdí.
- Použijte více zdrojů – jedno potvrzení nestačí, zejména u kontroverzních nebo specializovaných témat.
- Zkontrolujte aktuálnost – modely mají datum uzávěrky trénovacích dat; informace o nedávných událostech mohou být zastaralé nebo chybné.
- Ptejte se na zdroje přímo – požádejte AI, aby uvedla zdroje. Pokud je nedokáže doložit nebo vymyslí neexistující citace, berte výstup s rezervou.
Nástroje pro ověřování faktů
- Google Fact Check Tools – agregátor ověřených informací od fact-checkingových organizací
- Snopes, FactCheck.org – anglicky psané databáze ověřených tvrzení
- Demagog.cz – česká fact-checkingová organizace
- Reverse image search – ověření původu obrázků (Google Images, TinEye)
Kritické myšlení při práci s AI není nedůvěra v technologii – je to zodpovědný přístup, který platí stejně pro AI výstupy jako pro jakýkoli jiný informační zdroj.
Jak chránit sebe a rodinu před AI podvody v praxi?
Znalost hrozeb je první krok. Druhým je zavedení konkrétních návyků a opatření, která snižují riziko. Ochrana před AI podvody nevyžaduje technické vzdělání – vyžaduje konzistenci a zdravou skepsi.
Technická opatření
Dvoufaktorové ověřování (2FA): Aktivujte 2FA na všech důležitých účtech – e-mail, bankovnictví, sociální sítě. I kdyby podvodník získal vaše heslo, bez druhého faktoru se nepřihlásí.
Správce hesel: Používejte unikátní hesla pro každý účet. Správce hesel (Bitwarden, 1Password a podobné) tuto zátěž přebírá za vás.
Aktualizace softwaru: Zastaralý software obsahuje bezpečnostní díry, které podvodníci aktivně využívají. Automatické aktualizace jsou nejjednodušší ochrana.
Komunikační návyky
Rodinné bezpečnostní slovo: Dohodněte se s blízkými na tajném slově nebo frázi, kterou použijete při telefonátu, pokud budete chtít ověřit, že mluvíte skutečně s nimi – a ne s klonovaným hlasem. Toto opatření je jednoduché a účinné zejména vůči vishingu.
Pravidlo 24 hodin: Při jakékoli naléhavé žádosti o peníze nebo citlivé informace – ať přijde e-mailem, telefonicky nebo přes zprávu – si dejte čas na ověření. Legitimní instituce naléhavost nepotřebují.
Ověřování identity: Pokud vám volá „banka” nebo „policie” a žádá o citlivé informace, zavěste a zavolejte zpět na oficiální číslo z webu instituce.
Vzdělávání v rodině
Děti a senioři jsou statisticky zranitelnější skupiny. Praktické tipy pro jejich ochranu:
- Vysvětlete, jak deepfake funguje, na konkrétním příkladu (existují edukační videa).
- Procvičte rozpoznávání phishingových e-mailů na reálných příkladech.
- Nastavte pravidelný „bezpečnostní check” – jednou za čas projděte společně nastavení soukromí na sociálních sítích.
Téma dopadu AI na každodenní pracovní i osobní život rozebírá také článek AI a trh práce: Které profese jsou ohroženy a jak se připravit na změny?.
Jaká jsou pravidla etického používání AI v práci i osobním životě?
Bezpečnost má dvě strany: chránit se před zneužitím AI a zároveň sám AI nezneužívat. Etické používání AI není jen filozofická otázka – má praktické důsledky pro důvěru, právní odpovědnost a kvalitu výstupů.
Základní etické principy při práci s AI
Transparentnost: Pokud používáte AI k tvorbě obsahu v profesním kontextu – texty, analýzy, prezentace – zvažte, zda je vhodné to uvést. V některých oborech (žurnalistika, akademická sféra, právo) existují explicitní pravidla nebo vznikají.
Odpovědnost za výstup: AI je nástroj, ne autor. Zodpovědnost za obsah, který zveřejníte nebo předáte, nesete vy. Halucinace modelu vás nezbavuje odpovědnosti za šíření nepravdivých informací.
Respekt k autorským právům: AI modely byly trénovány na datech, jejichž právní status je předmětem probíhajících soudních sporů. Při komerčním využití AI-generovaného obsahu sledujte vývoj legislativy ve vaší zemi.
Ochrana soukromí druhých: Nezadávejte do AI nástrojů informace o jiných lidech bez jejich vědomí a souhlasu. To platí pro osobní i pracovní kontext.
Etika v pracovním prostředí
| Situace | Doporučený přístup |
|---|---|
| Psaní e-mailů s pomocí AI | Přijatelné, zkontrolujte obsah před odesláním |
| Generování reportů z interních dat | Ověřte politiku firmy ohledně AI nástrojů |
| Automatizace komunikace se zákazníky | Informujte zákazníky, že komunikují s AI |
| Použití AI pro rozhodování o lidech | Vyžaduje lidský dohled a přezkum |
Kde jsou hranice
Etické používání AI neznamená odmítání technologie. Znamená vědomé rozhodování: vím, co nástroj dělá, vím, jaká jsou jeho omezení, a přebírám odpovědnost za výsledek. Tento přístup je základem pro důvěryhodné a udržitelné využívání AI – v práci i v osobním životě.
Pokud teprve začínáte s AI nástroji a chcete pochopit jejich základní fungování, doporučujeme článek ChatGPT pro začátečníky česky: Jak ho nastavit a hned začít používat.
Časté otázky (FAQ)
Jak poznám, že mi volá AI a ne skutečný člověk? Klonované hlasy mohou být velmi přesvědčivé. Signály zahrnují monotónní intonaci, neobvyklé pauzy a neschopnost reagovat na nečekané otázky. Nejspolehlivější ochrana je rodinné bezpečnostní slovo a pravidlo: při naléhavých žádostech o peníze vždy zavěste a zavolejte zpět na ověřené číslo.
Je bezpečné používat ChatGPT pro pracovní dokumenty? Závisí na obsahu a nastavení účtu. Citlivé firemní informace, osobní údaje zákazníků nebo obchodní tajemství do veřejných AI nástrojů nepatří. Podnikové verze nástrojů nabízejí přísnější záruky, ale vždy si přečtěte podmínky konkrétní služby.
Mohu deepfake video nahlásit a jak? Ano. Na sociálních sítích použijte funkci nahlášení obsahu a označte ho jako manipulované médium nebo dezinformaci. V případě, že deepfake poškozuje vaši osobu nebo jinou konkrétní osobu, je možné věc řešit i právní cestou – v EU poskytuje rámec nařízení o digitálních službách (DSA).
Jak vysvětlím rizika AI podvodů starším příbuzným? Nejúčinnější je konkrétní příklad, ne abstraktní varování. Ukažte jim reálné deepfake video (edukační příklady jsou dostupné online) a projděte s nimi jeden phishingový e-mail. Praktická zkušenost je zapamatovatelnější než teorie. Dohodněte se také na bezpečnostním slově pro telefonáty.
Existují v Česku instituce, na které se mohu obrátit při AI podvodu? Kybernetické podvody řeší Policie ČR – lze podat oznámení online nebo na místním oddělení. Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) vydává varování a doporučení pro veřejnost. Při podvodech s platebními kartami kontaktujte okamžitě svou banku.