Co vláda schválila a proč na to reaguje právě teď
Vláda schválila návrh zákona, který má zpřísnit tresty za zneužívání identity pomocí umělé inteligence, zejména v případech deepfake obsahu. Cílem je postihnout situace, kdy někdo bez souhlasu vytvoří nebo šíří realisticky působící video, hlasovou nahrávku či fotografii, aby poškodil pověst, vylákal peníze nebo vydíral konkrétní osobu. Zásah míří na rostoucí problém, který se z okrajového internetového fenoménu stal běžným nástrojem podvodníků.
Podle bezpečnostních expertů se deepfake útoky šíří hlavně proto, že technologie je dnes levná, rychlá a snadno dostupná. K vytvoření věrohodné imitace hlasu často stačí desítky sekund zvukového vzorku, u videa bývá dostačující několik fotografií a krátká referenční nahrávka. To dramaticky snižuje bariéru pro útočníky a zvyšuje tlak na firmy, redakce i běžné uživatele, aby uměli podobné podvrhy včas rozpoznat.
Jak deepfake útoky fungují v praxi
Deepfake není jen „falešné video“. V praxi jde o širší soubor technik, které mají napodobit identitu člověka tak přesvědčivě, aby adresát uvěřil, že komunikuje s reálnou osobou. Nejčastěji se zneužívá hlas, obličej, mimika a styl vyjadřování. Útok obvykle neprobíhá izolovaně, ale v kombinaci s phishingem, podvodným telefonátem nebo manipulací na sociálních sítích.
- Voice deepfake: falešný hlas generovaný z krátkého vzorku, často při „urgentním“ telefonátu na finance nebo HR.
- Video deepfake: upravené video, kde osoba údajně žádá o převod peněz, potvrzení transakce nebo kompromitující výrok.
- Image deepfake: falšované fotografie používané k vydírání, dezinformacím nebo reputačním útokům.
- Hybridní podvod: kombinace deepfake a e-mailu, kdy jedna část má oběť přesvědčit k rychlé akci a druhá dodat „důkaz“.
Typický scénář vypadá tak, že zaměstnanec dostane hlasovou zprávu údajného nadřízeného s pokynem k urgentní platbě. V roce 2024 se podobné podvody objevily v evropských firmách i v Česku, přičemž škody se pohybovaly od desítek tisíc až po miliony korun. Útočníci spoléhají na časový tlak, autoritu a psychologii „nechci udělat chybu“.
Co se mění pro pachatele, oběti i firmy
Nová právní úprava má především zjednodušit postih situací, kdy je identita zneužita pomocí generativní AI. V praxi to znamená, že policie a soudy dostanou jasnější rámec pro posouzení škody, úmyslu a míry zásahu do práv oběti. Tresty mají být přísnější zejména v případech, kdy deepfake slouží k podvodu, vydírání, pomluvě nebo neoprávněnému obohacení.
Pro firmy to není jen právní téma, ale i provozní riziko. Útok pomocí deepfake může obejít klasické bezpečnostní návyky, protože zaměstnanec slyší „známý hlas“ nebo vidí „známou tvář“. Zvlášť ohrožené jsou finanční týmy, zákaznická podpora, HR oddělení a média. U veřejně známých osob jde navíc o reputační škodu, která může vzniknout během hodin a napravuje se týdny až měsíce.
Užitečný je jednoduchý princip: čím vyšší je finanční nebo reputační dopad rozhodnutí, tím více ověřovacích kroků má být povinných. To znamená například druhý komunikační kanál, callback na známé číslo, interní schvalování nebo podpis přes zabezpečený systém. V praxi často nejde o drahou technologii, ale o dobře nastavený proces.
Jak poznat deepfake dřív, než způsobí škodu
Rozpoznání deepfake není stoprocentní, ale existuje několik signálů, které by měly okamžitě zpozornět. U videa bývají podezřelé nepřirozené pohyby rtů, nevyrovnané osvětlení, artefakty kolem vlasů, nestandardní mrkání nebo deformace pozadí. U hlasu může být slyšet příliš hladká intonace, chybějící šum prostředí, zvláštní pauzy nebo nesoulad mezi emocí a obsahem sdělení.
- Nečekaná urgence: „Musí se to udělat hned“ je častý manipulační prvek.
- Požadavek na tajnost: pachatel často zakazuje ověření u kolegů nebo rodiny.
- Neobvyklý jazyk: i dobrý model někdy selže v odborných termínech nebo lokálních výrazech.
- Rozdíl v komunikačním stylu: jiný tón než obvykle, formálnost nebo naopak nepřirozená familiárnost.
Pro firmy je vhodné zavést jednoduchý ověřovací test. Pokud zazní žádost o převod peněz, změnu bankovního účtu nebo sdílení citlivých dat, má se komunikace vždy potvrdit přes druhý kanál. Typicky se používá telefonát na číslo uložené v interním adresáři, nikoli číslo z příchozí zprávy. U citlivých operací se vyplatí i pravidlo „dvou párů očí“, tedy schválení dvěma osobami.
Existují i technické nástroje pro detekci manipulace, například řešení od firem jako Reality Defender, Sensity nebo interní systémy pro detekci syntetického hlasu. Je ale důležité vědět, že detekce není neomylná a neměla by nahrazovat procesní kontrolu. Nejlepší obrana je kombinace techniky, školení a jasných pravidel.
Co mají udělat weby, média a online značky
Majitelé webů, redakce i marketingové týmy by měli počítat s tím, že deepfake útok nemusí mířit jen na jednotlivce, ale i na značku. Podvržené video „ředitele firmy“ může poškodit důvěru zákazníků, vyvolat paniku na sociálních sítích nebo ovlivnit obchodní výsledky. U médií zase hrozí zneužití falešných záběrů jako údajného důkazu v dezinformačních kampaních.
Praktický postup by měl obsahovat několik kroků:
- Publikovat jasný ověřovací kontakt: samostatný e-mail nebo formulář pro nahlášení podezřelého obsahu.
- Využívat autentizaci obsahu: digitální podpis, metadata, archivace originálních souborů a časových razítek.
- Školit tým pro krizovou komunikaci: kdo odpovídá, kdo ověřuje a do kolika minut se reaguje.
- Mít připravený postup pro sociální sítě: nahlášení platformě, veřejné dementi, právní eskalace.
- Kontrolovat brand monitoring: hlídat nové zmínky, falešné profily a podezřelé videoobsahy.
U webového obsahu je užitečné přidávat zdrojové informace, autorství a datum publikace. Pokud firma pracuje s videem, vyplatí se ukládat originální záznamy a verze po úpravách. V prostředí, kde AI generuje stále realističtější obsah, pomáhá právě prokazatelnost původu. To je důležité nejen pro SEO a důvěryhodnost, ale i pro případné právní spory.
Jak nastavit ochranu do 30 dnů
Nejrychlejší cesta není nákup nejdražšího nástroje, ale zavedení několika konkrétních opatření během jednoho měsíce. První týden by měl patřit auditu rizik: kdo ve firmě může rozhodovat o penězích, kdo komunikuje s externisty a kdo je veřejně vidět. Druhý týden je vhodný pro úpravu interních pravidel, zejména ověřování plateb, změn účtů a předávání citlivých dat.
Třetí týden by měl být věnován školení. Krátký trénink na 20 až 30 minut s reálnými příklady deepfake útoků má větší efekt než obecné bezpečnostní prezentace. Zaměstnanci si mají vyzkoušet, jak poznat podezřelou urgenci, kam hlásit incident a jak potvrdit identitu volajícího. Čtvrtý týden pak patří testu: simulovanému podvodu, kontrolnímu call-backu a kontrole, zda proces opravdu funguje.
Pro menší firmy stačí často několik levných opatření: dvoufaktorové ověření, interní seznam ověřených kontaktů, jasné schvalování plateb a pravidlo, že žádná urgentní žádost se neřeší jen přes jeden komunikační kanál. Pro větší organizace dává smysl doplnit monitoring sociálních sítí, nástroje pro detekci syntetického hlasu a krizový plán pro reputační incidenty. Nový zákon sice zpřísňuje postihy, ale sám o sobě útokům nezabrání. Rozhodující zůstává rychlost rozpoznání, kvalita ověření a to, zda organizace umí na podezřelý deepfake reagovat během minut, ne dnů.
