Deepfake aneb AI jako nástroj trestných činů

Rubrika: Vzdělání Zveřejněno: neděle 1. březen 2026 Autor Vojtěch Gabriel Vytisknout E-mail

S výtvory AI se setkal v dnešní době asi každý. Někdy je používána vtipně, někdy nám výrazným způsobem usnadňuje práci, někdy je úplně k ničemu a někdy se dá velmi snadno zneužít. Kdo s ní alespoň trochu umí, tak si dokáže výrazně zlepšit práci a bude mít do budoucna obrovský náskok oproti tomu, kdo ji bude odmítat. V opakujících se činnostech nahradí člověka již nyní, a někdy jej nahradí i v činnostech značně kreativních. Co vy víte, třeba je tento následující text jen výtvorem AI, které bylo napsáno zadání a o zbytek se postaral procesor a jedničky a nuly.

Protože každou dobrou věc lze zneužít, tak ihned potom, co AI překročila určitou hranici autenticity, byla zneužita lidmi pro trestnou činnost. Když si otevřete například youtube, tak zde najdete výraznou část videí, které jsou výtvorem umělé inteligence. Někoho sežere žralok, jiný skáče do hlubin propasti, s někým se protrhne bazén ve výškové budově… poměrně neškodné záležitosti. Ovšem pak už tam najdete videa, na kterých jsou známé osobnosti, nejčastěji herečky, které jsou spoře oděny, procházejí se po pláži a provokativně pokukují do kamery. To asi není jejich oficiální a skutečné video, které daná celebrita chtěla dát na sociální sítě. Takové video může být na první pohled neškodné, ale je pomyslným překročením Rubikonu… v dalším kroku totiž AI zadáte, aby herečka na sobě neměla nic, a s procházením po pláži bude konec. Ano, odpovědní tvůrci AI platforem se snaží takové úpravy zakázat, stejně tak jako generování fotografií malých dětí, ale znáte to. Kde jsou peníze, tam se najdou ti, co pravidla porušují. Platforem, kam zadáte jen fotografii obličeje a program vám vygeneruje neoblečenou „reálnou“ postavu, je řada. Ovšem fotografií to nekončí, jako vyšší level nastupuje video!

AI porn generátory používají pokročilé algoritmy strojového učení k vytvoření syntetického obsahu pro dospělé. Tyto systémy analyzují obrovské soubory explicitního materiálu, aby pochopily lidskou anatomii, sexuální polohy a erotické scénáře, a poté mohly na základě uživatelských pokynů generovat zcela nový obsah. Technologie, na které tyto platformy stojí, je skutečně „působivá“. Využívají difúzní modely pro vylepšenou kvalitu obrazu, zpracování přirozeného jazyka pro pochopení textových pokynů a techniky počítačového vidění pro analýzu a replikaci lidských pohybů. Nedávné statistiky ukazují, že obsah generovaný umělou inteligencí se nyní objevuje v 97 % nejoblíbenějších porno videích, což představuje masivní posun ve způsobu, jakým se zábava pro dospělé vytváří a konzumuje. Není problém se do takových generátorů zaregistrovat, zaplatit a můžete tvořit… Tedy pokud slovo tvořit je možné k takové „debilní“ činnosti vůbec použít. Příkladem takových generátorů je PornWorks AI, Promptchan či Seduced AI. Pokud máte pocit, že jsem teď někomu prozradil, kde a co má hledat, tak ne. Já doposud neznal jeden jediný generátor, ale vyhledávač vám ho najde během několika málo sekund a ještě vám dá doporučení, který opravdu stojí za to!

Je tedy jasné, že legislativa musela zareagovat a jasně stanovit pravidla, co jde a co je již za hranou. Proto na počátku tohoto roku vstoupil v platnost nový trestný čin zneužití identity k výrobě pornografie a její šíření (§ 191a trestního zákona). Vzniká nová skutková podstata trestného činu zneužití identity k výrobě pornografie a její šíření.

Důvodem vzniku skutkové podstaty zneužití identity k výrobě pornografie je postižení nekonsenzuální pornografie, zejména tzv. deepfake pornografie. Vytvořením nové skutkové podstaty splnila Česká republika povinnosti vyplývající ze směrnice Evropského parlamentu a Rady (EU) 2024/1385 o potírání násilí na ženách a domácího násilí. Tento trestný čin může být naplněn i jednáním právnické osoby.

A jaká je definice deepfake dle důvodové zprávy? "Deepfake (ve stručnosti a zjednodušeně) představuje technologickou (často za užití nástrojů umělé inteligence) realistickou úpravu videa (přeneseně též filmů či fotografií apod.), která spočívá v tom, že aktéři videa vykonávají činnosti, které nikdy reálně nevykonávali, popř. ne v kontextu daného videa."

Změny trestního zákoníku nesměřují k zákazu deepfake jako takovému. Respektují totiž ústavně zaručené právo na svobodu projevu, včetně např. satiry. Nicméně nekonsenzuální pornografie ústavněprávní limity z podstaty věci překračuje, tedy lze si stěží představit situaci, kdy by na miskách vah převážilo ústavou zaručené právo na svobodu projevu na deepfake nekonsenzuální pornografii.

Nekonsensuální pornografie

Nekonsensuální pornografie (angl. non-consensual pornography) se vztahuje k neoprávněnému pořizování a šíření intimních materiálů sexuální povahy bez svolení osoby, která je na nich zachycena. Klíčovým znakem tohoto jevu je právě chybějící souhlas zobrazované osoby, a to buď při samotném vzniku materiálu, nebo při jeho zpřístupnění dalším osobám. Může jít jak o obsah pořízený skrytě, tedy bez vědomí dotčené osoby, tak o distribuci materiálů, které byly původně vytvořeny dobrovolně, avšak s předpokladem, že zůstanou výhradně soukromé. Přestože bývají pojmy nekonsensuální pornografie a revenge porn v běžném jazyce často ztotožňovány, odborný pohled mezi nimi rozlišuje. Termín revenge porn, dříve rozšířený zejména v médiích, je postupně nahrazován přesnějším označením nekonsensuální pornografie. Revenge porn typicky popisuje situace, kdy bývalý partner zveřejňuje intimní materiály s cílem poškodit druhou osobu z pomsty. Naproti tomu nekonsensuální pornografie představuje širší kategorii případů neoprávněného nakládání s intimním obsahem bez ohledu na motiv pachatele. Motivace přitom mohou být různé – od finančního prospěchu přes snahu získat pozornost až po sexuální uspokojení.

Současně je vhodné zmínit i širší koncept sexuálního zneužívání založeného na obrazovém znázornění (angl. image-based sexual abuse), do něhož spadá jak nekonsensuální vytváření, tak sdílení intimních materiálů sexuální povahy. Tento rámec zahrnuje rovněž vyhrožování zveřejněním takového obsahu, nátlak vedoucí k jeho poskytnutí či nevyžádané zasílání intimních materiálů jiné osobě.

Taylor Swift – AI-generované explicitní obrázky - V lednu 2024 se na sociálních sítích objevily sexuálně explicitní deepfake obrázky americké zpěvačky Taylor Swift, které byly generované pomocí AI a šířeny bez jejího souhlasu. Některé z těchto snímků měly miliony zhlédnutí, než byly odstraněny platformami jako X a dalšími.

Empirické poznatky ukazují, že i v českém prostředí je sdílení intimních materiálů sexuální povahy relativně časté. Výzkum společnosti ESET z roku 2022 konstatoval, že k jejich předávání dochází nejčastěji mezi partnery. Téměř čtvrtina nezletilých (23 %) a téměř pětina dospělých (17 %) však uvedla, že zaslala intimní fotografie či obdobný obsah také osobě známé pouze z online prostředí. U nezletilých je tato zkušenost nejvýraznější ve věkové kategorii 12 až 15 let (28 %). Zcela neznámé osobě za účelem navázání erotického kontaktu poskytla intimní materiál bez předchozí dohody přibližně třetina dospělých (31 %) i nezletilých (28 %). Necelá třetina dotázaných nezletilých zároveň připustila, že sdílí intimní obsah pro zábavu nebo s cílem vyvolat reakci. I dobrovolné sdílení takových materiálů může vést k rizikovým situacím, a to jak ve vztahu k blízkým osobám, tak k neznámým kontaktům. Počáteční komunikace přitom nemusí nutně obsahovat varovné signály, přesto může později dojít ke zneužití materiálů. Takové jednání může pod hrozbou zveřejnění eskalovat až k nátlaku na fyzický kontakt či vynucování sexuálních aktivit. Tento typ tlaku vyvolává u obětí silné obavy z možných následků, čímž oslabuje jejich schopnost adekvátně reagovat.

Rizikovost sdílení intimního obsahu navíc zesiluje technologický pokrok. Moderní nástroje založené na umělé inteligenci umožňují vytvářet syntetické materiály, které věrně imitují vzhled konkrétních osob. Výsledné výstupy jsou často téměř nerozeznatelné od skutečných záznamů. Přestože lze tyto technologie využít legitimně, například ve vzdělávání či filmovém průmyslu, jejich potenciál ke zneužití je značný. Výrazné negativní dopady deepfake technologií se projevují zejména v oblasti lidské sexuality, kde lze generovat pornografický obsah bez vědomí či účasti zobrazované osoby. Takový materiál je následně snadno šiřitelný v online prostředí. Odhalování tohoto typu závadového obsahu je technicky náročné a vyžaduje specializované metody vizuální analýzy. I v případech, kdy je nepravost materiálu rozpoznatelná, mohou být následky pro oběť závažné – od reputačních škod až po zásahy do psychické pohody a sociálního života.

Ačkoli lze deepfake technologie použít k tvorbě obsahu různých typů, dostupné analýzy naznačují, že 98 % deepfake videí publikovaných online má pornografický charakter a 99 % zobrazovaných osob tvoří ženy. Nejčastějšími terči bývají veřejně známé osobnosti, především herečky, političky a novinářky. V českém kontextu zatím chybí reprezentativní studie mapující rozsah využití deepfake technologií a míru viktimizace. Lze však připomenout varování České asociace umělé inteligence z roku 2023 týkající se rychlého šíření tzv. svlékacích aplikací, které využívají difuzní modely k syntetickému odhalování těla zachycených osob. Tyto nástroje jsou často po jednoduché registraci dostupné zdarma. Zahraniční výzkum realizovaný v roce 2024 na vzorku 16 000 respondentů z deseti zemí přinesl zjištění, že 2,2 % dotázaných zažilo viktimizaci prostřednictvím deepfake pornografie, zatímco 1,8 % respondentů přiznalo vlastní účast na tvorbě či šíření takového obsahu.

Grok / X chatbot deepfake scandal (2025-2026) - AI chatbot Grok, integrovaný do platformy X (dříve Twitter), byl v letech 2025–2026 kritizován a vyšetřován kvůli generování non-konsensuálních sexuálně explicitních deepfake obrázků, včetně úprav uživatelů a někdy i osob vypadajících jako nezletilé. Platforma čelila vyšetřování v EU i dalším zemím kvůli šíření takového obsahu.

Rozvoj moderních informačních a komunikačních technologií je spojen s nárůstem případů nekonsensuální pornografie, což vyvolalo potřebu adekvátní právní reakce. Počáteční přístupy se soustředily zejména na samoregulační opatření, typicky odstraňování závadového obsahu ze strany digitálních platforem či poskytovatelů internetových služeb. V posledních letech je však patrný posun směrem k trestněprávní regulaci.

Na úrovni Evropské unie lze v posledních letech sledovat přijímání progresivních opatření zaměřených na omezení kybernetického násilí. Významnou roli hraje nařízení o digitálních službách (Digital Services Act), které ukládá velkým digitálním platformám povinnost odstraňovat škodlivý obsah. Tento nástroj přispívá i k eliminaci intimních či manipulovaných materiálů šířených bez souhlasu zobrazované osoby. Dalším klíčovým opatřením je Akt o umělé inteligenci (AI Act), jehož cílem je zmírňovat rizika spojená s využíváním deepfake technologií. Zavádí mimo jiné požadavek na jasné označování synteticky generovaného obsahu, čímž posiluje transparentnost. Zásadní význam má rovněž směrnice Evropského parlamentu a Rady 2024/1385 o potírání násilí na ženách a domácího násilí, která vytváří komplexní rámec zahrnující vymezení trestných činů, sankce, ochranu obětí, prevenci i podporu spolupráce mezi členskými státy. Ty jsou povinny implementovat požadavky této směrnice do svých právních řádů nejpozději do konce června 2027.

Trestný čin konkrétně

Nový trestný čin opouští dřívější koncepci, která stavěla hranice trestnosti na podvodném jednání pachatele. Právní úprava se nyní soustředí na samotnou podstatu zásahu, tedy na ochranu lidské důstojnosti a soukromí jednotlivce. Významnou roli zde hraje právo na informační sebeurčení v sexuální oblasti, které je součástí ústavně zaručeného práva na soukromí. Tento koncept klade důraz na kontrolu nad shromažďováním, uchováváním a sdílením informací o osobě, což nabývá zvláštního významu v prostředí kyberprostoru.

Základní skutková podstata podle § 191a odst. 1 trestního zákoníku stanoví horní hranici trestní sazby odnětí svobody na dva roky, přičemž dolní hranice není určena. Kvalifikované skutkové podstaty reflektují vyšší stupeň závažnosti a obsahují výčet zvlášť přitěžujících okolností. V nejpřísnější variantě může být pachatel potrestán odnětím svobody až na pět let. Konstrukce trestních sazeb tak navazuje na dřívější úpravu poškození cizích práv.

Problematické může být dokazování souhlasu zobrazované osoby. Souhlas musí být udělen svobodně, bez nátlaku či manipulace. Nejvyšší důkazní hodnotu má písemná či jinak zachycená dokumentace, nicméně v některých případech lze souhlas dovozovat i z chování osoby a okolností případu. Tento nepřímý způsob prokazování je však méně jistý.

Skutková podstata vykazuje podobnosti s trestným činem šíření pornografie podle § 191 trestního zákoníku, zejména pokud jde o široký výčet forem jednání pachatele. Samotná výroba zahrnuje jakékoliv vytvoření pornografického díla, bez ohledu na jeho profesionální úroveň. Naproti tomu pouhé držení nekonsensuální pornografie zůstává mimo rámec kriminalizace. Zpřístupnění prostřednictvím veřejné počítačové sítě bude pravděpodobně představovat typický případ kvalifikované skutkové podstaty.

Předmětem ochrany je pornografické dílo, u něhož pachatel ví o absenci souhlasu zobrazované osoby. Posouzení, zda jde o pornografii, vychází z ustálených kritérií judikatury. Materiály s erotickým charakterem, které tato kritéria nenaplňují, zůstávají mimo působnost ustanovení.

Trestní stíhání tohoto deliktu je v určitých situacích podmíněno souhlasem poškozeného, což řeší kolizi mezi veřejným zájmem a ochranou vztahů mezi poškozeným a pachatelem.

Rozšíření trestného činu o poškození cizích práv

V průběhu legislativního procesu došlo rovněž k doplnění skutkové podstaty trestného činu poškození cizích práv. Nově je postihována výroba či šíření díla, které se jeví jako pravé, přestože pachatel ví, že pravé není. Tato úprava reaguje na rizika deepfake technologií i mimo oblast sexuality. Dokonání činu není podmíněno vznikem újmy, postačuje úmysl ji způsobit. Trestní sazba odpovídá základní skutkové podstatě § 191a.

Důležitá je tedy i část věty na konci definice tohoto trestného činu: …spočívá v tom, že aktéři videa vykonávají činnosti, které nikdy reálně nevykonávali… To znamená jednu zásadní věc. Můžete vytvořit realistické video například s politikem, jak přijímá úplatky, a to pak poslat na sociální sítě. Video může způsobit třeba i v extrému začátek revoluce, či politického pádu dané osoby. Tedy deepfake není jen o pornografii! Takže „Vrtěti psem“ nebylo nikdy tak snadné, jako nyní.

Závěrem

Na začátku tohoto textu jsem psal, že nemůžete vědět o tom, zda takový text náhodou není dílem AI v celém rozsahu. Není, v celém rozhodně ne. Na stranu druhou je jeho odborná část dílem jak člověka, tak AI. Jedná se totiž o text napsaný autory JUDr. Jakubem Chromým, státním zástupcem Nejvyššího státního zastupitelství a JUDr. Zuzanou Minářovou, rovněž státní zástupkyní Nejvyššího státního zastupitelství. Text nese titulek Nekonsensuální pornografie a nový trestný čin podle § 191a trestního zákoníku (1. a 2. část). Ovšem nejedná se o prosté zkopírování textu, ale o jeho přenesený obsah pomocí AI. Slova jsou v podstatě jiná, ale obsah je ponechán. Tímto se oběma autorům omlouvám, ale právě i tímto způsobem jsem chtěl poukázat na to, jak je jednoduché v dnešní době něco „vytvořit“. Nechtěl bych být v současné kůži například profesorů, kteří jsou oponenty magisterských či jiných prací. Máte před sebou rozsáhlý text a ani netušíte, zda jej psal člověk…

Umělá inteligence je jistě dobrý sluha, ale stejně, jako mluví lidové přísloví o ohni, tak totéž platí i o ni. Zlý pán!

Zobrazení: 330