Brusel chce zakázat „svlékací aplikace“. Nejde o cenzuru AI, ale o ochranu lidí před digitálním ponížením

Stačí obyčejná fotografie z dovolené nebo profilový snímek na sociálních sítích. Za několik sekund z něj umělá inteligence vytvoří falešný nahý obrázek, který může zničit pověst, vztahy i psychiku oběti. Evropská unie proto chystá zákaz tzv. svlékacích aplikací.

Fotka z dovolené Vám může během několika vteřin změnit život

Ještě před několika lety znělo něco podobného jako námět ze sci-fi filmu. Dnes je to nepříjemná realita. Na internetu fungují desítky webů a mobilních aplikací, které pomocí umělé inteligence dokážou z obyčejné fotografie vytvořit zdánlivě realistický nahý nebo sexuálně explicitní snímek člověka. Nezáleží na tom, že dotyčný nikdy žádnou intimní fotografii nepořídil ani nikomu neposlal. Algoritmus si zbytek jednoduše domyslí.

Právě proti těmto službám nyní míří Evropská unie. Evropský parlament a Rada EU se v květnu 2026 předběžně dohodly na změnách pravidel v rámci AI Actu a balíku Digital Omnibus. Nově by měly být zakázány systémy umělé inteligence, jejichž hlavním účelem je vytváření sexuálně explicitních materiálů s využitím podoby skutečných lidí bez jejich souhlasu.

Co jsou vlastně „svlékací aplikace“?

Přestože se jim lidově říká svlékací aplikace, ve skutečnosti nikoho „nesvlékají“. Fungují jinak. Uživatel do nich nahraje běžnou fotografii člověka, například z Facebooku, Instagramu nebo rodinného alba a umělá inteligence během několika sekund vytvoří obrázek nebo video, které budí dojem, že je daná osoba nahá nebo se účastní sexuálních aktivit.

Výsledný materiál je sice zcela umělý, ale často působí natolik věrohodně, že běžný člověk rozdíl nepozná. Právě v tom spočívá největší nebezpečí. Nejde o skutečnou fotografii, ale její dopad na život oběti může být úplně stejný. Technologie se navíc neustále zdokonaluje. To, co ještě před dvěma lety působilo nepřirozeně, dnes dokáže umělá inteligence vytvořit s překvapivou přesností. Některé služby zvládnou kromě fotografií generovat také videa nebo upravovat hlas.

Nejde o legraci. Oběti přicházejí o soukromí i dobrou pověst

Na první pohled může někomu připadat, že jde jen o hloupý internetový žert. Ve skutečnosti mají podobné obrázky často velmi vážné následky.

Oběť se může stát terčem kyberšikany, vydírání nebo veřejného ponižování. Falešné fotografie se šíří sociálními sítěmi, uzavřenými skupinami i anonymními fóry a jejich odstranění bývá mimořádně obtížné. Člověk pak musí vysvětlovat rodině, partnerovi, zaměstnavateli nebo spolužákům, že snímek není skutečný.

Psychologové upozorňují, že následky mohou být podobně závažné jako u úniku opravdových intimních fotografií. Objevují se úzkosti, deprese, ztráta sebedůvěry nebo strach z používání sociálních sítí. Nejvíce ohrožené jsou ženy a nezletilí, ale obětí se může stát kdokoli.

Děti patří mezi nejzranitelnější

Zvlášť citlivou kapitolou jsou nezletilí. Odborníci upozorňují, že podobné nástroje mohou být zneužívány ke kyberšikaně mezi spolužáky. Stačí fotografie ze školního výletu nebo třídního profilu a během okamžiku vznikne falešný pornografický materiál. Ten se následně začne šířit mezi studenty nebo po internetu.

Ještě závažnější je možnost zneužití při tzv. groomingu, tedy manipulaci dětí prostřednictvím internetu. Falešné intimní materiály mohou sloužit k vydírání nebo psychickému nátlaku. Právě proto se nové evropské předpisy zaměřují také na systémy, které vytvářejí materiály zobrazující sexuální zneužívání dětí.

Proč nestačí obrázky jen označit jako umělé?

Dosavadní evropská pravidla pro umělou inteligenci stavěla hlavně na transparentnosti. Pokud byl obrázek vytvořen pomocí AI, měl být odpovídajícím způsobem označen. Jenže u svlékacích aplikací se ukázalo, že to nestačí.

I kdyby byl obrázek opatřen upozorněním, že jde o výtvor umělé inteligence, škoda už mohla být napáchána. Falešná fotografie se totiž začne šířit internetem a většina lidí žádné upozornění neřeší. Oběť pak musí dokazovat, že snímek není pravý.

Evropská unie proto mění přístup. Tentokrát už nechce pouze označovat obsah, ale zaměřuje se přímo na nástroje, které jsou pro podobné zneužití vytvořené. Pokud je hlavním účelem aplikace generování sexuálně explicitních materiálů bez souhlasu zobrazované osoby, neměla by být na trhu vůbec dostupná.

Česká republika už podobné jednání trestá

Zatímco Brusel se soustředí především na poskytovatele těchto technologií, Česká republika už udělala krok směrem k postihování pachatelů.

Od 1. ledna 2026 platí nový § 191a trestního zákoníku nazvaný Zneužití identity k výrobě pornografie a její šíření. Postihuje výrobu, nabízení i šíření pornografických materiálů vytvořených bez souhlasu zobrazované osoby. Pachatelům hrozí až dva roky vězení, v závažnějších případech tři až pět let.

Jinými slovy: české právo postihuje člověka, který podobný obsah vytváří nebo šíří. Evropská unie chce navíc omezit samotné nástroje, které to umožňují.

Je to cenzura, nebo ochrana lidí?

Kritici evropských regulací často upozorňují na riziko přílišného zasahování do technologického vývoje. V tomto případě je ale situace odlišná. Svlékací aplikace nemají prakticky žádné legitimní využití. Neusnadňují práci lékařům, vědcům ani grafikům. Jejich obchodní model je založený především na tom, že zneužívají podobu skutečných lidí bez jejich vědomí a souhlasu.

Právě souhlas je přitom tím nejdůležitějším slovem celé debaty.

Nezáleží na tom, že vytvořený obrázek není skutečný. Podstatné je, že využívá identitu konkrétní osoby způsobem, který ji může poškodit, zesměšnit nebo vystavit psychickému utrpení. Z pohledu oběti jsou následky často velmi reálné.

Úplný konec podobných služeb ale zatím nečekejme

Ani připravovaný zákaz pravděpodobně všechny podobné aplikace neodstraní. Část z nich funguje mimo Evropskou unii, některé využívají anonymní servery, kryptoměny nebo se rychle přesouvají mezi různými doménami. Existují také open-source modely a anonymní boti na komunikačních platformách, které bude jen velmi obtížné kontrolovat.

Přesto odborníci očekávají, že regulace výrazně omezí běžně dostupné komerční služby a zkomplikuje jejich provoz. To může znamenat méně obětí a lepší ochranu lidí, kteří se dnes mohou stát terčem útoku jen proto, že někdo zneužije jejich fotografii ze sociálních sítí.

Technologie má lidem pomáhat, ne je ponižovat

Umělá inteligence přináší obrovské možnosti. Dokáže pomáhat lékařům při diagnostice, překládat cizí jazyky, vytvářet nové léky nebo usnadňovat každodenní práci milionům lidí. Stejná technologie se ale může stát i nástrojem šikany, vydírání a ponižování.

Právě proto se Evropská unie rozhodla zasáhnout. Nejde o zákaz umělé inteligence jako takové ani o boj proti technologickému pokroku. Cílem je zabránit tomu, aby se z lidské identity stalo zboží, které lze několika kliknutími proměnit v nástroj veřejného ponížení.