Nahota všude. Robot už dokáže svléknout každou ženu, obrana neexistuje

Nenahrávejte nikam na internet své nahé fotky ani je nikomu neposílejte, radí odborníci i Policie ČR. Takové snímky se mohou snadno stát nástrojem vydírání.

Tato rada je samozřejmě nadále platná. Jenže před tím, aby po webu kolovaly nahé fotky vás nebo vašich dětí, vás už obezřetnost neochrání. Takové nahé fotky může totiž z jediného snímku vytvořit opravdu kdokoli. A trvá to jen několik sekund.

Snímek vlevo (oblečená žena) je vygenerovaný nástrojem Midjourney. Tento snímek jsme následně poslali do služby, která jej na počkání „svlékla“. Celý proces trval necelou minutu. Pokud si někdo takovou službu předplatí (ceny začínají přibližně na 80 korunách za 20 montáží), nemusí údajně čekat více než 10 sekund.

Poznámka: V článku ukazujeme rozpixelované nebo rozostřené snímky nahoty. Původní výsledky ale takto upravené nejsou a prezentují realisticky vyhlížející nahotu. Redakce Seznam Zpráv se v souladu s kodexem rozhodla neuvádět názvy konkrétních svlékacích aplikací a služeb a nepodílet se tak na jejich propagaci. Existuje celá řada klonů založených zjevně na stejném nebo podobném software.

Fotomontáže nejsou nic nového. Ale dosud bylo pro vytvoření fotorealistické iluze nutné využít speciální aplikace a služeb zkušeného grafika. Také bylo obvykle potřeba využít zdrojové snímky, a to nejen snímky „svlékané osoby“, ale i „náhradní tělo“, ze kterého nahota pocházela.

Už rok jsou na internetu k dispozici nástroje postavené na open source modelu Stable Diffusion, který umí generovat obrázky a fotografie dle textového zadání. Generování snímků bylo relativně snadné, ale náročné na čas. Obvykle také snímky nevypadaly úplně realisticky a bylo jednoduché poznat, že nejde o skutečné fotografie.

Tím, že je neuronová síť Stable Diffusion k dispozici všem jako volně dostupný software, objevily se brzy různé varianty tohoto nástroje. A řada těchto klonů jasně deklarovala, co je jejich cílem: vytvářet nahé, realisticky vypadající snímky žen.

Protože tyto nástroje byly a jsou zdarma ke stažení, neexistuje způsob, jak jejich provoz omezit nebo monitorovat. Třeba služba Midjourney generuje snímky na svých serverech, a má tak pod kontrolou všechny výstupy. Ale model Stable Diffusion může kdokoli rozběhnout na svém počítači, a tyto výsledky jsou samozřejmě již z principu nekontrolovatelné.

Stable Diffusion umí obrázky nejen generovat, ale také upravovat existující fotografie. Neuronová síť pak „opraví“ jen vybranou část snímku a zbytek nechá nedotčený. To otevírá svět fotomontáží prakticky komukoli, kdo o to má zájem.

Takzvané „svlékací aplikace“ se poprvé objevily už v roce 2019. Výsledky ale byly nepřesvědčivé a nejednalo se obvykle o fotorealistické snímky. Aplikace také neuměla „domyslet“ tělo pod šaty, a fungovala jen na snímcích v plavkách nebo upnutém oblečení.

S nástupem vyššího výpočetního výkonu, lepších algoritmů a sítí vytrénovaných na větším množství fotek se ale výsledky generátorů obrázků razantně zlepšily. A podnikavá „komunita fanoušků NSFW generátorů“ se chopila příležitosti na tom vydělat (NSFW = not safe for work, není vhodné prohlížet v práci, tedy explicitní snímky obsahují nahotu apod.).

Jak takový nástroj zpeněžíte? Někteří provozovatelé využívají komunikační síť Telegram k provozu „chatbota“, který na počkání svlékne prakticky jakoukoli ženu. Zvládne to tedy opravdu každý, kdo umí poslat fotku přes mobil.

Automat využívající umělou inteligenci napřed identifikuje části fotky, které jsou „nežádoucí“, v tomto případě oblečení. Následně je označí a dle textových instrukcí („nahá“ nebo „v prádle“) vygeneruje části fotky tak, aby odpovídaly zbytku fotky. Celý proces trvá několik minut pro neplatící uživatele, pro platící údajně jen několik sekund.

Vygenerované montáže občas obsahují podivné artefakty, celkově jsou ale výsledky fotorealistické. Pokud není na snímku zrovna vaše tělo, jen těžko byste na první pohled poznali, že jde o fikci.

„V minulosti nástroje pro úpravu fotografií vyžadovaly značné odborné znalosti,“ připomíná Luis Corrons, bezpečnostní expert Avastu. „S nástupem umělé inteligence se vytváření zmanipulovaných obrázků stalo dostupnějším i sofistikovanějším.“ Současné nástroje podle něj umožňují manipulovat s obrázky v reálném čase. Rozlišit takové fotomontáže od skutečných fotek je stále obtížnější.

Uživatel může obvykle zkusit několik fotek zdarma, poté musí za generování platit částky v řádu několika korun za vygenerovaný snímek.

Řada podobných služeb funguje v rámci komunikační platformy Telegram a Discord. Další běží jako webová stránka. Některé po uživateli vyžadují, aby nástrojem označil oblečení, které má být odstraněno, většina to ale dělá automaticky.

Kromě toho existují i varianty, které může kdokoli se základními znalostmi práce na počítači vyzkoušet u sebe doma. Postačí k tomu téměř libovolný novější notebook s grafickou kartou. Takto pak může uživatel vygenerovat prakticky libovolné množství „svlečených fotek“, aniž by za to musel platit nebo tuto činnost mohl kdokoli vzdáleně kontrolovat.

Svlékacích aplikací přibylo především v posledních měsících. Často se jedná o zjevné kopie a klony nějaké původní aplikace. Za provozem některých těchto klonů stojí podle vnějších znaků provozovatelé z Ruska, u jiných jsme věrohodné indicie nenašli.

Nejčastěji o sobě aplikace tvrdí, že slouží „výhradně k zábavě“. Některé nemají žádné podmínky použití, jiné uvádějí, že zakazují nahrávání fotek nezletilých a fotek lidí bez jejich souhlasu. Často také zakazují použití pro nelegální účely. Ze zkušeností, které lze na fórech dohledat, je ale zřejmé, že jde o bezzubé deklarace.

Provozovatel jedné ze svlékacích aplikací pro magazín Wired uvedl, že nedělá nic špatného a že záleží na uživateli, k čemu aplikaci použije: „Všechno [co používáme] je volně dostupné. Pokud se někdo rozhodne tuhle zábavnou aplikaci sobecky zneužít, tak za to je zodpovědný, tak se z toho musí on zodpovídat.“ Na dotazy Seznam Zpráv nikdo z oslovených provozovatelů nezareagoval.

Do povědomí veřejnosti se rizika spojená se svlékacími aplikacemi dostala v souvislosti s případem z města Almendralejo na jihu Španělska. Desítky nezletilých dívek z místní školy zjistily, že jejich nahé fotky si mezi sebou posílají spolužáci. To je samo o sobě celkem běžná forma kyberšikany v případě, že někdo vyláká nebo bez povolení dále šíří něčí nahé selfie fotky. Tyto dívky, kterým je všem mezi 11 a 17 lety, ale žádné takové snímky nepořídily.

„Víš, mami, po internetu běhá fotka s mým obličejem a nahým tělem,“ řekla nezletilá dcera své matce při nakupování, jak popisuje španělský web El Pais. „Tys ale žádné takové fotky nepořídila?“ ptala se šokovaná matka. „Ne, mami, ne. To je taková věc, co teď dělají. Hodně holkám z naší školy udělali stejnou věc.“

Dívky uvedly, že poté čelily posměchu ve škole, bály se jít na veřejnost a měly další psychické problémy. „Možná to začalo jako vtip, ale důsledky jsou mnohem větší a mohou mít vážné následky pro ty, kdo tyto fotografie pořídili,“ říká starosta Almendraleja. Policie zatím identifikovala minimálně 11 podezřelých, kteří se podíleli na tvorbě montáží a jejich šíření.

Přestože nejde o skutečné nahé snímky, dopady na psychiku mohou být podobné, jako když uniknou opravdové intimní fotky. S tím rozdílem, že úniku nahých snímků může člověk zabránit tím, že žádné nahé snímky svého těla nebude pořizovat.

Jenže ve chvíli, kdy na vygenerování takového snímku stačí jediná fotografie a minuta volného času, je obrana proti zneužití prakticky nemožná.

„Uživatelé by si měli uvědomit, že každý obrázek, který na internet nahrají, lze zneužít, a to i v jiném než sexuálně explicitním kontextu,“ připomíná Luis Corrons. „Jediná ochrana je vyvarovat se sdílení osobních fotografií na veřejných platformách nebo s neznámými osobami.“ Doporučuje také pravidelně kontrolovat a upravovat nastavení soukromí na sociálních sítích a udržovat si přehled o nových technologiích a jejich rizicích.

Většina dostupných „svlékacích AI služeb“ fungovala pouze na fotkách žen. Snímky mužů program buď přímo odmítl, nebo vytvořil nerealistické obrazy. V některých případech zkrátka zobrazenému muži doplnil zjevně ženské tělo.

Jde zřejmě o kombinaci několika důvodů. Mezi lidmi, které tyto služby používají, patrně převažují muži vyhledávající fotky nahých žen, a této poptávce jde vstříc nabídka. Dalším důvodem je množství trénovacích dat: fotek nahých žen je na internetu větší množství než fotek nahých mužů. Je to ukázka klasického případu, kdy neuronová síť skrze trénovací data dále upevňuje existující stereotyp nebo diskriminaci.

Na ženy a dívky jsou navíc často společností kladeny jiné nároky ohledně nahoty a jejího skrývání. Například odhalení horní části těla je u mužů často vnímáno jako přijatelné a neutrální, u žen jsou odhalená prsa sexualizována. I tyto rozdíly mohou vést k tomu, že tyto nové „svlékací služby“ budou mít více negativních dopadů právě na ženy.

„Ovlivní to, jak se ženy chovají, co dělají, co jsou ochotny zkusit, co si mohou dovolit riskovat, o jaké zaměstnání se mohou ucházet,“ uvedla pro Wired profesorka Mary Anne Franksová, která přednáší o právu na University of Miami. „Je to depresivní potvrzení všech varování, která jsme v souvislosti s touto technologií vznášeli od začátku. Žijeme teď v nové realitě, kde je úplně jedno, že jste nikdy nepózovala nahá nebo nikomu neposílala citlivé snímky. Stačí jim jen fotka vašeho obličeje.“

Obzvlášť závažné důsledky tyto aplikace – a jejich zneužití k tvorbě nahých snímků – může mít na děti. „Dochází ke smazání rozdílů mezi skutečným a virtuálním světem. Mnoho lidí neuvěří, že se dotyčný nesvlékl, že to je aplikace. Z naší zkušenosti s dětskou klientelou může být důsledkem strach, úzkosti, panické ataky, sebepoškozování, sebevražedné myšlenky až pokus o sebevraždu,“ popsala Lucie Zelenková, sociální pracovnice Linky bezpečí.

Přestože nejde o reálnou nahotu, už jenom fakt, že někdo uvidí, jak jiný člověk přibližně vypadá nahý, lze vnímat jako narušení soukromí a pocitu intimity. „Děti by vůbec neměly být potenciálně pornografickému obsahu vystavovány – a platí to i pro počítačově či jinak upravované materiály,“ dodává Zelenková.

Pokud budou děti zvyklé s rodiči otevřeně komunikovat, je větší šance, že se na ně dítě v případě problémů s důvěrou obrátí. Účinná obrana proti zneužití fotek nyní pravděpodobně neexistuje. Je ale možné se dodatečně bránit, protože například šíření dětské pornografie samozřejmě trestné je. Stejně jako je trestné rozesílání pornografie dětem.

„Pro další rozvoj umělé inteligence bude zásadní, aby na zajištění odpovědného a etického využívání těchto technologií spolupracovali lidé napříč celou společností, včetně technologických firem a regulačních orgánů,“ zdůrazňuje Corrons. „S ohledem na potenciální škody a traumata, které technologie mohou jednotlivcům způsobit, je nezbytné přistupovat k tomuto problému citlivě a opatrně.“