Falešné porno má znemožnit a vyděsit mocné ženy

Analýzu si také můžete poslechnout v audioverzi.

Explicitní snímky nebo videa, na nichž jen těžko poznáte, že nevznikly stisknutím spouště. Umělou inteligencí vytvořená pornografie už dávno není nedostupným zbožím, s některými programy může vzniknout i během pár kliků a relativně věrohodně napodobuje hlas i vzhled libovolné osoby. Dotýká se tak ve velkém i osobností působících ve veřejném prostoru, kterým takové záběry nejen zasahují do kariéry, ale mají dopady i na psychický stav zasažených. A téměř výhradně jsou jimi ženy.

„Toto je forma násilí na ženách. S příchodem umělé inteligence, pokud dovolíme, aby tvář nějaké ženy byla překryta tělem jiné ženy, tak i naše dcery se ocitnou v těchto situacích, což je přesně důvod, proč považuji za legitimní vést tuto válku,“ pronesla italská premiérka Giorgia Meloniová u soudu, jenž se zabýval jejím případem.

Na amerických pornografických stránkách se ještě před jejím nástupem do funkce objevilo deepfake video s političkou, které zhlédlo více než milion lidí. Meloniová požaduje na základě zákonu o pomluvě odškodné od dvou mužů - otce se synem - kteří čelí obvinění z tvorby tohoto videa.

Ne všechny ženy se k těmto případům vyjadřují veřejně, obávají se, že by k falešným snímkům přilákaly větší pozornost a s tím spojené dopady. „Byla to kampaň, která mě měla politicky podkopat,“ popsala pro server Politico svůj příběh severoirská politička Cara Hunterová, která v roce 2022 získala jen těsně křeslo v Severoirském shromáždění.

„Měli pocit, že protože viděli explicitně někoho, kdo vypadal jako já, bylo v pořádku posílat mi ošklivé zprávy. Zanechalo to o mně poskvrněné vnímání, které nemohu ovládat. Za následky tohoto budu muset platit do konce života,“ dodala.

Podobných případů zasahujících političky po celém světě je nicméně mnohem více. Ve Spojeném království byla vicepremiérka Angela Raynerová mezi více než 30 britskými političkami, jež se dle vyšetřování Channel 4 zveřejněného v loňském roce staly terčem falešných pornografických stránek.

Ve Spojených státech American Sunlight Project, výzkumná skupina zaměřená na dezinformace, identifikovala více než 35 tisíc případů deepfake obsahu zobrazujícího 26 členů Kongresu – z toho 25 žen – na pornografických stránkách.

„Jedním z důvodů, proč se političky mohou stát terčem útoků, je touha po moci a kontrole. Možná vidíte ženy na vysokých pozicích, které se některým lidem v naší společnosti nemusí líbit. A tak pachatelé můžou vytvářet sexuální obrazy, aby je téměř zdiskreditovali nebo snížili jejich společenskou hodnotu,“ popsal pro Seznam Zprávy psycholog Dean Fido působící na University of Derby.

„Tato deepfake videa říkají ženám, aby se dostaly z očí veřejnosti,“ popsala přední expertka na právní reakce na online sexuální zneužívání Claire McGlynnová. „Tohle jsou muži, kteří ženám říkají: ‚To je to, co vám můžeme udělat.‘ Mnoho mladších žen si velmi dobře uvědomuje, že se nad nimi vznáší nová hrozba.“

Umělou inteligencí generované explicitní záběry se vytvářejí pomocí algoritmů strojového učení, jež dokáží vyprodukovat opravdu realistický obsah. Pachatelé jej mohou využívat k cílení na oběti, vydírání lidí nebo jako formu politické manipulace.

Falešné explicitní snímky nebo videa jsou pak často používány jako zbraně, aby poškodily pověst žen ve veřejné sféře, ohrozily jejich kariéru nebo podkopaly důvěru veřejnosti. Vedle toho nicméně mají vliv i na jejich bezpečnost, protože vytvářejí podmínky pro vydírání nebo obtěžování, shodují se odborníci. V neposlední řadě mají takové snímky či videa i dalekosáhlé dopady na psychiku obětí.

„Oběti deepfake pornografie mohou mít poměrně širokou škálu psychologických důsledků a já si myslím, že je důležité o nich mluvit v kontextu širších profesních a sociálních důsledků, kterým čelí. Víme, že lidé v důsledku toho přicházejí o zaměstnání, mají další finanční problémy, protože se v mnoha případech musí přestěhovat, změnit život. Víme také, že jsou poměrně často odstrkováni členy své rodiny, zejména pokud členové rodiny plně nechápou, co to znamená být obětí těchto deepfaků,“ popsal Fido.

„U obětí se mohou vyvinout častější úzkosti nebo deprese. Ta situace v nich vyvolává stres, když se jim rozpadá třeba rodina nebo vztahy. V praxi to znamená, že ztrácejí spoustu skutečně důležitých mechanismů sociální opory,“ dodává.

Deepfake pornografie je nicméně v posledních letech stále rozšířenějším jevem. Existuje již téměř deset let, jen se její mechanismy neustále zlepšují. Takové případy se dotýkají žen po celém světě, ať už jsou více či méně známé. Světlo na problematiku vrhla vlna snímků dospívajících dívek ve Španělsku, další podobné se objevily i v jihokorejském hudebním průmyslu.

Rozsáhlou pozornost si deepfake pornografie znovu získala poté, co se obětí stala Taylor Swift, když byly její obrázky vytvořené umělou inteligencí sdíleny ve velkém na platformě X, dříve známé jako Twitter.

Tyto záběry zachycující Swift nashromáždily na X přes 27 milionů zhlédnutí a více než 260 tisíc lajků za 19 hodin, než byl pozastaven účet, který původně obrázky zveřejnil, jak uvedla stanice NBC News.

Rozsáhlý výzkum společnosti Home Security Heroes zabývající se kybernetickou bezpečností z roku 2023 ukázal, že 98 procent deepfake videí na internetu je pornografických a že cílem 99 procent z nich jsou ženy nebo dívky.

Svou roli v rychlé tvorbě i šíření deepfake pornografie hraje i pocit anonymity a nepostihnutelnosti, který pachatelé vůči veřejně známým osobnostem mají, jak přibližuje Fido.

A přestože například případ italské premiérky ukazuje, že se některé případy mohou dostat k soudu, většina zemí není ani dostatečně vybavena na to, aby se vypořádala se šířením i tvorbou deepfaků.

Například ve Spojeném království je sdílení tohoto pornografického obsahu bez souhlasu trestným činem dle zákona o bezpečnosti na internetu, který se ale nevztahuje na vytváření takových obrázků.

Na jedné straně země přicházejí se stále šetrnější legislativou, jež má za cíl oběti chránit. Jak ale upozorňují experti věnující se tématu, se stále zlepšujícími se technologiemi nestíhají státní aparáty držet krok.

„Přestože v posledních letech došlo k významným reformám zákonů, je třeba ujít ještě dlouhou cestu, než bude přístup k obrazovému násilí náležitě uznán a než se ženy dočkají spravedlnosti,“ popsala McGlynnová věnující se britské legislativě. Zveřejňování intimních fotografií nebo videí bez souhlasu a s úmyslem způsobit újmu - tzv. revenge porn - bylo v Británii trestné od roku 2015, ale tato legislativa se nevztahuje na používání falešných snímků.

Nyní se v zemi debatuje o tom, že by se brzy i vytváření a sdílení sexuálně explicitních „deepfakes“ mělo v zemi stát trestným činem.

Jak ale upozorňuje McGlynnová, ani v tu chvíli nebudou oběti naprosto chráněné.„Měli bychom kriminalizovat vytváření sexuálně explicitních deepfakes, abychom zabránili jejich vzniku. K odpovědnosti musíme hnát také internetové platformy. Google příliš usnadňuje vyhledávání aplikací pro nudify a webových stránek s deepfake pornografií. To usnadňuje sexuální zneužívání deepfake,” dodala.

V České republice mohou dle novely trestního zákona, která prošla loni, hrozit za samotnou tvorbu falešné pornografie až dva roky vězení. O rok tvrdší trest se týká lidí, kteří obsah umístí na internet. V závažných případech se může jednat o sazbu až pět let vězení.

Také hrstka amerických států, včetně Kalifornie a Floridy, přijala zákony, které činí ze sexuálně explicitních deepfaků trestný čin, a aktivisté vyzývají Kongres, aby urychleně schválil řadu zákonů regulujících jejich tvorbu a šíření.

Problematické je nicméně i to, že se podobné případy dají těžko soudit. Osoby vytvářející a sdílející deepfake pornografii totiž vůbec nemusí být ze stejné země jako jejich oběť a vyšetřování komplikuje i řada anonymních serverů, kde se záběry šíří.

Dalším problémovým aspektem je i to, že pokud se někde šíří vygenerované explicitní snímky nebo videa, samotní zobrazení lidé - tedy oběti - o tom dlouho vůbec nemusí vědět.