Článek
„Je nehorázné, aby velké internetové platformy vydělávaly na šíření dětské pornografie,“ uvedlo pro BBC britské policejní ředitelství. BBC totiž zjistila, že zločinci využívají umělou inteligenci k vytváření realistických obrazů sexuálního zneužívání dětí včetně znásilňování kojenců a batolat.
Nástroje pro automatické generování realistických obrázků se poprvé objevily na jaře roku 2022. Nejpopulárnější jsou v současnosti Midjourney, Dall-E, Adobe Firefly a Stable Diffusion.
První tři jmenované fungují jako internetová služba: uživatel zadá pokyny, které zpracuje vzdálený server a pošle uživateli výsledné obrázky. Provozovatel má tedy plnou kontrolu nad tím, jaká slova zakáže nebo jaké obrázky „zastaví“ dříve, než se k uživatelům dostanou.
Jak fungují generátory obrázků
Strojové učení funguje na principu analýzy velkého množství dat a umožňuje tak nový přístup k řešení problému. Počítač sám sebe učí na „trénovacích“ datech. V případě generátorů obrázků je zdrojem dat velké množství fotek a obrazů, které jsou lidmi nebo automatem popsané.
Právě z těchto popisků se počítač naučí, jak generovat objekty, barvy, scénu i kontext. Trénování probíhá pomocí sítí samostatných programů, tzv. umělých neuronů, proto se systému říká neuronová síť.
Ale modely jako Stable Diffusion si mohou uživatelé naistalovat na svůj počítač a odstranit tak jakékoli dodatečné filtry a kontrolu. Tyto modely pak lze použít ke generování jakýchkoli obrázků. Včetně pornografických, a dokonce údajně s dětskou pornografií.
Protože model běží na lokálním počítači, který ani nemusí být připojený k internetu, není reálně možné tvorbu zpětně omezit. A to, že tyto nástroje existují, znamená, že budou existovat vždy.
Tvůrci modelů samozřejmě mohou ovlivnit, na jakých snímcích se jejich umělá inteligence trénuje. Pokud trénovací data neobsahovala dětskou pornografii, je takový model pro generování dětské pornografie méně vhodný než pro generování jiných typů grafiky. I to však mohou zločinci obejít pomocí dodatečného trénování na vlastních datech.
Umělá inteligence na vzestupu
Strojové učení není žádnou novinkou. Teprve v posledních letech se ale ke slovu dostaly tzv. velké jazykové modely. Nejznámější ukázkou je populární ChatGPT, jehož fungování podrobně popisujeme v tomto článku:
Důležitým faktorem aktuální popularity systému umělé inteligence je velké množství textů dostupných na internetu. A také rychlý hardware, který umožnil vytrénování řádově výkonnějších modelů. Takových, ve kterých se objevuje „emergentní chování“, jež se v některých ohledech vyrovná lidské inteligenci:
To samozřejmě vyvolává debatu o tom, zda nová vlna automatizace nahradí lidskou práci. V tomto článku shrnujeme současné poznatky a predikce ohledně toho, jak AI změní pracovní trh a kterých profesí se dotkne nejvíce:
Octavia Sheepshanksová, výzkumnice a novinářka na volné noze, se touto problematikou zabývá již několik měsíců. Prostřednictvím dětské charitativní organizace NSPCC se s výsledky svého výzkumu obrátila na BBC.
„Od té doby, co je možné vytvářet snímky pomocí umělé inteligence, došlo k obrovské záplavě… Nejde jen o velmi mladé dívky, ale (pedofilové, pozn. red.) mluví i o batolatech,“ uvedla.
S „pseudoobrázky“ vygenerovanými počítačem, které zobrazují sexuální zneužívání dětí, se ve Velké Británii zachází stejně jako se skutečnými obrázky – jejich držení, zveřejňování nebo předávání je tam nezákonné.
Ian Critchley, který na britském policejním ředitelství zodpovídá za ochranu dětí, pro BBC uvedl, že by bylo nesprávné tvrdit, že vzhledem k tomu, že na takových „syntetických“ snímcích nejsou zobrazeny žádné skutečné děti - nebylo nikomu ublíženo. Varoval, že pedofil se může „pohybovat na škále trestných činů od myšlenky přes syntetické až po skutečné zneužití živého dítěte“.
Pesimisticky však dodal, že záplava realistických nebo „syntetických“ snímků generovaných umělou inteligencí by mohla zpomalit proces identifikace skutečných obětí zneužívání. „Vytváří to další nároky, pokud jde o policii a prosazování práva, na identifikaci skutečně zneužívaného dítěte, ať už se nachází kdekoli na světě.“
České právo lze využít i proti AI obrázkům
Podobně jako britské právo nahlíží na AI generovanou dětskou pornografii také české právo.
„Právo je za vývojem technologií vždy v závěsu, leckdy velkém,“ říká partner advokátní kanceláře Havel & Partners Dalibor Kovář. Přesto má v tomto případě za to, že české zákony jsou pro výklad této otázky využitelné už ve své aktuální podobě.
„České právo sice na AI generovanou (dětskou) pornografii nikterak nereaguje, obdobně jako předpokládáme, že i většina právních řádů EU, ale jenom fakt, že je obrázek AI-generated, ještě neznamená, že nemůže mít právní implikace. Zde logicky řešíme primárně trestněprávní rovinu,“ říká partner advokátní kanceláře Havel & Partners Dalibor Kovář.
Upozorňuje také, že nakládání s dětskou pornografií spadá pod § 192 trestního zákoníku, jehož skutková podstata je široká – zahrnuje výrobu, šíření, jiné způsoby zpřístupnění apod.
„Odborná literatura uvádí, že za dětskou pornografii je navíc nutné považovat i takové pornografické dílo, v němž sice není zobrazováno ani jinak využíváno skutečné dítě, tedy reálná fyzická osoba mladší osmnácti let, ale vystupuje v něm postava vytvořená, například s využitím počítačové animace, jestliže realisticky znázorňuje dítě, respektive se jeví být dítětem,“ uvedl Kovář. Za dětskou pornografii pak podle něj mohou být považovány i takové počiny, ve kterých vystupují například dětsky vypadající osoby, nebo i neexistující, avšak realisticky vypadající děti.
Trestní postihy podle uvedeného ustanovení činí šest měsíců až osm let dle konkrétního kontextu. Eventuelně je možné také propadnutí věci, majetku a zákaz činnosti.
Japonská stopa
Někteří z tvůrců obrázků publikují své výtvory na populární japonské sociální síti Pixiv, kterou využívají především umělci sdílející mangu (japonský styl komiksu, většinou kreslený jednou barvou) a anime (většinou jde o animaci na základě mangy) .
Protože je však stránka „hostována“ v Japonsku, kde není sdílení sexualizovaných kreseb a kreseb dětí nezákonné, využívají ji tvůrci k propagaci své práce ve skupinách a prostřednictvím hashtagů, které indexují témata pomocí klíčových slov.
Mluvčí společnosti Pixiv uvedl, že na řešení tohoto problému klade společnost obrovský důraz. Uvedla, že 31. května zakázala veškerá fotorealistická zobrazení sexuálního obsahu zahrnující nezletilé.
Společnost také uvedla, že aktivně posílila své monitorovací systémy a vyčleňuje značné zdroje na potírání problémů souvisejících s vývojem umělé inteligence.
Sheepshanksová na základě svého průzkumu tvrdí, že uživatelé zřejmě vytvářejí snímky zneužívání dětí v průmyslovém měřítku. „Objem je prostě obrovský, takže ti tvůrci řeknou: ‚Naším cílem je udělat alespoň 1000 snímků měsíčně,‘“ řekla BBC.
Z komentářů uživatelů k jednotlivým snímkům v Pixivu je zřejmé, že mají o děti sexuální zájem, přičemž někteří uživatelé dokonce nabízeli, že poskytnou snímky a videa zneužívání, které nevytvořila umělá inteligence. Obvykle jde podle ní o skupiny zhruba do 100 uživatelů.
„Jsou to ty nejhorší věci, ani jsem nevěděla, že pro takové popisy existují taková slova,“ popsala výzkumnice.
Z Japonska do USA
Mnoho účtů na Pixivu obsahuje ve svých popisech odkazy vedoucí na „necenzurovaný obsah“ amerického webu pro sdílení obsahu Patreon.
Ten má hodnotu přibližně čtyř miliard dolarů (zhruba 86 miliard Kč) a tvrdí, že na něj přispívá více než 250 000 tvůrců - většina z nich jsou legitimní účty patřící známým celebritám, novinářům či spisovatelům.
Pátrání BBC však odhalilo na Patreonu účty, které nabízejí k prodeji fotorealistické obscénní obrázky dětí generované umělou inteligencí, přičemž ceny se liší podle typu požadovaného materiálu.
Jeden z takových uživatelů na svůj účet napsal: „Trénuji své dívky na svém počítači“ a dodal, že prokazují „poddajnost“. Jiný účet nabízel za 8,30 dolaru (cca 180 Kč) měsíčně „exkluzivní necenzurované umění“.
BBC zaslala Patreonu jeden příklad, který platforma potvrdila jako „polorealistický a porušující naše zásady“. Účet byl podle ní okamžitě odstraněn. Patreon uvedl, že uplatňuje politiku „nulové tolerance“ a trvá na tom, že „tvůrci nemohou financovat obsah věnovaný sexuálním tématům zahrnujícím nezletilé“.
Společnost také uvedla, že nárůst škodlivého obsahu generovaného umělou inteligencí na internetu je „skutečný a znepokojující“, a dodala, že „identifikovala a odstranila rostoucí množství“ tohoto materiálu.
