WSJ: Rodiče na platformách Mety prodávají fotky dětí, lákají tím predátory

Před dvěma lety spustila Meta Platforms na sociálních sítích Facebook a Instagram nové placené funkce, pomocí kterých mohou uživatelé některý obsah zpřístupnit jen odběratelům.

Pracovníci, kteří se ve firmě věnují bezpečnosti, ovšem už loni varovali, že nové nástroje využívají rodiče, kteří se snaží vydělat na zneužívání vlastních dětí. Informoval o tom deník The Wall Street Journal (WSJ).

Prodávat obsah nebo získávat dary mohou pouze účty dospělých, platforma nicméně dospělým umožňuje ovládat účty jménem dítěte. A stovky těchto „rodičem spravovaných účtů“ využívají podle deníku funkci předplatného k prodeji exkluzivního obsahu, jenž není dostupný neplatícím.

Rodiče skrze ně prodávali – především mužskému publiku – fotky dívek v bikinách a trikotech.

„Ti, kteří si snímky pořizovali, častokrát otevřeně v komentářích nebo při komunikaci s rodiči projevovali sexuální zájem o děti,“ řekly listu zdroje obeznámené s vyšetřováním, podle nichž byla funkce spuštěna bez základních ochranných opatření pro děti.

Fotografie sice neobsahovaly nahotu či jiný nezákonný obsah, pracovníci Mety ale našli znepokojivé důkazy, že někteří rodiče vědí, že vytvářejí obsah pro sexuální uspokojení jiných. Přesto v tom pokračují. „Někdy se rodiče zapojili do ‚sexuálního žertování‘ o vlastních dětech nebo nechali své dcery odpovídat na sexuální zprávy odběratelů,“ uvedly zdroje WSJ.

Funkce, jimiž Meta chtěla přilákat influencery, tak vzbudily nežádoucí zájem dospělých. Firma zjistila, že účty – původně vytvořené s cílem proniknout do modelingu – uspokojovaly uživatele, kteří jinde na platformě projevovali pedofilní zájmy a v diskuzích pravidelně používali sexualizovaný jazyk. Situaci do jisté míry umožnily i algoritmy sociálních sítí, které pravděpodobným pedofilům aktivně propagovaly příspěvky a profily nezletilých.

Meta zjistila, že ne každý účet vedený rodiči záměrně přitahuje pedofilní uživatele. Někteří rodiče prominentních mladých modelek funkci využívají zkrátka proto, že „předplatné považovali za součást hodnotného internetového profilu“. Část nicméně přiznala, že se pod příspěvky svých dcer setkali s nevhodnými a obtěžujícími komentáři.

V některých případech nicméně rodiče diskutovali o nabídce dalšího obsahu na jiných platformách.

Meta by mohla předplatné účtů, kde se objevují děti a nezletilí „modelové“, jednoduše zakázat, podobně jako TikTok, Patreon či OnlyFans. Zaměstnanci ostatně už v minulosti doporučili, aby vyžadovala registraci od účtů poskytujících předplatitelský obsah zaměřený na děti. Firma ale postupovala jinak.

„Meta se těmito návrhy nezabývala a místo toho se rozhodla vybudovat automatizovaný systém, který by zabránil tomu, aby podezřelí z pedofilie dostali možnost přihlásit se k odběru účtů spravovaných rodiči,“ sdělila společnost. Připustila ale, že to ne vždy fungovalo a zákaz předplatného se dal obejít založením nového účtu.

„Spustili jsme nástroje pro monetizaci tvůrců s robustním souborem bezpečnostních opatření a četnými kontrolami tvůrců i jejich obsahu,“ uvedl mluvčí Mety Andy Stone. Plány omezit pravděpodobným pedofilům předplatné pro děti označil za „součást naší pokračující práce na bezpečnosti“.

Wall Street Journal nicméně upozorňuje, že kontrolní systém Mety není spolehlivý. Například jeden účet, loni zakázaný kvůli zneužívání dětí, se na platformy vrátil, získal oficiální ověření Meta a statisíce sledujících, uvedl deník.

Jiné účty, které Instagram zakázal kvůli vykořisťovatelskému chování, pokračovaly v prodeji obsahu prostřednictvím Facebooku. Ve dvou případech deník zjistil, že účty vedené rodiči propagovaly fotografie dětí ve stylu pin-up na facebookové stránce věnované tvůrcům sexuálního obsahu pro dospělé a fetišizaci těhotenství, která měla 200 tisíc sledujících.

WSJ také zjistil, že někteří odběratelé si vyměňovali tipy, jak zjistit bydliště dívek. „Přísahám, že ji musím nějak najít,“ napsal jeden uživatel poté, co popsal sexuální fantazii zahrnující jednu 14letou dívku. Běžně si také přeposílali snímky dívek z Instagramu a diskutovali o tom, zda jsou konkrétní rodiče ochotni prodávat riskantnější obsah soukromě.

Společnost Meta loni zřídila pracovní skupinu, která se má sexualizací dětí na jejích platformách zabývat. Ta se snažila omezit doporučování pedofilního obsahu a spojení s dospělými, které její systémy podezřívají ze sexualizace dětí. WSJ nicméně upozorňuje, že Facebook i Instagram nadále doporučovaly vyhledávací výrazy jako „dětské spodní prádlo“.

Šetření také ukázalo, že se na platformách objevovaly i velké skupiny, které diskutovaly o obchodování s odkazy na materiály s dětským pohlavím. Tato selhání mimo jiné přitáhla i pozornost federálních zákonodárců a generálních prokurátorů jednotlivých států.