Článek
Facebook v posledních třech měsících smazal 8,7 milionu fotografií, které souvisí s násilím na dětech. Po nátlaku ze strany investorů i veřejnosti na zlepšení podmínek bezpečnosti nezletilých na Facebooku, firma zveřejnila zprávu o aplikaci nového softwaru, informovala o tom agentura Reuters. Ten má automaticky označit fotografie, které zobrazují nahotu a děti, což pomáhá pracovníkům při revizi a mazání nevhodného obsahu.
Podle serveru BBC bylo 99 % smazaného obsahu z Facebooku staženo předtím, než ho někdo nahlásil. Server Tech Crunch informuje o tom, že jsou smazané fotografie a účty, které je zveřejnily, většinou zároveň i nahlášeny Národnímu úřadu pro nezvěstné a zneužívané děti. Ve středu byl podle Reuters rovněž zveřejněn nový systém, který rozpoznává uživatele, kteří se na Facebooku přátelí s nezletilými, a následně je vybízí k sexuálnímu chování.
Společnost Facebook plánuje stejný software aplikovat i na aplikaci Instagram. Podobných výsledků chce dosáhnout i u extrémistického a dalšího ilegálního obsahu.
Vedoucí oddělení bezpečnosti Antigone Davisová Reuters vysvětlila, že technologie není bezproblémová. Od jejího zavedení minulý rok si mnoho lidí včetně zpravodajských agentur stěžovalo na blokování obsahu. „Raději budeme chybovat zde než v případě dětí,“ řekla Davisová agentuře Reuters.
Lidé si podle Davisové také neuvědomují, že „neškodné“ dětské fotografie mohou být využity k jiným účelům. Před aplikaci nového softwaru Facebook spoléhal při nahlašování škodlivého obsahu na své uživatele. Nový program má podle Facebooku stále větší dosah a maže více příspěvků. Navíc je nastaven tak, aby dělal výjimky v případě uměleckých, historických nebo oceněných fotografií.
Vraždy, sebevraždy a sexuální násilí v přímém přenosu
Facebook byl kritizován zejména v souvislosti se spuštěním živých přenosů, při kterých podle Tech Crunch lidští i počítačoví moderátoři obsahu v několika případech nezachytili přenos sexuálního násilí, sebevražd nebo vražd, z nich jednou byla vražda jedenáctiměsíčního miminka.
Společnost Facebook se také snaží software vylepšit kvůli svým moderátorům obsahu. Minulý měsíc společnost zažalovala Selena Scolaová, která uvedla, že u ní dohlížení nad násilným obsahem vyvolalo posttraumatickou stresovou poruchu. Ostatní moderátoři obsahu si stěžovali na nedostatečný trénink, platové ohodnocení nebo psychickou oporu.
