Apple bude kontrolovat fotky kvůli dětskému pornu. Metoda ale vzbuzuje obavy

Technologické firmy se pustily do boje s dětskou pornografií a zneužíváním dětí na internetu. Apple nedávno představil dvě nové metody, jak obsah kontrolovat - bezpečnostní experti ale namítají, že jedna z nich je zneužitelná.

Jen pro představu, jak velký problém dětská pornografie a obtěžování dětí v online prostoru je - podle nedávné studie neziskové organizace Thorn většina amerických dětí používá sociální sítě dřív, než by podle provozních podmínek měla, a čtvrtina dětí ve věku 9 až 17 let v průzkumu hlásí, že skrz sociální sítě a online platformy měla sexuální interakce s osobou starší 18 let.

Apple dosud v kontrole závadného obsahu na zařízeních a cloudových službách svých uživatelů výrazně zaostával. Zatímco americkému Národnímu centru pro pohřešované a zneužívané děti Facebook loni nahlásil 20 milionů případů závadného obsahu, Apple nahlásil jen 265 případů.

„Apple ale není sociální síť. Hlášení případů se závadným obsahem se ho týkalo pouze v případě, že lidé ke sdílení tohoto obsahu používali aplikaci iMessage, případně jeho server iCloud. Právě ke cloudovému úložišti se Apple teď pokusil zaujmout nějaký postoj,“ vysvětluje datový novinář Českého rozhlasu Jan Cibulka v podcastu Stopáž.

Od podzimu plánuje ve Spojených státech „skenovat“ fotografie uživatelů přímo na iPhonech a iPadech před nahráním do úložiště iCloudu a srovnávat je s databází amerického Národního centra pro pohřešované a zneužívané děti, zda neobsahují dětskou pornografii.

„Ten mechanismus je poměrně komplikovaný, je zabalený do několika vrstev kryptografie. Zmíněné Národní centrum pro pohřešované a zneužívané děti má v USA zákonnou výjimku a může držet dětskou pornografii a spravuje speciální databázi. Apple si nechá spočítat z každého obrázku z této databáze tzv. hash, obtisk, který obrázek identifikuje. Databázi obtisků pak nahraje přímo do telefonů a iPadů svých uživatelů. Ve chvíli, kdy uživatel bude chtít nahrát nějaké fotky do úložiště iCloud, tak se otisk fotky v telefonu porovná s databází otisků Národního centra pro pohřešované a zneužívané děti,“ popisuje Cibulka.

Pokud se obtisky fotografií budou shodovat, znamená to, že jde o závadný obsah. Apple ale zasáhne až ve chvíli, kdy taková shoda proběhne alespoň 30krát. Provede ještě ruční kontrolu a potom uživateli zablokuje účet i zařízení a nahlásí ho bezpečnostním složkám.

Mechanismus ale vzbudil mezi bezpečnostními odborníky řadu otázek. Rozpoznávací model se jim už podařilo ošálit tak, že jako dětskou pornografii vyhodnotil i fotku smutného psíka. Apple také nebude mít do databáze závadných fotek přímý přístup, dostane pouze zmíněné otisky. Firma tedy nemá nikdy jistotu, že v databázi budou jen pornografické snímky, což mohou zneužít třeba nedemokratické režimy při postihování svých kritiků.

„Apple tvrdí, že kdyby například Čína chtěla blokovat opoziční obrázky a memy, odmítl by to, a nabízí záruku v podobě svého slova. Otázkou je, co by udělal, kdyby Čína na tom trvala, zda by se z trhu stáhl. Bohužel právě v Číně Apple ve chvíli, kdy na něj začala komunistická strana tlačit, opakovaně ustupoval. Mazal aplikace umožňující obcházet cenzuru a data svých čínských uživatelů začal shromažďovat na serverech v Číně, kde se o ně stará čínská státní firma,“ připomíná Cibulka.

V čem je mechanismus Applu unikátní? Jak ještě společnost plánuje chránit uživatele mladší 13 let? A proč změnu ohlásil veřejně, když je pravděpodobné, že predátoři přesunou závadný obsah prostě na jiné služby? Poslechněte si celý podcast v přehrávači v úvodu článku nebo na Podcasty.cz.