Článek
Apple letos spustí nový software, který bude kontrolovat fotografie uložené na uživatelském účtu iCloud Photos. Bude tam hledat dětskou pornografii, a pokud takové materiály najde, nahlásí to příslušným úřadům.
V rámci nových ochranných opatření, která se týkají dětí, bude Apple podle agentury Bloomberg pomocí nové funkce analyzovat fotografie v korespondenci (především) dětí v aplikaci Messages. Zjistí tak, zda nemají sexuální obsah. Nové funkce umí také zasáhnout, pokud bude uživatel vyhledávat nevhodný materiál pomocí hlasového asistenta Siri.
Technologický gigant z Cupertina tyto tři nové funkce představil ve čtvrtek s tím, že je uvede do provozu ke konci roku 2021. Kroky však vyvolaly obavy u zastánců ochrany soukromí.
Pokud společnost odhalí fotografie dětí, které jsou za určitou hranicí, tyto případy přezkoumá a nahlásí je Národnímu centru pro pohřešované a zneužívané děti. Snímky budou analyzovány ještě před tím, než je uživatelé iPhonů a iPadů v USA odešlou do cloudu.
Obrázky, které by mohly zobrazovat zneužívání dětí, firma odhalí porovnáním fotografií s databází známých materiálů o sexuálním zneužívání dětí, kterou poskytuje Národní centrum pro pohřešované a zneužívané děti (NCMEC).
Apple k tomu používá technologii NeuralHash, která analyzuje obrázky. Tento klíč je pak pomocí kryptografie porovnáván s databází NCMEC. Podle Applu tento proces zajišťuje, že se technologická společnost nemůže dozvědět o obrázcích, které neodpovídají fotografiím v databázi.
Podle nadace Electronic Frontier Foundation tím Apple porušuje své zásady o ochraně soukromí. „Je nemožné vytvořit systém skenování na straně klienta, který by bylo možné použít pouze pro sexuálně explicitní obrázky odeslané nebo přijaté dětmi. V důsledku toho i dobře míněná snaha o vytvoření takového systému poruší klíčové sliby samotného šifrování messengeru a otevře dveře širšímu zneužití,“ uvedla Electronic Frontier Foundation.
Podobné obavy mají i další společnosti. „Bez ohledu na to, jaké jsou dlouhodobé plány firmy Apple, vyslaly velmi jasný signál. Podle jejich názoru je bezpečné vytvářet systémy, které skenují telefony uživatelů a hledají v nich zakázaný obsah,“ napsal na Twitter Matthew Green, lektor kryptografie na Univerzitě Johnse Hopkinse.
Další kritici tvrdí, že tyto kroky nejsou v souladu s reklamní kampaní Applu, která hlásá „co se stane na iPhonu, zůstane na iPhonu“.
Apple však tvrdí, že jeho detekční systém má chybovost jedna ku bilionu za rok a chrání soukromí uživatelů. „Apple se dozvídá o fotografiích uživatelů pouze v případě, že mají na svém účtu iCloud Photos sbírku dětské pornografie. I v těchto případech se Apple dozvídá pouze o těchto snímcích,“ uvedl Apple v prohlášení.
Každý uživatel, který se domnívá, že byl jeho účet nahlášen omylem, může podat odvolání. V reakci na obavy o ochranu soukromí v souvislosti s novou funkcí zveřejnil Apple bílou knihu s podrobnými informacemi o technologii a také analýzu protokolu provedenou několika výzkumnými pracovníky.
Nastavení kontroly obsahu ve zprávách je navíc volitelné a mohou jej povolit například rodiče. Systém kontroluje, zda se na přijatých fotografiích a fotografiích připravených k odeslání dětmi nenachází sexuálně explicitní materiál.
Pokud dítě obdrží fotografii se sexuálním obsahem, bude rozmazána a dítě musí klepnout na další tlačítko, aby si ji mohlo prohlédnout. Pokud tak učiní, bude na to upozorněn jeho rodič. Pokud se pokusí odeslat obrázek se sexuálním obsahem, přijde rodičům také upozornění.
Podle Applu si společnost nemůže zobrazit obsah zpráv. Funkce se vztahuje na službu iMessage a další, jako je Multimedia Messaging Service.
