Článek
V únoru 2021 si Američan uváděný jen jako Mark všimnul, že jeho malý syn má oteklý penis a trápí ho bolesti. Jeho žena zavolala doktorovi, ale protože byl víkend a světem otřásala pandemie covidu-19, zdravotní sestra jí řekla, aby intimní partie batolete vyfotila.
Vzala proto manželův mobil a synův rozkrok za pomoci manžela, který chlapce přidržoval, tak, aby byly otoky dobře vidět, zblízka nafotila. Snímky si přeposlala na svůj mobilní telefon a nahrála je do zdravotního systému.
Doktor díky fotografiím chlapcovi potíže diagnostikoval a předepsal mu antibiotika. Batole se rychle uzdravilo a rodiče si oddechli. Několik dní na to ovšem přišla Markovi zpráva od společnosti Google, která mu oznamovala, že jeho účet, který hojně využíval k mnoha účelům, byl smazán. Důvodem mělo být sexuální zneužívání dětí.
Na Markův příběh upozornil americký deník The New York Times. Zdůraznil přitom, že se jedná jen o špičku ledovce a případů, kdy technologická společnost Google chybně identifikovala sexuálního predátora, existuje celá řada.
Upozornila tak například na příběh Cassia z Texasu, který si stejně jako Mark přál z důvodu zachování soukromí vystupovat pouze pod křestním jménem. Cassio na žádost pediatra vyfotil zánět intimních partií svého dítěte a přes chatovací platformu Google snímky, které se zároveň automaticky zálohovaly do aplikace Google fotky, poslal své manželce. I jemu následně zrušili účet s odkazem na „hrubé porušení zásad společnosti“.
Google proti zákazu potratů v USA
Poté, co americký Nejvyšší soud v červnu zrušil 50 let staré rozhodnutí Roe vs. Wade, společnost Google slíbila, že bude mazat historii pohybu uživatelů, již se vydají na potratovou kliniku a do dalších citlivých míst, jako jsou zařízení pro léčbu závislostí.
Společnost Google se snaží dlouhodobě bojovat proti zneužívání dětí a šíření dětské pornografie. Podle ochránců dětí je spolupráce technologických gigantů při potírání sexuálního zneužívání na internetu klíčová, neboť tyto společnosti běžně shromažďují velké množství informací o svých uživatelích.
Google nejprve využíval databázi PhotoDNA, která známé snímky zneužívání převedla do jedinečných digitálních kódů neboli hashů a ve velkém množství fotografií byla schopná odhalit shodu. K průlomu pak došlo v roce 2018, kdy Google začal využívat umělou inteligenci, která dokáže odhalit dosud neznámé snímky a upozornit na nové případy zneužívání.
Technologické firmy označí ročně milióny fotografií, které mají zobrazovat sexuální obtěžování dětí. Jen společnost Google v roce 2021 podala více než 600 000 hlášení o materiálech se zneužíváním dětí a v důsledku toho zablokovala účty více než 270 000 uživatelů, mezi nimi i Markův a Cassiův.
Téměř deset měsíců policejního vyšetřování
Nástroje plnící společensky záslužnou práci mají ovšem také své stinné stránky. Umělá inteligence nedokáže brát v potaz kontext snímků a z rodičů, kteří mají strach o zdraví svých ratolestí, tak lehce může udělat kriminálníka, který obtěžuje děti.
Oba muži popisují, že se museli po zásahu Googlu potýkat s mnohými těžkostmi. Mark téměř 10 měsíců čelil policejnímu vyšetřování, píše server The Independent. Stejnému procesu se nevyhnul ani Cassio. Policie důkladně prolustrovala všechny jejich aktivity na internetu, fotografie, videa i zprávy.
Policie nakonec došla k tomu, že Mark ani Cassio se ničeho špatného nedopustili. Společnost Google ovšem jejich účty i přesto odmítla znovu aktivovat. Mluvčí společnosti uvedla, že Google stojí za svým rozhodnutím, přestože orgány činné v trestním řízení oba muže očistily.
Muži tak nadobro ztratili přístup ke svým e-mailovým schránkám a kontaktům a přišli o dlouhá léta pěstované rodinné fotogalerie. Mark dokonce přišel i o svoje telefonní číslo, neboť využíval mobilní služby poskytované Googlem.
Rozhovor s výzkumnicí Google think tanku zaměřeného na dezinformace
Společnost Google prostřednictvím svého think tanku Jigsaw zkouší, jestli lze manipulacím předejít dříve, než se začnou šířit.
„Materiály se sexuálním zneužíváním dětí jsou odporné a my jsme odhodláni zabránit jejich šíření na našich platformách,“ uvedla mluvčí společnosti Google Christa Muldoonová v e-mailovém prohlášení pro server The Verge.
„Při definování toho, co jsou materiály se sexuálním zneužíváním dětí, se řídíme americkými zákony a k jejich identifikaci a odstranění z našich platforem používáme kombinaci technologie hash matching (viz databáze PhotoDNA zmiňovaná v sedmém odstavci, pozn. red.) a umělé inteligence. Kromě toho náš tým odborníků na bezpečnost dětí přezkoumává označený obsah z hlediska jeho správnosti a konzultuje jej s pediatry, abychom zajistili, že jsme schopni identifikovat případy, kdy uživatelé mohou hledat lékařské rady.“
Někteří kroky společnosti Google v boji proti zneužívání vítají. „Tleskám společnosti Google za to, co dělá,“ uvedla pro The New York Times Suzanne Haneyová, předsedkyně Rady Americké pediatrické akademie pro záležitosti zneužívání a zanedbávání dětí. „Máme opravdu strašný problém. Bohužel se to dotklo rodičů, kteří se snaží pomoci svým dětem,“ dodala.
Kritici ovšem namítají, že ačkoliv je ochrana dětí před zneužíváním nezbytná, praxe skenování fotografií uživatelů společností Google nepřiměřeně zasahuje do jejich soukromí.
„To je přesně ta noční můra, které se všichni obáváme,“ uvedl Jon Callas z organizace Electronic Frontier Foundation, která se zabývá občanskými svobodami v kyberprostoru. „Naskenují mi rodinné album a já se pak dostanu do problémů,“ dodal a praktiky společnosti Google označil za „vtíravé“.
