Článek
Kdo má přístup do vaší ložnice? Vy, váš partner nebo partnerka… A pokud jste tam v letech 2016 až 2019 používali bezpečnostní kameru značky Ring, tak si záběry z vašeho ranního oblékání mohl přehrát také kterýkoli z tisíců zaměstnanců firmy Ring, kterou v roce 2018 koupil americký gigant Amazon. A k záběrům uloženým na serverech Amazonu měli přístup i externí „brigádníci“ z Ukrajiny.
Na bezpečnostní průšvih upozornily v roce 2018 a 2019 servery The Information a The Intercept: „Firma Ring dala v roce 2016 své ukrajinské pobočce neomezený přístup ke všem uloženým videoklipům nahraným na kamery Ring z celého světa. Veškeré videoklipy byly uložené na serveru v nezakódované podobě a zaměstnanci si je mohli bez problémů stahovat a prohlížet.“
Neomezené šmírování
Videoklipy sice byly anonymizované, ale zaměstnanci i externí pracovníci firmy Ring měli i druhou databázi, pomocí které mohli jakýkoli záznam ztotožnit: „Pokud člověk znal něčí e-mail nebo adresu, tak si mohl okamžitě prohlédnout všechny jejich kamery,“ uvedl tehdy nejmenovaný zdroj redaktorům Interceptu. Nyní americký Úřad pro ochranu spotřebitelů (FTC) zveřejnil výsledky šetření a vyjednaného řešení sporu.
Firma Ring v interních materiálech zakazovala „zneužití soukromých dat“, ale v praxi neudělala nic proto, aby takovému zneužití zabránila. Neomezila například přístup k soukromým videoklipům jen na ty pracovníky, kteří měli řešení problémů v popisu práce, ani nijak přísně nemonitorovala, kdo a kdy k videoklipům přistupuje.
„Během tří měsíců v roce 2017 si jeden zaměstnanec společnosti Ring prohlédl tisíce videí uživatelek v jejich ložnicích a koupelnách,“ uvedl FTC. Mezi ženami zachycenými na videích byly i jeho kolegyně ze společnosti Ring. „Místo toho, aby to firma zjistila prostřednictvím vlastních kontrol, dozvěděla se o této epizodě až poté, co ji nahlásila jedna ze zaměstnankyň.“
The Intercept zveřejnil v lednu 2019 ukázku rozhraní, pomocí kterého brigádníci z ukrajinské pobočky učili umělou inteligenci rozpoznávat objekty na videozáběrech kamery.
V roce 2018 firma Ring své postupy zpřísnila, ale i poté docházelo k trestuhodným epizodám. Někteří zaměstnanci například vynášeli videa z firmy nebo sledovali své expartnery. Firma Ring podle FTC navíc nedostatečně chránila kamery před útoky zvenčí: „Nedostatečné zabezpečení společnosti Ring nakonec vedlo k vážnému ohrožení účtů více než 55 tisíců amerických zákazníků.“ Útočníci některé klienty – na jejichž kamery se díky bezpečnostním dírám dostali – vydírali, uráželi, nebo jim dokonce vyhrožovali zabitím.
„Společnost Ring nedbala na soukromí a bezpečnost a vystavila spotřebitele špehování a obtěžování,“ řekl Levine. „Příkaz FTC jasně ukazuje, že upřednostňovat zisk před soukromím se nevyplácí.“
Jenže finanční pokuta je překvapivě nízká. V navržené dohodě – kterou musí ještě posvětit soud – je firma Ring povinna zaplatit pouze 5,8 milionu dolarů (asi 128 milionů korun).
Trénování umělé inteligence za každou cenu?
Kromě toho čelil Amazon další stížnosti: navzdory vlastním podmínkám uchovával nahrávky dětských hlasů i poté, co rodiče požádali o jejich permanentní vymazání.
Samuel Levine, ředitel FTC, ve svém prohlášení obvinil společnost Amazon z „klamání rodičů, neomezeného uchovávání dětských nahrávek a ignorování žádostí rodičů o jejich vymazání“.
A v tomto případě je trest neobvyklý. Amazon musí smazat nejen tato hlasová data, ale bude také muset vymazat veškeré modely neuronových sítí, které jsou na těchto nelegálně uchovávaných datech natrénované. To by teoreticky pro firmu mohlo znamenat výrazně vyšší škodu než nařízená finanční pokuta. Trénování neuronových sítí je totiž časově i finančně nákladné.
Strojové učení a neuronové sítě
Strojové učení funguje na principu analýzy velkého množství dat. Počítačové programy jsou sadou instrukcí a podle těchto instrukcí zpracovávají předložená data. Strojové učení umožňuje nový přístup k řešení problémů počítačem. Než aby programátor počítači napsal veškeré instrukce pro všechny eventuality jednotlivě, tak naprogramuje způsob, kterým se počítač sám učí na dodaných „trénovacích“ datech. Učení probíhá pomocí sítí samostatných programů, tzv. umělých neuronů, proto se systému říká neuronová síť.
Například v případě strojového překladu se počítač trénuje na velkém množství textů, které jsou dostupné v angličtině i češtině. Neuronová síť zkouší překládat části textu a poté zkontroluje, nakolik se její verze liší od té správné. Ty části neuronů, jež napovídaly správnou možnost, budou posíleny a příště budou hrát v rozhodování větší roli. Čím rozsáhlejší a kvalitnější jsou vstupní data, tím lepší může být výsledek.
Mimosoudní vyrovnání, na kterém se FTC s firmou Amazon ohledně dětských hlasů dohodl, je opět překvapivě nízké. Amazon úřadu zaplatí pokutu ve výši 25 milionů dolarů (552 milionů korun), což je přibližně 0,005 % ročních příjmů společnosti. Jinými slovy, každou hodinu Amazon utrží více peněz, než je uložená pokuta.
Reputační škoda může být horší. Oba případy se totiž týkají obzvláště citlivých aspektů: ochrany dětí a ochrany intimního soukromí.
Firma Amazon ve svém vyjádření odmítla chybu v celé šíři uznat: „Ačkoli nesouhlasíme s tvrzeními FTC týkajícími se společností Alexa i Ring a popíráme, že bychom porušili zákon, tato urovnání nám umožní celou věc uzavřít.“ Jakou lekci si z těchto dvou případů odnese Amazon (a jakou spotřebitelé), tedy zatím není jasné.
