Zaměstnanci TikToku v Číně můžou sledovat, co vás baví v jejich aplikaci

Aplikaci TikTok denně otevřou miliony uživatelů po celém světě. Ve volné chvíli ji otevírají na svém telefonu a dlouhé minuty sledují zábavná videa podle svého výběru.

Nyní původem čínská síť přiznala, že k osobním údajům evropských uživatelů mají přístup také zaměstnanci společnosti z ostatních zemí mimo kontinent. Kromě Brazílie, Izraele, Singapuru nebo USA a Kanady jde také o Čínu. Uvedl to britský deník The Guardian.

TikTok to uvedl ve svých aktualizovaných zásadách ochrany osobních údajů. Důvodem, proč mohou osobní data evropských uživatelů získat i země mimo Evropu, je podle nových zásad „zajištění používání platformy, která bude konzistentní, příjemná a bezpečná“.

V souvislosti se změnou těchto podmínek se vyjádřila vedoucí oddělení ochrany osobních údajů společnosti TikTok v Evropě Elaine Foxová.

„Na základě potřeby vykonávat svou práci umožňujeme některým zaměstnancům naší firemní skupiny, kteří se nacházejí v Brazílii, Kanadě, Číně, Izraeli, Japonsku, Malajsii, na Filipínách, v Singapuru, Jižní Koreji a Spojených státech, vzdálený přístup k údajům evropských uživatelů TikToku,“ uvedla.

Uvedla také, že poskytování těchto údajů podléhá řadě bezpečnostních kontrol a schvalovacích protokolů, a to prostřednictvím obecného nařízení o ochraně osobních údajů (GDPR).

V praxi by získané údaje mohly sloužit například ke zlepšení a optimalizaci algoritmů, které uživatelům doporučují obsah. Pomoci by mohly také k odhalování problematických účtů.

Pokud jde o platformu TikTok, nejde ale o první kontroverzi, která by se sdílením uživatelských dat souvisela. Například v loňském roce síť informovala americké uživatele, že může sbírat otisky jejich tváře, hlasové nahrávky i otisky prstů. Invazivní metody odsoudila Trumpova vláda, která se pokusila síť ve Spojených státech zakázat. Důvodem byla zejména obava z toho, že aplikace může sdílet informace s čínskou vládou.

Síť prošetřovala také irská komise pro ochranu dat (DPC), její hlavní regulátor v Evropské unii, opět kvůli problémům souvisejícím s ochranou soukromí uživatelů.

I přesto je ale TikTok nejrychleji rostoucí aplikací sociálních médií a v současnosti eviduje asi čtyři miliardy stažení. Podle analytické společnosti Sensor Tower jsou od spuštění v roce 2017 její hrubé příjmy tvořené útratou zákazníků v aplikaci více než 6,2 miliardy dolarů (155,9 miliardy Kč).

Sdílení uživatelských dat je kontroverzní z několika důvodů. Evidentní je pochopitelně obava o soukromí uživatele, které je například v Evropě chráněno směrnicí o ochraně údajů známou jako GDPR. Jejím cílem je například zajistit, aby k osobním datům uživatele neměl přístup někdo, komu uživatel nedal příslušný souhlas. Důležitou součástí je také přesné určení, jak je možné data ukládat – především tak, aby bylo možné zajistit jejich úplné smazání v případě, že uživatel v budoucnu souhlas s uložením dat odvolá. A to se zajišťuje obtížně, pokud má k datům přístup více subjektů.

V případě čínské společnosti navíc existuje obava, že by skrze pracovníky v Číně mohla k datům získat přístup „odnož“ čínské vlády. „Každá čínská společnost, která má alespoň tři členy strany, musí mít tzv. stranickou buňku,“ připomíná analytik Isaac Fish."Provozovatel TikToku –  včetně firmy ByteDance a dalších – pravděpodobně zaměstnává stovky, ne-li tisíce členů strany." Někteří z nich podle něj pravděpodobně pracují zároveň pro TikTok a zároveň pro čínskou vládu.

„A to ani nemluvím o čínských zákonech o ochraně osobních údajů, které vyžadují sdílení určitých údajů s vládou, nebo o čínských normách, že společnosti budou sdílet údaje s vládou/stranou, když o to požádá,“ pokračuje Fish. Podle něj tedy přiznání TikToku není ničím překvapivé. „Pokud sdílíte data s velkou čínskou společností, sdílíte data s Komunistickou stranou Číny.“

Kromě osobních údajů konkrétních osob jsou ale uživatelská data cenná i na obecné úrovni. Sociální síť TikTok pracuje s algoritmy strojového učení, aby uživatelům nabídla personalizované doporučení krátkých videí přímo pro ně. Za tím účelem pečlivě měří a analyzuje, čemu lidé věnují pozornost, jak dlouho a kdy. Toto mohou být velmi užitečná data pro trénování a ladění neuronových sítí. Čína v oblasti strojového učení dotahuje náskok USA a Evropy, a podle některých odborníků je jen otázkou času, kdy se dostane do popředí vývoje. Podle některých pozorovatelů z oboru strojového učení se Čína „nezdržuje“ s otázkami ohledně soukromí: „V Číně záleží na rychlosti – a to hodně,“ všímá si Florian Douetteau ze společnosti Dataiku. „Zdá se, že pokud jde o to, co umělá inteligence dokáže, neexistují tam žádná tabu.“

„Jsem hluboce znepokojen tím, že umělá inteligence neposílí postavení lidí, ale že vláda naopak využije umělou inteligenci k dalšímu potlačování svých občanů, zejména v kombinaci se sledováním, velkými daty a strojovým učením,“ uvedl pro Financial Times v roce 2019 Lokman Tsui, vědec a aktivista z Čínské univerzity v Hongkongu.

„Od roku 2013 zveřejnila Čína několik politických dokumentů na národní úrovni, které odrážejí záměr rozvíjet a zavádět umělou inteligenci v různých odvětvích,“ uvádí analýza z roku 2020. „Z těchto dokumentů vyplývá, že v Číně již delší dobu existuje vědomá snaha o rozvoj a využívání umělé inteligence.“ Od roku 2017 má Čína tzv. Plán rozvoje umělé inteligence nové generace, který zdůrazňuje důležitost strojového učení: “

„Hlavním cílem této politiky je učinit z Číny do roku 2030 světové centrum inovací v oblasti umělé inteligence a učinit z umělé inteligence hlavní hnací sílu modernizace čínského průmyslu a hospodářské transformace,“ uvádí analýza. „Celkově plán představuje komplexní strategii v oblasti UI a v mnoha klíčových oblastech je výzvou pro ostatní vedoucí mocnosti.“

Někteří odborníci se obávají, že Čína se nebude při trénování strojového učení „zdržovat“ ochranou soukromí. „Důraz na strojové učení může v důsledku vést k výraznému upevnění kontroly nad obyvatelstvem,“ varovala už v roce 2018 vědecká novinářka Christina Larsonová, která v té době žila v Pekingu. „Čína je země zaplavená daty, která jsou pro systémy hlubokého učení životadárnou silou. Skutečnost, že umělá inteligence je mladým oborem, je pro Čínu příznivá, protože podporuje rostoucí akademické úsilí, díky němuž se Čína dostala na dostřel Spojeným státům, které jsou dlouhodobě lídrem v oblasti výzkumu umělé inteligence.“

Podle Larsonové ale existuje důvodná obava, že Čína využije natrénované neuronové sítě k udržení kontroly nad svým obyvatelstvem: „Státní rada ve svém plánu pro umělou inteligenci výslovně uznává, že umělá inteligence je důležitá pro výrazné zvýšení schopností a úrovně správy společnosti a hraje nezastupitelnou roli při účinném udržování sociální stability.“

Jak ukázala nedávná analýza The New York Times, strojové učení je už v praxi využívané na mnoha místech Číny k dohledu nad obyvateli, rozpoznávání obličejů, kontrole cestujících nebo rozpoznávání a umlčení disidentů: „Čínská policie vytváří jednu z největších databází DNA na světě. A úřady využívají technologii rozpoznávání obličejů ke shromažďování otisků hlasů od široké veřejnosti. Cíl čínské vlády je jasný: navrhnout systém, který by maximalizoval to, co stát může zjistit o identitě, aktivitách a sociálních vazbách člověka, což by v konečném důsledku pomohlo vládě udržet autoritářskou vládu.“

V tomto kontextu lze vnímat obavy ze sdílení dat o uživatelích z celého světa právě skrze populární mobilní aplikaci TikTok, ve které například americká mládež tráví více času než v jiných aplikacích. Data získaná o těchto uživatelích mohou být teoreticky užitečná nejen k výběru nejvtipnějšího videa, ale také k trénování neuronových sítí, které budou pomáhat Komunistické straně Číny s plněním jejich hlavního cíle: „sociální stability“. Tedy udržení se u moci za každou cenu.

Doplnění: Doplnili jsme chybějící odkaz u citátu Floriana Douetteaua.