Pod čarou: Bojíte se o děti na internetu? Zákazy jim nepomohou

Už od dřevních dob internetu bylo jasné, že digitální komunikace s sebou nese řadu rizik zejména pro děti a dospívající. Proto už také více než dvě dekády rozdáváme dětem notoricky známé rady typu „nikdy nevíš, kdo si s tebou na sítích doopravdy povídá“ a na potřebě zabezpečení a regulace komunikačních technologií panuje široká shoda.

Každý morální apel, se kterým zdánlivě nikdo normální nemůže nesouhlasit, se ale zákonitě stává dvousečnou a snadno zneužitelnou zbraní. V posledních letech se to čím dál víc projevuje v oblasti internetové legislativy, kde vlády připravují a zavádějí zákony a opatření, které jsou sice často velmi kontroverzní a omezují základní svobody, ale jakékoliv námitky jsou přehlíženy s tím, že se vše přece děje v zájmu ochrany dětí.

Projevilo se to například minulý týden, kdy měli ministři vnitra členských zemí EU projednávat návrh nařízení známého jako chat control. Podle něj by měly komunikační aplikace typu WhatsApp či Signal pomocí umělé inteligence skenovat soukromé elektronické konverzace všech svých uživatelů, konkrétně všechny linky a audiovizuální materiály v chatech, aby se tak zamezilo šíření dětské pornografie a podobných materiálů označovaných zkratkou CSAM.

Proti návrhu vystupuje řada evropských států, a proto nakonec ani neprošel k dalšímu projednávání v europarlamentu, nicméně neskončil pod stolem a snahy o posílení plošné kontroly digitální komunikace budou nejspíš pokračovat.

Jde o opatření, které mimořádně silně narušuje soukromí uživatelů, za jiných okolností by vzbudilo mnohem větší nevoli a nejspíš by o něm ani nikdo neuvažoval. Hrozí u něj velké riziko úniku či zneužití dat, bylo by pramálo efektivní a otázkou je i to, kde přesně by se nasbíraná data ukládala a které bezpečnostní složky by k nim měly přístup (jeho odpůrci proto také navrhují změny, které by omezily rozsah skenování jen na podezřelé osoby, a proti prolomení šifrování zabezpečených aplikací se už dříve ostře vymezil i Evropský soud pro lidská práva).

Poslechněte si audioverzi newsletteru načtenou autorem.

Bezpečí dětí je ale mimořádně silný argument, který hraje na zcela pochopitelné emoce a morální apely. Proto je s poukazem na ochranu dětí možné leccos protlačit s mnohem slabším odporem veřejnosti – vypovídající je v tomto ohledu studie norských vědců, kteří zjistili, že tamní veřejnost i novináři jsou překvapivě tolerantní k omezení svobody slova, pokud jde právě o ochranu dětí.

Velmi to připomíná jiný argument, který byl až donedávna účinným beranidlem k rozšiřování digitální kontroly a cenzury. Pokud to nešlo jinak, vždy stačilo poukázat na hrozbu terorismu a odpor k novým opatřením rázem zeslábl, protože na potřebě boje s terorismem se přece všichni shodneme.

Po více než dvou dekádách ale tento bubák poněkud vyčpěl (ukázalo se, že za teroristu může být označen nejen vousatý islamista s výbušninami, ale v podstatě kdokoliv, kdo se znelíbí příslušnému politickému režimu) a snahy o internetovou cenzuru jsou tak čím dál víc zdůvodňovány právě snahou o ochranu dětí.

Když se na ně ale podíváme podrobněji, většinou se ukáže, že svůj oficiální účel (proti kterému opravdu nelze nic namítat) plní jen stěží nebo dokonce děti a mládež poškozují, a většinou jsou protlačovány se zcela jinými, postranními a dost nevábnými úmysly.

Navrhovaná plošná kontrola komunikačních aplikací v EU je jen špičkou ledovce. Evropskými institucemi koluje řada podobných návrhů a velmi aktivní je v tomto směru i Velká Británie, kde nedávno zkoušeli neúspěšně prosadit tzv. Online Safety Bill. Australská vláda nedávno zakázala sociální sítě všem dětem do 16 let věku (i když není jasné, jak a zda bude tento zákon uveden do praxe) a podobné kroky zvažují i další země.

Možná největší pozornost pak přitahuje dění v USA, kde se v současnosti debatuje o návrhu tzv. Kids Online Safety Act (KOSA) a s poukazem na ochranu dětí se tam řada cenzurních a regulačních opatření zaváděla již dříve. A protože americká legislativa má globální dopady i díky jejímu vlivu na strategie digitálních gigantů ze Silicon Valley, vyplatí se dění za oceánem bedlivě sledovat.

Skenování a kontrola komunikačních kanálů bývá jen jednou součástí zpravidla velmi komplexních legislativních balíčků. Mezi další navrhovaná opatření patří především zavádění a ověřování věkových limitů pro přístup na různé platformy a také různé způsoby filtrování a odstraňování nežádoucího obsahu, kterým by měly být povinovány společnosti provozující velké sociální sítě či nejrůznější weby.

Vždy jde o kroky, které na první pohled působí rozumně, ale ve skutečnosti jsou formovány morálními panikami a ideologií, nikoliv empirickými poznatky, a řada odborníků na nich proto nenechává nit suchou.

Různých opatření pro ochranu dětí v online prostoru leží na stolech amerických politiků na federální i lokální úrovni spousta a jejich podrobný rozbor by přesahoval limity tohoto newsletteru. Jejich společné rysy a kontroverzní body velmi přehledně shrnuje tato zpráva z pera komunikačních a právních expertů z předních amerických univerzit, kteří se zaměřili na hlavní argumenty navrhovatelů a jejich následné vyvracení.

Jako konkrétní „digitální“ rizika pro děti a mládež jsou většinou zmiňovány dopady na duševní zdraví, nebezpečí sexuálního obtěžování a zneužívání, šíření poruch příjmu potravy a sebepoškozování a také vznik závislosti na sociálních sítích. Potíž je ovšem v tom, že většina těchto nebezpečí je jen obtížně prokazatelná, nebo funguje zcela jinak, než si zákonodárci i veřejnost myslí, a plošné zákazy či cenzurní opatření proti nim proto příliš nepomohou.

Na neprokazatelnost je potřeba poukázat zejména v případě údajných dopadů sociálních sítí a digitální komunikace obecně na duševní zdraví dětí a mládeže. Zejména mezi učiteli a rodiči se kvůli bestsellerům od pseudoodborníků typu Jonathana Haidta ujal názor, že za krizi duševního zdraví mladých „mohou ty telefony“, a protože jde o velmi jednoduchou představu navádějící k jednoduchým řešením, zaniká tu hlas expertů, kteří podotýkají, že drtivá většina dopadů nových technologií na psychiku je empiricky buď zcela neprokazatelná a vyvrácená, nebo jen velmi slabá a nejistá.

Co se týče často zmiňovaného rizika sexuálního zneužívání, autoři zprávy podotýkají, že většina navrhované americké legislativy nemá žádný dodatečný účinek po stránce boje se šířením dětské pornografie (to již řeší řada dalších zákonů a bezpečnostní složky na to vynakládají velké úsilí) a zcela se míjí s realitou v oblasti možného obtěžování či sexuálního vydírání, se kterým se mohou děti na sítích setkat.

Zpravidla se pracuje s figurou cizího anonymního pachatele, ale je smutným faktem, že většinu těchto činů na dětech na internetu páchají lidé, které oběť zná a často jsou to její blízcí, přátelé či partneři. Toto riziko nedokáže vyřešit žádná internetová cenzura, ale jen osvěta, sociální práce, bdělost učitelů a dalších lidí, což je pochopitelně mnohem složitější oříšek.

Údajná závislost na sociálních sítích je také jen obtížně prokazatelnou a spornou teorií, a co se týče propagace sebepoškozování či poruch příjmu potravy, tam si velké sociální sítě musí skutečně zamést před vlastním prahem, jenže prosté věkové limity tady také nic neřeší – potřeba je zejména pečlivá a efektivní moderace obsahu, ke které jsou ale potřeba drazí lidé a nikoliv levné algoritmy, a především vzdělání. Mediální teoretička danah boyd v tomto ohledu podotýká, že pokud nebudou děti na svět sociálních sítí a jeho rizika pečlivě připraveny, je úplně jedno, jestli je tam vhodíme v 11, 13 nebo 16 letech – příslovečnou potravou pro vlky se stanou tak jako tak.

Pozitivní efekt zvažovaných represí je tedy minimální, kdežto rizika značná. Začít lze již u vyžadovaného ověřování věku. To představuje obrovské riziko pro zneužití dat, dá se obejít používáním VPN či jinými cestami, a aby bylo opravdu účinné, muselo by dojít k roztříštění (tzv. balkanizaci) internetu do národních sítí a tvrdé kontrole podle čínského vzoru.

Vedle toho je tu i otázka svobody slova. Z tohoto hlediska může být řada navrhovaných opatření protiústavní jak v USA, tak i jiných koutech světa, a autoři zmíněné zprávy trefně podotýkají, že se svoboda slova vztahuje i na děti – tento argument byl již také úspěšně použit u soudního sporu v Kalifornii, kde se řešil zákaz přístupu dětí k násilným videohrám.

Možná největším rizikem je ovšem omezování přístupu k informacím a potlačování anonymity na internetu. A zde také vychází najevo, které politické a společenské síly různá drakonická opatření na „ochranu dětí“ podporují. Autoři zmiňované zprávy i řada dalších odborníků podotýká, že v této oblasti hraje silnou roli lobby ultrapravicových a radikálních náboženských skupin, které se snaží zabránit dětem a mládeži v přístupu k progresivnímu obsahu a informacím především o LBGT+ tématech a dostat je proto také pod silnější rodičovskou kontrolu.

Doslova s otevřenými kartami v této oblasti začal v poslední době hrát americký pravicový think tank Heritage Foundation, který své plány rozvedl v takzvaném Projektu 2025, jenž bude mít podle všeho velký vliv na nadcházející Trumpovo prezidentské období.

Jeho autoři mimo jiné usilují o represe a ideologické čistky ve školství, a především se stále dokola točí okolo boje s pornografií – sami ovšem explicitně přiznávají, že jim nejde ani tak o to, že by pornografie jako taková byla škodlivá pro děti (což by jistě dávalo smysl), ale že chtějí za pornografii cíleně začít označovat vše, co souvisí se sexualitou a genderem a je to podle jejich názoru škodlivé pro děti.

Jednoduše řečeno, nevadí jim ani tak fakt, že by jejich děti mohly na internetu narazit na pornografii, ale hlavně se snaží zabránit tomu, aby tam nedejbože nemohly hledat informace o bezpečné antikoncepci, domácím násilí, feminismu či trans lidech, a pokud už to zkusí, aby je rodiče či jiné autority rychle vyhmátli.

Jsou to snahy a tlaky, které nejen v USA kvasí v politických kuloárech již dlouhá léta (výzkumná zpráva think tanku ODI nedávno varovala, že do globálních kampaní proti zavádění sexuální výchovy a genderových témat do škol tečou miliardy dolarů z kapes radikálních křesťanských i islámských organizací) a v oblasti internetové legislativy je podrobně mapuje předloni vydaná kniha The Digital Closet od mediologa Alexandera Money.

Ten upozorňuje, že jakékoliv údajné tažení proti pornografii vždy vede především k cenzuře LGBT+ obsahu a zvyšování rizika pro zranitelné děti a dospívající (ale také obecně pro ženy a navíc i pracovníky v sexbyznysu), a zároveň otevírá dveře k takřka neomezené politické cenzuře – v americkém Kongresu již léta leží i tzv. EARN IT Act, který chce digitální platformy donutit k potírání a cenzuře obsahu sexuálního charakteru (sex related speech), na který by mohly narazit děti, aniž by ovšem definoval, co přesně to má být.

Ve výsledku do této škatulky často spadnou právě vzdělávací a osvětové materiály, a navíc jde o cenzuru skrytou a plíživou, protože jí algoritmicky provádí samotné platformy a zvenčí to pak vypadá, že se tento typ obsahu prostě ze sítí jaksi samovolně ztrácí.

K ideologické lobby náboženských a konzervativních skupin se přidávají i bezpečnostní složky, které vždy ocení každé rozšíření pravomocí. Roli hrají také autorské svazy a protipirátské skupiny, kterým je větší kontrola obsahu rovněž po chuti, a na své si přijdou i technologické společnosti, kterým právní represe sice přidělávají starosti, ale zároveň díky ověřování věku a omezování anonymity otevírají potenciální nové zdroje cenných uživatelských dat. A pokud by snad někdo proti návrhům této mocné koalice něco namítal, má smůlu – jde přece o ochranu dětí a proti té nikdo normální nemůže nic namítat.

Proti ochraně dětí skutečně nelze nic namítat a nikdo soudný asi ani nepochybuje o tom, že sociální sítě a další platformy jsou plné velmi závažných a neřešených rizik, se kterými je potřeba něco dělat (libertariánská řešení typu „nechme tomu volný průběh, hlavní je svoboda slova“ jsou proto také směšná a nezodpovědná a asi je není potřeba seriózně zvažovat).

Jakákoliv opatření ovšem musí být účinná a musí se řídit především zájmy samotných dětí a dospívajících, nikoliv jejich rodičů (to k nevůli mnohých opravdu není totéž) či politiků a byznysmenů. Konstruktivní směr debaty v tomto ohledu nedávno ve velmi povedené glose nastínila zmiňovaná danah boyd.

Vychází z konstatování, že mezi otázkami „Mohou sociální sítě ublížit dospívajícím?“ a „Představují sociální sítě pro dospívající riziko?“ je zdánlivě malý, ale ve skutečnosti zásadní rozdíl. Pokud je něco přímým a prokazatelným nebezpečím, je zcela oprávněné a správné to řešit přísnými zákazy, dohledem a omezováním přístupu. Potíž je ale v tom, že to musíme empiricky dokázat, což u velké části zmiňovaných potenciálních nebezpečí nelze – a když chceme něco potírat bez důkazů o tom, že je to škodlivé, otevíráme jasný prostor pro politické zneužití.

Pokud ovšem začneme hovořit o možném riziku (kterým sociální sítě a jiné technologie bezesporu jsou), logicky nás to navede k úplně jinému přístupu. Boyd používá výstižnou metaforu silničního provozu – ten je jistě nebezpečný a nejen pro děti představuje riziko, ale víme, že zákaz vstupu na ulici by asi nebyl řešením, a proto děti učíme, jak správně přecházet křižovatku, instalujeme semafory a značky apod. A úplně stejně se to má třeba s lyžováním. Také je to rizikové a nikdo soudný by asi dítě jen tak bez přípravy nepostavil na lyže a nepustil z prudké sjezdovky, ale také není nutné dětem lyžování zakazovat – jen je potřeba nějaká příprava.

Rizikům předcházíme prevencí, vzděláním a citlivým nastavováním pravidel, a právě to je v současnosti v digitálním prostoru zapotřebí. Děti a dospívající potřebují rozvíjet digitální gramotnost mnohem více než dosud, a rozhodně se to nemůže omezovat jen na poučky typu „Dej si pozor na internetové úchyly“, které jsou sice důležité, ale postihují jen zlomek digitální reality.

V poslední době se to ukázalo na tragických kauzách, kdy dospívající navázali (z jejich pohledu) intimní vztah s nezodpovědně neregulovaným AI chatbotem, který je následně začal navádět k sebevraždě nebo dokonce k zabití vlastních rodičů. Je to nejspíš mnohem závažnější riziko než to, že teenager někde na webu narazí na záznam z drag show, ale milovníkům digitální cenzury se moc nehodí do krámu a represemi je jen obtížně řešitelné.

Děti se musí naučit rozpoznávat a vyhodnocovat rizika, na která v digitálním i fyzickém prostoru stejně jednou narazí, a pokud jim budeme zamezovat v přístupu k informacím nebo je bez přípravy budeme po dovršení věkového limitu najednou vrhat do divokých vod sociálních sítí, rozhodně tím této digitální socializaci nepomůžeme.

Boyd k tomu dodává, že nic také nelze řešit přesnými požadavky na to, jak by měla daná platforma fungovat. Jistě je potřeba provozovatele tlačit k zodpovědné moderaci a péči o bezpečnost a soukromí, ale nelze přehlížet skutečnost, že lidé platformy využívají často dost nečekanými způsoby a drtivou většinu násilí a zneužívání na obětech na sociálních sítích páchají jiní lidé, nikoliv sítě samotné.

K tomu patří i fakt, že zmiňovaným rizikům na internetu nečelí jen děti, ale úplně stejně i dospělí – a pokud vypichujeme děti a tváříme se, že dospělé by nikdo na sítích zneužít či šikanovat nemohl, dost možná to naznačuje, že máme nějaké vedlejší úmysly.

Vzdělání je proto potřeba i pro dospělou veřejnost a rodiče, jejichž digitální gramotnost bývá také nedostatečná. Mnohdy vůbec neví, kde se jejich děti na internetu pohybují, a pokud ano, často nechápou logiku a nepsaná pravidla daných míst. Dobrým příkladem jsou v tomto ohledu třeba mimořádně populární platformy pro videoherní livestreaming, na kterých miliony dětí tráví celé dny a i rodiče by se v nich měli lépe vyznat – dobrý manuál na tomto poli pro Seznam Zprávy nedávno sepsal Vojtěch Kupka.

Pokud chceme sebe i své blízké před něčím chránit, musíme tomu nejprve rozumět a až poté můžeme řešit, zda aplikovat represi, či jemnější řešení, jinak nám daný problém vybují jinde s nečekanou silou (co asi udělá teenager, kterému zakážeme přístup na místo, kde zoufale chce a potřebuje být…). Patří k tomu i nepříjemné poznání, že děti i jiní lidé v konečném důsledku nemohou být pod naší plnou kontrolou a to nejlepší, co pro ně můžeme udělat, je vybavit je dostatečnými schopnostmi a úsudkem, aby si v nebezpečném světě poradili sami.

A především musíme dávat pozor, jak a proč v nás některá politická témata a návrhy rezonují. Pokud někdo začne plamenně prosazovat ochranu dětí a v nás to vzbudí souhlas a ochranitelské pudy, je to jistě přirozené, ale zároveň bychom se v té chvíli měli vždy sebekriticky zamyslet, zda se nás někdo nepokouší manipulovat a nenápadně prosazovat okrajování svobod a postranní agendu, která dětem ani dospělým rozhodně nepomůže a mnohým naopak ublíží.

Pokud se vám ukázka z newsletteru Pod čarou líbila, přihlaste se k odběru. Každou sobotu ho dostanete přímo do vašeho e-mailu, včetně tipů na další zajímavé čtení z českých i zahraničních médií.