Facebook dovolí výzvy k boji proti ruským okupantům. Jinak násilí maže

Americké i evropské firmy svůj odpor proti ruské invazi vyjádřily různým omezením služeb či zákazem prodeje svých výrobků v Rusku. Společnost Meta však přistoupila k velmi unikátnímu kroku, na svých sociálních sítích Facebook a Instagram nově umožní uživatelům publikovat „výzvy k násilí proti Rusům a ruským vojákům v kontextu jejich invaze na Ukrajinu“.

Informovala o tom nejprve agentura Reuters na základě interních e-mailů. Informaci následně pro CNN potvrdil i mluvčí společnosti Meta Platforms: „V důsledku ruské invaze na Ukrajinu jsme dočasně povolili formy politického projevu, které by za normálních okolností porušovaly naše pravidla, jako jsou násilné projevy, například smrt ruským okupantům. Stále však nepovolujeme věrohodné výzvy k násilí vůči ruským civilistům.“

Výjimka se podle informací Reuters týká jen některých východoevropských zemí, konkrétně Arménie, Ázerbájdžánu, Estonska, Gruzie, Maďarska, Lotyšska, Litvy, Polska, Rumunska, Ruska, Slovenska a Ukrajiny. Česko tedy na tomto seznamu, který obdrželi moderátoři diskuzí Meta, nejspíše chybí.

Zákaz publikování čehokoli, co může podněcovat k násilí, je hned první z celkem 26 bodů Zásad komunity, což jsou pravidla, kterými se řídí moderátoři obsahu sociální sítě Facebook.

Konkrétně mají moderátoři povinnost odebrat „výroky, které podněcují k závažnému násilí nebo ho podporují.“ Do takové kategorie by nejspíše spadal i výše zmíněný výrok „smrt ruským okupantům“, neboť jde o věrohodnou výzvu k zabití konkrétní skupiny lidí.

I dříve Facebook ve specifických případech povoloval „přání smrti“ vůči agresorům. Například výrok „teroristé si zaslouží smrt“ mohl na Facebooku zůstat. Podobné výroky totiž podle Facebooku nebyly věrohodnou výzvou k násilí. V případě ruské invaze na Ukrajinu jsou ale výzvy k obraně se zbraní v ruce zcela konkrétní a věrohodné.

Protože na Facebooku se šíří konkrétní výzvy, jak pomoci ukrajinské armádě s nákupem zbraní, takovéto výzvy by moderátoři mohli mazat právě s odkazem na zákaz násilných výzev. Facebook proto (opět dle interních e-mailů, které má k dispozici Reuters) vytvořil tzv. „výjimku v souladu s duchem pravidel“. Znamená to, že přísná aplikace pravidla by vedla k něčemu, co jde proti smyslu těchto pravidel.

Výjimka se týká případů, kdy výzva k násilí směřuje k ruským vojákům na Ukrajině, kromě vojáků již zajatých. Dokonce i v případě, že text příspěvku nemluví o „ruských vojácích“, ale jen o „Rusech“, může být výzva k násilí v mezích povoleného obsahu, pokud je z kontextu patrné, že jde o ruského vojáka v rámci invaze.

„Děláme to proto, že jsme si všimli, že v tomto konkrétním kontextu jsou ‚ruští vojáci‘ používáni jako zástupný výraz pro ruskou armádu. Pravidla proti nenávistným projevům nadále zakazují útoky na Rusy,“ uvádí se v e-mailu.

Podle interních e-mailů Facebook za určitých podmínek dočasně povolí také příspěvky vyjadřující přání smrti ruskému prezidentovi Vladimiru Putinovi a běloruskému vůdci Alexandru Lukašenkovi či chválu ukrajinského batalionu Azov.

„Té zprávě agentury Reuters nemůžeme ani uvěřit. Je zkrátka příliš těžké jí uvěřit,“ uvedl mluvčí Kremlu Dmitrij Peskov. „Doufáme, že to není pravda, protože pokud ano, pak to bude znamenat, že budeme muset učinit nejrozhodnější opatření k ukončení aktivit této firmy,“ dodal.

Sociální síť Facebook má po světě téměř tři miliardy aktivních uživatelů. Původně byl přitom Facebook jen univerzitní síť pro studenty Harvardské univerzity. S nabíráním milionů nových uživatelů v USA i ve světě ale najednou musel Facebook začít řešit problémy moderování obsahu. Malá firma si může dovolit dělat rozhodnutí za běhu. U velké globální firmy je ale potřeba nastavit konzistentní pravidla.

To se ukázalo obtížnější, než očekávala řada techno-optimistů, kterých jsou pochopitelně kanceláře Facebooku plné. Série skandálů vedla k zavedení tajných pravidel toho, co je a co není možné psát. Utajení pravidel zdánlivě dávalo smysl: kdyby lidé znali pravidla, mohli by se snažit balancovat na hraně povoleného. Jenže utajování pravidel vedlo k nejasnostem, nedorozuměním a nemožnosti se odvolat.

V roce 2018 síť Facebook poprvé zveřejnila podrobná pravidla (Zásady komunity): „Zveřejňujeme detailní interní předpisy toho, jakým způsobem Facebook posuzuje obsah,“ řekla mi tehdy Siobhan Cummiskeyová, která odpovídala za pravidla pro veřejnost v regionu východní Evropy. „Chceme zdůraznit, že na Facebooku není místo pro škodlivý obsah, a chceme lidem ukázat, jak rozhodujeme, co na Facebook patří a co ne. Věříme, že to podnítí debatu o těchto komunitních pravidlech i o tom, jak tato pravidla vylepšit.“

Debatu to rozhodně podnítilo. Třeba o tom, zda může mít globální firma skutečně jedna pravidla pro všechny lidi na celém světě, nebo zda je v pořádku, aby někteří lidé měli lepší podmínky než jiní. Facebook chce být místem, kde se řeší politika, a zároveň místem, kde se řeší fotky z dovolené, místem, kde lidé potkávají své nejbližší i diskutují s neznámými lidmi o vysoce polarizovaných tématech a kde se všichni cítí pohodlně a zároveň se nikomu neskrývá nic, co je společensky důležité.

Vyřešit tyto problémy a paradoxy měl pomoci „nejvyšší soud Facebooku“, tzv. dozorčí komise (Oversight Board), která je na Facebooku nezávislá a může jeho rozhodnutí přehodnotit nebo zvrátit. Jenže rozhodnutí ohledně obsahu dělá Facebook denně statisíce a komise stihla od roku 2020 zatím ze všech úhlů zvážit a pečlivě projednat jen 16 případů.

I když mají tato rozhodnutí váhu určitých precedentů, je to stále jen kapka v moři. A jak upozorňuje bývalá zaměstnankyně Facebooku a nyní whistleblowerka Frances Haugenová: „Facebook tyto konflikty důsledně řešil ve prospěch svých zisků. Výsledkem byl systém, který posiluje rozdělení, extremismus a polarizaci – a podkopává společnosti po celém světě.“

„Lokální výjimka“ pro příspěvky, které ve vypjaté situaci vyzývají k obraně Ukrajiny se zbraní v ruce, je z pohledu Facebooku zcela pochopitelná. V podstatě jde o kodifikaci současného stavu, protože moderátoři zřejmě cítili, že smazat výzvu k sebeobraně je svým způsobem absurdní. Připomíná to ale úzké vidění Facebooku v globálním světě. Zatímco některé konflikty se dostanou do seznamu výjimek, mnohé jiné jsou úplně mimo zorné pole této „globální“ společnosti a výsledkem byly třeba nekontrolované výzvy k násilí v Myanmaru nebo divoké šíření nenávistných příspěvků skoro ve všech jazycích kromě preferované angličtiny.

Samostatná výjimka pro moderátory ve východoevropských zemích je tak vlastně ukázka toho, že Facebook začíná věnovat více pozornosti i neanglickému obsahu. Zároveň se ukazuje, že částečně rezignoval na snahu aplikovat stejná pravidla po celém světě.

Otázka je, nakolik systémový a systematický takový přístup bude. Síť Facebook je budovaná tak, aby využívala lidské emoce k získání a následnému zpeněžení pozornosti. Je tedy už od začátku v pozici dost nevhodné pro usmiřování těchto emocí.