Článek
Letos uplynulo 20 let od založení Facebooku, který se dodnes drží na první příčce žebříčku nejrozšířenějších sociálních sítí. Vděčí za to svým algoritmům, které se postupně staly součástí našeho každodenního života. Pilně pracují v pozadí, řeší problémy, pomáhají při rozhodování, optimalizují, a dokonce zachraňují životy.
Přesto mají tyto technologie také svou temnou stránku, kterou často přehlížíme. Rozmach umělé inteligence může vše prohloubit - nejen to dobré, ale i to špatné.
Všechno, co vidíme, slyšíme a čteme na webu a sociálních sítích, je nám servírováno pomocí algoritmů. Facebook, Instagram, YouTube, TikTok i LinkedIn používají pokročilé algoritmy k personalizaci obsahu. Stejně tak mluvení s Alexou či otevírání smartphonu pomocí obličeje pracuje na bázi algoritmů. Moderní život by se zastavil, kdybychom je najednou přestali používat.
To se ale zjevně hned tak nestane. Naopak algoritmy budou ve skutečnosti ještě více pronikat do našich životů, a to vlivem neúprosného rozvoje umělé inteligence, strojového a hlubokého učení.
Algoritmy nejsou neomylné
Když odhlédneme od nesporných výhod, k algoritmům lze přistupovat také tak, že nám nepomáhají, ale spíše diktují. Rozhodují o tom, co vidíme na „našich“ sociálních sítích, rozhodují o typu zpráv, které dostáváme, vybírají výsledky našeho online vyhledávání. Je na nich, zda máme nárok na půjčku anebo prověřují žádost o zaměstnání dříve, než skutečný člověk vůbec uvidí náš životopis. Zkrátka předurčují mnoho rozhodnutí v našich životech často bez našeho souhlasu a vědomí.
Algoritmy přitom nejsou neomylné. Mohou se dopouštět – a také se dopouštějí – systematických chyb a omylů. Mohou v nich přetrvávat předsudky založené na způsobu, jakým byly naprogramovány. Nejednou se potvrdilo, že aniž by to tvůrci zamýšleli, tak jejich algoritmy systematicky diskriminovaly určité skupiny lidi.
Důsledkem filtrace provozované algoritmy jsou také dnes tolik skloňované „bubliny“, ve kterých ve jménu personalizace a pohodlí vidíme věci pouze z určitého úhlu, zatímco širší perspektiva příběhu či problému nám uniká. Algoritmy eliminují nahodilost, která je, obrazně řečeno, kořením života. Namísto toho napomáhají šířit fake news a dezinformace. Nejde si nevšimnout, v jaké míře dnes do společnosti prostřednictvím sociálních sítí prorůstají kdysi okrajové názory a konspirační teorie.
Po boomu digitálních platforem a sociálních sítí jsme teď svědky dalšího kola závodu mocných technologických korporací. Open AI, Google, Microsoft, Meta, Apple a další se předhánějí v uvádění nových lákavých produktů, které dnes mají společného jmenovatele - umělou inteligenci, AI.
Před líbivě zaobalenými novinkami, kterými nás svádějí, je třeba se mít na pozoru. Jak už loni zdůraznila spisovatelka a aktivistka Naomi Kleinová ve svém komentáři pro britský deník The Guardian, vznešené sliby lepších zítřků jsou ve skutečnosti mocenskou hrou Silicon Valley.
Pozlátko lepších zítřků
Nutno uznat, že technologičtí giganti umějí vytvořit atraktivní produkt - přicházejí s povedenými názvy a logy, produkty propagují pomocí efektních ukázek a úhledných videí. Hlásají, jak jejich nová technologie zlepší svět. Používají superlativy a nikdy se nezmiňují o temných stránkách. Uhlazené PR ukazuje „big tech“ jako zodpovědné společnosti zaměřené na zákazníka. Produkty designují tak, aby byly snadno použitelné a rozdávají je „zdarma“.
Vymlouvají se, když produkt nefunguje zcela podle představ nebo nesplní počáteční očekávání, je to jen „součást vývojového procesu“, načež se zdvořile omluví s tím, že nedostatky co nejdřív odstraní. Bez ohledu na to se ale ani na okamžik nezastaví. Protože ultimátním cílem je svatý grál ještě větších zisků a ovládnutí trhu. S radostí si mnou ruce, když vidí, jak jejich konkurenti padají jako mouchy, jeden po druhém. Žádoucím výsledkem je jasný monopol. Anebo přinejhorším vytvoření útulného oligopolu. Akcionáři a investoři jsou nadšení.
Jakmile mají technologičtí giganti volné pole působnosti, zavádějí cílené reklamy, nové datové politiky, neustálý dohled, nové poplatky a podobně. V té době už jsme na jejich produktech natolik závislí, natolik se staly součástí naší každodennosti, že je téměř nemožné je regulovat, zavřít nebo ukončit jejich činnost. Džin je venku z láhve a svět musí žít s následky. Korporace vydělávají miliardy ve jménu lidského pokroku. Pak se přesunou k další „big thing“ a celá hra se opakuje.
AI versus „lidství“
Americká nezisková organizace The Center for Humane Technology (CHT) usilující o etický přístup k technologiím ve své prezentaci nazvané „The A.I. Dilemma“ poukázala na škodlivé vedlejší nežádoucí dopady technologií využívajících algoritmy. Škody plynou hlavně z posedlosti technologických společností po maximálním počtu zapojených uživatelů. Ke škodám patří podle analýzy mimo jiné informační přetížení, závislost, takzvaný doomscrolling, kultura influencerů, sexualizace dětí, QAnon, zkrácená doba pozornosti, polarizace společnosti, deep fakes, továrny kultů, fake news, rozpad demokracie. Podle CHT zkrátka v případě AI a algoritmů nejde o všelék, jak původně společnosti slibovaly.
CHT také upozornilo na narativ, kterým společnosti vyzdvihují rozvoj umělé inteligence. Slibují zemi zaslíbenou, kde budeme díky umělé inteligenci efektivnější, budeme rychleji psát slovo i kód, vyřešíme dosud zdánlivě nemožné vědecké výzvy, dokonce i klimatickou změnu.
Stejně jako sociální média ale umělá inteligence dle CHT otevře Pandořinu skříňku škodlivých vedlejších efektů, jako je například zhroucení reality a důvěry v ní. S tím souvisí i oslabení mezilidských vztahů. Také automatizované nacházení mezer v zákonech, vyděračství, automatizované kybernetické zbraně, automatizované zneužívání kódu, automatizovaný lobbing, podvody a tak podobně.
Lidé, kteří algoritmy vyvíjejí, mají často zkreslený pohled na realitu a jsou neteční k jejich potenciálním zhoubným důsledkům. Je přitom nezbytné, aby si společnosti vyvíjející produkty a služby využívající algoritmy byly těchto potenciálních negativních dopadů vědomy, spolupracovaly na jejich řešení a byly ve svém počínání transparentní. Což, jak dokázala řada kauz v nedávné minulosti, zpravidla nejsou.
Dle mého názoru je jistá technologická skepse namístě. Je naivní očekávat, že se korporace zaměří spíše na společenské dobro než na zisk. Za to, co vypouštějí do světa, by ale měly být přímo odpovědné. Potřebujeme silný regulační dohled. Spotřebitelé musí být o algoritmech lépe informováni a musí mít větší kontrolu nad jejich používáním.
Vzpomeňme si, co uvedl Karel Čapek, který byl hluboce skeptický k utopickým představám o vědě a technice, pro The Saturday Review v roce 1923, pár let po premiéře slavného R.U.R.: „Výplod lidského mozku se nakonec vymkl lidem z rukou.“ O sto let později zůstává Čapkova kritika mechanizace, nástupu robotů a toho, jak mohou dehumanizovat člověka, pozoruhodně prozíravá a přesná.
