Expertka o hrozbách nových technologií: I traktory změnily SSSR jinak než USA

Rozhovor si také můžete poslechnout v audioverzi.

„Dobře rozvinutá globální informační infrastruktura může posílit demokratické principy a zastavit rozšiřování totality,“ věřila americká vláda v 90. letech. Stačí, když se po světě rozšíří informační dálnice, a padnou diktátoři, zmizí války a lidé z celého světa k sobě najdou cestu.

Tyto naivní vize vzaly zasvé poměrně rychle. Dnes víme, že totalitní režimy nejenže nezmizely, ale dokonce umí internet využívat. Směrem dovnitř i jako nástroj mezinárodního boje.

Americká vláda přesto věří, že má cenu pokoušet se o kultivaci globální internetové dálnice. „Nemůže a nemá to být jen zodpovědnost USA,“ popsala nám v Praze diplomatka Jennifer Bachusová, která se v roce 2022 stala první šéfkou nového Odboru pro kyberprostor a digitální záležitosti (CDP).

Za jakým účelem nová organizace vznikla?

Byla založena před necelými dvěma lety. Hlavní myšlenkou je snaha americké vlády a amerického ministerstva zahraničí věnovat se internetovým záležitostem uceleně a komplexně. Dříve jsme měli jednu kancelář, co řešila podmořské datové kabely, jinou, která popisovala důležitost digitální ekonomiky nebo 5G sítí… To jsme zkombinovali, a přidali k tomu i odbor věnující se „digitální svobodě“.

Jaké konkrétní problémy spadající do vaší gesce jsou nejviditelnější?

Byli jsme svědky státem sponzorovaných kyberútoků, ransomware útoků (vyděračských virů, pozn. red.), které mohou zcela ochromit ekonomiku. Vezměte si, co všechno lidé na internetu dělají.

Přes internet pracujeme, jsme v kontaktu se státními institucemi, získáváme informace o světě. Během covidové pandemie jsme to pocítili silněji, ale (naše závislost na internetu, pozn. red.) existovala už předtím. Abychom mohli internetu důvěřovat, potřebujeme zajistit základní bezpečnost.

Pokud vím, tak v 90. letech převládala – i v zahraniční politice USA – představa, že internet přinese svobodu a otevřenost do celého světa. Že vlastně přispěje k pádu autoritářských režimů, protože neumožní cenzuru. Dnes víme, že to se nenaplnilo. Jak a kdy se přístup USA v tomto ohledu změnil?

Řekla bych, že se tento pohled postupně vyvíjel. Nadšení, které panovalo ohledně propojení světa informační dálnicí, bylo skutečné. Ale jak vidíme po 30 letech, internet může být využit k dobrým i zlým činnostem.

Nemá smysl to pořád rámovat jako souboj mezi autoritářskými a demokratickými režimy. To nenese žádné ovoce. Je potřeba mluvit o výhodách, které propojení přináší celému světu, o pracovních místech, která díky tomu vzniknou, o důležitosti přístupu k informacím.

A s tím souvisí nutnost nastavit bezpečné hranice, někdy tomu říkáme mantinely (v originále: guard rails, pozn. red.). To se týká třeba kyberbezpečnosti, digitální svobody nebo otázek kolem šíření dezinformací.

Řeší se také šmírování a soukromí. To vše je potřeba probrat. Stále věříme v pozitivní dopad internetových technologií. Ale musíme se bránit těm problémovým jevům.

Internet je možné snadno zneužít k cílené polarizaci společnosti. Ne nutně k prosazování nějakého konkrétního názoru, ale zkrátka ke stříkání bláta všude a na všechny, což běžné uživatele znechutí a internet je tak méně použitelný.

Vím, že v Česku jsou dezinformace důležité téma. A je tomu tak už aspoň pět let. Americký ministr zahraničí na toto téma nedávno pronesl důležitý projev, ve kterém zdůraznil, že integrita informační sféry si zaslouží zvláštní ochranu.

Informační sférou rozumíme vše od podmořských kabelů přes digitální ekosystém až třeba po satelity. Souvisí to s otázkami svobodných médií, investigativní novinařiny, budování schopnosti kritického myšlení a digitálních dovedností v populaci. Všechno to spolu souvisí.

Jedno z relativně novějších témat je algoritmická amplifikace (jak sociální sítě skrze nastavení svých algoritmů ovlivňují, které zprávy se šíří a které ne, pozn. red.) a zvažuje se, jaká by měla být zodpovědnost těchto velkých provozovatelů. Vím, že v Evropě to částečně řeší Digital Services Act. Hledejme, jak to řešit celosvětově.

Další novou otázkou je zapojení generativní umělé inteligence. Především v souvislosti s volebním rokem. Jak zajistit transparentní využívání této technologie. Jak zajistit, že lidem nebudou předkládána falešná tzv. deepfake videa? V USA se teď řeší možnosti, jak výsledky opatřit nějakým vodoznakem, ale to je jen začátek.

Mně se zdá, že bychom neměli označovat věci, které vytvořila umělá inteligence. To je předem prohraná bitva, vždycky se najde někdo, kdo to vygeneruje modelem, který tam vodoznak nedá. Nebylo by lepší označovat naopak ty fotky a videa, u kterých víme, že jsou skutečné?

Možná. Je tu celá řada pokusů, jak spolehlivě a jednoznačně prokázat původ digitálního souboru. Ostatně generátory obrázků jsou jen jedním z mnoha způsobů, jak lhát. Můžete mít skutečnou fotku, ale dát jí nepravdivý popisek nebo kontext. Na to, aby člověk lhal, nepotřebuje umělou inteligenci.

Jsem optimistický člověk a skutečně věřím, že lidé – pokud mají k dispozici dobré nástroje – dokážou poznat skutečné informace. Je potřeba investovat do vzdělávání. Ukazovat lidem, že ne vše, co najdou na internetu, je pravda. A zároveň je potřeba, aby velké platformy převzaly svůj díl zodpovědnosti. I na tom pracujeme.

Přijde mi, že tento americký optimismus je v příkrém kontrastu s tím, jak internet vidí třeba Čína nebo Rusko. Ty svým občanům takové svobody nedávají. Pro ně je naopak náš západní důraz na svobodu slova projevem slabosti, zranitelností, kterou lze zneužít.

Součástí svobody slova musí být i právo na přesné informace. Svoboda slova neznamená, že vše musí dostat stejnou pozornost. Je důležité, aby příjemci mohli odlišit skutečné od neskutečného.

Systém, ve kterém spolu mohou myšlenky soutěžit, nakonec vede k lepším výsledkům. Lepším, než když kolem sebe máte jen ozvěny svého vlastního názoru. Proto třeba vůdci, kteří jsou obklopeni přikyvovači, začnou dělat hloupá rozhodnutí.

Také chci zdůraznit, že se nesnažíme lidem říkat, co si mají myslet. Spíše chceme učit, jak co nejlépe přemýšlet. Kritické myšlení je nezbytné pro inovaci. Proč jsou svobodné státy inovativnější? Protože tam není jen jeden správný názor.

Pokud se někdo naučí, že napřed je A, pak B, pak C, tak vždycky dojde ke stejnému výsledku. Ale inovátor přijde a vydá se úplně jiným směrem. A takoví lidé vytvoří nové technologie.

Jaké vzdělání se podle vás bude do budoucna hodit? Co budeme potřebovat, abychom se ve světě nových technologií – a nových hrozeb – vyznali?

Na to se mne ptají po celém světě. Vždycky říkám, že nejde o to, všechny učit podle stejných osnov. Potřebujeme zvědavé lidi. Kyberbezpečnost potřebuje lidi, kteří myslí mimo zavedené šablony. Musíme si vážit lidí, kteří s námi nesouhlasí. Právě schopnost nesouhlasit je nakonec to, co povede k inovacím.

Pracovala jste dlouhá léta v mnoha zemích, včetně malých, jako je Kosovo nebo Česká republika. Ovlivnila vás tato zkušenost způsobem, který nyní považujete za svou výhodu?

Moje nadšení a upřímná snaha pracovat na tom, jak celosvětově zlepšovat informační integritu, vychází i z mé zkušenosti v Česku. Protože tady se mne často ptali, jaké je k nějakému problému stanovisko USA. Měla jsem pocit, že v řadě otázek nemáme dostatečně dobrou odpověď. Často jsem musela říci, že nevím. Takže když jsem teď v nové pozici a mám nové možnosti, snažím se, aby naše odpovědi byly lepší.

V jádru je tato otázka: Jak zajistit informační integritu, aniž by tím utrpěla svoboda slova? Všechny země světa to nějak řeší a zkouší k tomu přistupovat různě. Můžete třeba ze šíření dezinformací udělat zločin. Jenže to, co je pro někoho dezinformace, to je pro jiného jen nesouhlas s vládní politikou. Vím, že v Česku je to citlivé téma, a je to pro mne inspirující.

Máte tu v Česku také hodně skvělých firem, inovativních firem. Spojené státy zastávají myšlenku digitální solidarity. To znamená, že žádná země by neměla mít monopol v digitální sféře. Měli bychom spolupracovat na tvorbě technologií zítřka.

Naším cílem není, aby inovace přicházely jen z USA. Ale chceme, aby inovace vznikaly v zemích, které s námi sdílí základní hodnoty. Jak se říká, lodě stoupají společně. Nové technologie pomáhají ekonomickému rozvoji na celém světě. Nakonec jsou to prostředky dobra.

Kolem technologií je také hodně nadšení. A také hodně sporů. Proto je podle mého důležité mít vizi a tuto vizi prosazovat skrze multilaterální dohody.

V 90. letech jsme mysleli, že stačí do světa rozšířit internet a všude bude demokracie. Dnes víme, že to bylo zoufale naivní. Jaká dnešní představa nám bude za deset let připadat podobně naivní?

Myslím, že nám dojde, že ty představy, jak stroje povstanou a ovládnou svět, byly přehnané. Jistě, bude (díky generativní umělé inteligenci, pozn. red.) hodně věcí jednodušších. Rychleji napíšete dopis nebo analýzu. Ale nenahradí osobní zodpovědnost. Pořád budete potřebovat někoho, kdo zkontroluje fakta a za výsledek ručí. Slavná ukázka je příklad amerického právníka, který si přes ChatGPT vygeneroval nejen argumentaci, ale i smyšlené precedenty a neexistující rozsudky.

Práce řady lidí se kvůli AI promění. Posunou se do pozice manažera, supervizora, který dohlíží na podřízené a kontroluje jejich práci. Budou opravovat a smysluplně doplňovat, těžit ze svých zkušeností. Výsledkem bude ohromný nárůst produktivity.

Samozřejmě hodně se řeší, kdo přijde o práci. Určitě bude potřeba vyrovnat se s řadou změn. Ale nemyslím si, že výsledkem bude masová nezaměstnanost. Budou tu nová zaměstnání, stoupne poptávka po pozicích jako prompt engineer nebo datový analytik. Souhlasím, že se chystá další průmyslová revoluce, ale podle mého to nebude revoluce, která připraví lidi o práci.

Uvědomuji si ale, že to může vypadat o dost jinak v demokratických a nedemokratických režimech. Proto mluvíme o důležitosti sdílené vize ohledně budoucnosti technologií.

Co když se na té vizi neshodneme?

Slyšela jsem nedávno dobré historické přirovnání. Traktory ve své době zcela změnily zemědělský průmysl. Ale jejich zavedení mělo různé dopady v různých zemích. V USA traktory vedly k tomu, že zemědělstvím se mohlo zabývat mnohem méně lidí, a více jich tak zamířilo do měst, za lepšími pozicemi. A naopak v Sovětském svazu zavádění traktorů vedlo nejen ke ztrátě zaměstnání řady lidí, ale především k velké lidské tragédii, zmařilo to hodně životů, doslova klesl počet obyvatel.

Stejná technologie může mít různé dopady v různých zemích. A proto je podle mého nutné pracovat společně na sdílené vizi, jak má ta budoucnost technologií vypadat.

Technologie nám může pomoci dosáhnout cílů, které se týkají zemědělství, udržitelnosti, zdravotnictví, vzdělávání v málo rozvinutých oblastech. Samozřejmě technologie nevyřeší všechny naše problémy a je nutné vytvořit rozumné mantinely pro její nasazení. Ale může opravdu pomoci.