Článek
Na umělé inteligenci nás děsí její strojovost, zároveň ale odhaluje, jak jednoduché mechanismy ovlivňují nás samotné, popisuje filozofka a expertka na umělou inteligenci Dita Malečková.
Soudí, že až opadne prvotní entuziasmus, musí lidstvo vyřešit, jak novou technologii kontrolovat.
Nevylučuje, že umělá inteligence může ohrozit osobní svobodu, zároveň však umožňuje unikátní náhled do fungování společnosti.
V rozhovoru pro Seznam Zprávy popsala, z čeho pramení obavy z nové technologie, jaké výzvy přináší a co nám může říct o nás samých.
Fascinace umělou inteligencí v poslední době zaplavila sociální sítě, jejichž uživatelé ve velkém sdílí, co všechno nová technologie dokáže. V některých ale vzbuzuje obavy, například ze ztráty zaměstnání či z šíření dezinformací. Co stojí v pozadí těchto obav?
Základní věc je jakási strojovost, umělost, která vlastně vystupuje jako protiklad k lidskosti.
Nicméně je dobré si uvědomit, že tato strojovost s lidmi samozřejmě souvisí - umělá inteligence je produktem lidského systému nebo nějaké jeho části. A my vlastně chceme systém, který má být co nejefektivnější.
V hloubi velké části těchto obav je strach, že i my lidé budeme přetvořeni na něco strojového, nějakou součástku, která bude zajišťovat, aby byl celý systém v chodu. A že se tím ztratí něco, co většinou spojujeme zejména s tématy osobní svobody nebo tvořivosti.
Mohla byste uvést konkrétní příklad? Jak může umělá inteligence ohrožovat osobní svobodu?
Když se v současné době bavíme o umělé inteligenci, tak většina lidí odkazuje na generativní systémy, které vytváří text nebo obrazy. Ale to je vlastně jen taková legrácka.
Umělá inteligence totiž souvisí také s tzv. algoritmickým řízením společnosti. Řízením, které podléhá nějaké strojové logice - jde třeba o systémy rozpoznávání tváří nebo hodnocení lidí ve veřejném prostoru. My to rádi spojujeme s Čínou, jakožto se státem, který prosazuje absolutní kontrolu nad svými občany, ale samozřejmě se to zdaleka netýká jen Číny.
Jedná se třeba také o systémy bankovních půjček nebo zdravotního pojištění. Prostě takové oblasti, kde člověka někdo nebo něco už dnes hodnotí. V situaci, kdy to bude automatizované a bude o tom rozhodovat stroj, už jaksi nebude odvolání.
Zavádění umělé inteligence v těchto oblastech má ale za cíl zefektivnit práci. Lze tomu vůbec bránit?
Tohle je situace, ve které jsme ještě nebyli. Poměrně jsme si zvykli na to, že státy udržují nějaký typ pravidel, že jsou tady nějaké mezinárodní závazky a tak dále. Jenomže to, co v současnosti přebírá moc, je pár nadnárodních společností typu Google, Amazon, Facebook, které umělou inteligenci vyvíjejí.
A tyhle společnosti svým způsobem nepodléhají kontrole. Respektive ony samozřejmě nějaké kontrole podléhají, ale v každém státě nebo uskupení typu Evropská unie jsou ta pravidla jiná.
Měli bychom, myslím, dost trvat na tom, aby i tyto strojové kontroly, jakkoliv jsou v mnoha případech samozřejmě přesnější než ty lidské, přeci jen nadále podléhaly nějakému typu lidské kontroly nebo lidské zpětné vazby.
Neuvěřitelně přesné odpovědi, užitečná pomoc pro programátory, překvapivá znalost češtiny. Ale také nepochopení, nesmysly a zcela smyšlené paragrafy. Nový nástroj ChatGPT ukázal veřejnosti, co umí (a neumí) velké jazykové modely.
Je vidět, že těmto firmám, když už o nic jiného, jde o dobrou pověst. Ústupky a změny v uspořádání přece jen nastávají. Je to nějaký typ evoluce.
Tento okamžik tak klade odpovědnost na lidi, kteří umělé inteligenci aspoň nějakým způsobem rozumí - akademici, vědci, novináři. Aby se co nejvíc zajímali o to, jak tyto strojové systémy fungují, kde jsou aplikované. A pokud se setkáme s nějakou zjevnou nespravedlností strojového systému, tak aby tento hlas zazněl.
Postoj k umělé inteligenci rozděluje lidi na její příznivce a odpůrce. Dá se říct, co jsou tyto skupiny zač?
Je potřeba jako sůl, aby se udělaly výzkumy, které by právě rozložení těchto fanoušků a odpůrců ukázaly.
Příznivci jsou pravděpodobně lidé, kteří jsou už dnes velmi flexibilní. Jsou to třeba lidé z velkých měst a nejmladší generace pracujících. Všimněte si, že jejich zaměstnání je často neukotvené a že se skládá ze spousty různých věcí. A stejně jako neuronové sítě (výpočetní model umožňující fungování umělé inteligence, pozn. red.), i tito lidé mají schopnost učit se téměř čemukoliv.
Dita Malečková vystudovala filozofii a informační vědu na Univerzitě Karlově. Zabývá se výzkumem vztahů mezi lidskou a umělou inteligencí.
Stejně tak bývají terčem kritiky ze strany starší generace, protože té to připadá nepochopitelné. Myslí si, že mladí jsou líní a že si akorát neumí vybrat. Stejně tak se starší generace obává umělé inteligence, a třeba toho, že jí sebere práci, protože i v tomhle ohledu je celá situace fluidní, proměnlivá.
Starší generace se opravdu bude cítit ohrožena, ale ona by se pravděpodobně cítila ohrožena jakýmkoliv typem takto radikální inovace.
Tvrdíte, že postoj lidí k umělé inteligence vypovídá i o nich samotných. Co dalšího nám může umělá inteligence o lidech sdělit?
Odhaluje strašně moc věcí. Umělé inteligence jsou vlastně statistické modely, které pracují s obrovským množstvím dat. A ta data pocházejí od lidí. Najednou máme nástroj, který dokáže najít vzorce v obrovském množství dat, včetně lidské populace.
Dokáže proto vyhledat nebo predikovat typické chování. To vidíme velmi dobře třeba na zacílených reklamách. Všichni už vědí, že algoritmy nás svým způsobem znají lépe než my sami.
Ale zároveň myslím, že je dobré se zbavit obav a podívat se na umělou inteligence jako na něco, co nám neuvěřitelným a vtipným způsobem nastavuje zrcadlo.
A co přesně v tom zrcadle můžeme vidět?
Jeden příklad, který miluju, je série Netflixu, kterou produkovali boti (zkratka pro internetové roboty, pozn. red.). Prostě algoritmy, které mají normálně na starost třídit a predikovat, jaké seriály by se vám mohly líbit.
Měli vytvořit typické žánrovky – milostný příběh, horor atd. A ukázala se všechna ta různá klišé spojená s danými žánry, která se neustále opakují. Skvěle nám to ukazuje, jak jednoduché věci na nás fungují.
Určitě také všichni slyšeli o takových případech, jako je Cambridge Analytica. Tam jde vlastně o nějaké analýzy emocí a experimenty s jejich šířením na sociálních sítích.
Když to spojíte s úplně jednoduchou psychologickou analýzou, ukáže se, že víc se bude šířit strach a hněv než nějaké komplexnější, složitější emoce.
To jsou ale typy mechanismů, na jejichž odhalení asi nepotřebujeme stroje. Ty však dokážou tohle všechno v neuvěřitelném tempu replikovat. Je to nějaká radikální proměna, se kterou se lidé, co jsou už dnes zvyklí flexibilně reagovat, naučí pracovat. Pro jiné to ale bude náročně, ne všechno dokážou zpracovat a jejich reakcí bude prostě panika.
Dá se dnes předvídat, jak se bude vztah lidí a umělé inteligence vyvíjet?
Aplikace těchto systémů stále vznikají a rostou. Vzniká vlastně celý nový ekosystém. A když mluvíme o ekosystému, tak jeho součástí bude i nějaký typ samoorganizace.
Umělá inteligence teď prostě vzbudila veřejný zájem, a to v takové jednoduché verzi. Všichni se tím baví, všichni to sdílí. A všichni k tomu zaujímají stanovisko, což je prostě jakási primární reakce. To stanovisko je buď to přijímám, nebo odmítám, to se dalo predikovat s velkou mírou pravděpodobnosti.
Vtipné ale je, že vaše logika přemýšlení o světě se vám díky tomuto nástroji začne přizpůsobovat - někdy se přistihnu, že přemýšlím jako neuronová síť.
Ale vlastně to dává smysl. Díky digitalizaci jsme získali velké množství dat a tohle je něco, co nám pomáhá se s tím vyrovnat. Vyrovnat se s něčím, k čemu by náš přirozený kognitivní systém už nestačil. Tak jsme si na to vyrobili nástroj, jenom si musíme dávat pozor na to, abychom ho využívali na to, k čemu opravdu je.
