Komentář: Neměli bychom se bát umělé inteligence, ale spíš sami sebe

„Nehledejme hrozbu v AI, ale ve způsobu, jak ji využíváme. Nepřenášejme na ni odpovědnost, snažme se místo toho aktivně budovat kulturu odpovědnosti, která nám umožní vyvíjet a využívat umělou inteligenci rozumně, informovaně, moudře a morálně správně. Neskládejme ruce do klína, nepropadejme panice, nebuďme pasivní. Soužití s umělou inteligencí může být úžasné a obohacující dobrodružství a nebude to její chyba, ale naše, když se to dobrodružství zvrtne v něco ošklivého,“ píší v článku pro Seznam Zprávy David Černý a Jiří Wiedermann, vědci z Ústavu informatiky Akademie věd ČR.

Moderní systémy vykazující umělou inteligenci, nebo pro jednoduchost umělá inteligence (AI), plní titulky novin a jen málokomu mohlo ujít, že se děje něco velkého. Jako by v posledních měsících došlo k obrovskému skoku. Hluboké neuronové sítě trénované na neuvěřitelně velkých sadách dat, které stojí v pozadí pozoruhodných pokroků, dnes dokáží skládat hudbu, generovat mimořádně kvalitní obrázky, vést s námi konverzaci v našem vlastním jazyce, dokonce umí zkontrolovat práci programátorů a navrhnout zlepšení jejich kódů. A hned se samozřejmě začaly objevovat aplikace, které těchto výdobytků moderní techniky využívají. Mohou například sledovat naše e-mailové konverzace a automaticky připravovat odpovědi, poskytovat právní rady, psát smlouvy či fungovat jako naši osobní asistenti.

A alarmisté bijí na poplach. V pokrocích na poli umělé inteligence nevidí nástroj, který nám může úžasně zlepšit život, ale především hrozbu, která nám všem jednou zakroutí krkem.

Australský filosof Toby Ord se dokonce pokusil tuto hrozbu vyjádřit exaktně a došel ke strašidelnému poměru 1:10. Právě taková je podle něj šance, že se AI vydá na cestu svých předchůdců v mnoha dílech science fiction, jako byl neblaze proslulý palubní počítač HAL 9000 z Vesmírné odysey, Skynet a jeho terminátoři, Ultron známý z marvelovských komiksů či třeba Cyloni vedoucí vyhlazovací válku s posledními zbytky lidstva. Podle mnohých jsme stvořili Frankensteinovo monstrum: úžasně silné a mocné, ale mající své vlastní plány, jejichž realizaci mohou lidé překážet. Vzpoura vůči stvořiteli je koneckonců jedním z hlavních námětů lidských dějin. Zatímco ale křesťanského, židovského či muslimského boha naše vzpoura nijak neohrožuje, Frankensteinovy systémy umělé inteligence nás prý mohou přivést na pokraj vyhubení, nebo se nás zbavit jednou provždy.

Jak by se jim to ale mělo povést, a hlavně, proč by proboha něco takového umělá inteligence dělala?

Technopesimisté, jak jim můžeme říkat, mají celou řadu odpovědí. Nebude to prý snadná cesta, ale je podle nich jasně narýsovaná a lidstvo se po ní již řítí nezvladatelnou rychlostí:

Nejdříve stvoříme obecnou umělou inteligenci (GAI), která bude zvládat všechno, co zvládá inteligence lidská. Možná jinak, zřejmě i rychleji, ale jinak se od ní ve svých schopnostech lišit nebude. A dostane od nás jeden velmi specifický úkol (nebo si ho tajně uloží sama): zaměř se na svou vlastní architekturu, začni ji vylepšovat a vytvářej stále inteligentnější stroje. Asi jako slavná Hlubina myšlení ze Stopařova průvodce po galaxii, která sice objevila odpověď na základní otázku života, vesmíru a vůbec všeho, ale nevěděla, jak ta otázka vlastně zní. Proto navrhla nejmocnější počítač ve známém vesmíru, jímž zvláštní shodou okolností byla planeta Země, jejíž na uhlíku založení dvounozí vládci o tom neměli ani tušení. Nakonec je ale nezlikvidovala umělá inteligence, nýbrž potměšilá a krutá rasa Vogonů, která se vyžívá v mučení ostatních předčítáním vlastní poezie.

GAI nakonec, možná dokonce velmi rychle, uspěje a dojde ke vzniku umělé superinteligence (SAI) a vývoj doputuje do singularity. Tu můžeme chápat různě. Jako bod, za nímž bude následovat inteligenční exploze: povstávání nových a stále (super)inteligentnějších strojů. Nebo jako okamžik, za kterým se vývoj techniky stane pro naše omezené lidské mozky zcela nepochopitelným a netransparentním a ztratíme tak nad ním veškerou kontrolu. Anebo, budeme-li se držet základního vyprávění technopesimistů, jako hranici, za níž je už náš osud zpečetěn…

AI je často představována jako existenční riziko, tedy takové riziko, které – pokud by se naplnilo – by buď úplně vyhubilo všechny lidské bytosti, nebo by „alespoň“ redukovalo lidskou populaci a civilizaci na úroveň, v níž není prostoru pro nic specificky lidského, jako je kultura, právo, morálka, kultivace poznání apod. Naše planeta byla ve Stopařově průvodci po galaxii nejdokonalejším systémem umělé inteligence; přesto lidstvo nevyhubila. Dokonce ho potřebovala, stejně jako lidstvo potřebovalo ji. Vzájemně koexistovali a nebýt nutnosti výstavby intergalaktické dálnice, mohla Země dokončit hledání odpovědi na základní otázku. Proč by tedy AI měla být vůči nám nepřátelská?

Vtip je v tom, že taková být nemusí – ale podle technopesimistů nás stejně může zničit. Myslí si to například oxfordský filozof Nick Bostrom, autor bestseleru Superinteligence. Úplně podle něj stačí, když se AI zaměří na splnění nějakého úkolu, a tak nějak nezvládne dobře promyslet vhodné prostředky. Když jí třeba poručíme, aby učinila všechny lidi šťastnými, může si pomyslet, že by to dokonale zvládla tím, že nás všechny zdroguje. Mohlo by ji také napadnout – jako některé moderní antinatalisty – že zdrojem utrpení je sama lidská existence a nejlepším způsobem jeho vymýcení je eliminace trpících. Nebo když ji požádáme, aby vyřešila problém klimatické změny, může dojít k přesvědčení, že nejlepším způsobem je zbavit se všech znečišťovatelů, což jsme shodou okolností zase my lidé. Asi na nás bude také shlížet spatra, jako to ostatně děláme i my, když jde o nějaké „nižší“ inteligence, a nebrat naše potřeby a zájmy dostatečně v úvahu. Když člověk staví přehradu, mravenci mají smůlu. Většinou nám nepřijdou natolik důležití, abychom přehradu postavili jinde nebo třeba jejich mraveniště opatrně přemístili jinam.

Příběh o „zlé“ AI je tak vlastně povídáním o hloupé AI (je sice superinteligentní a sečtělá, ale nějak jí nedojde, že zdrogovat všechny lidi není moc dobrý nápad) nebo nevšímavé AI (unikne jí, že z etického hlediska možná existuje ohromný rozdíl mezi inteligencí lidskou a mravenčí, ale již mnohem menší (možná skoro žádný) mezi inteligencí lidskou a umělou superinteligencí) nebo popletené AI (bude do zblbnutí vyrábět svorky na papír, dokud nezničí všechny zdroje na Zemi a tím i nás, a navzdory její superinteligenci jí nedojde, jaká je to hloupost).

Příběh je to nepochybně chytlavý; média ostatně přitahuje jako med mouchy. Je ale věrohodný? A neodvádí náhodou naši pozornost od skutečných problémů?

Současné umělointeligentní systémy jsou nepochybně pozoruhodné a dokážou věci dříve nevídané. Přes to přese všechno jsou to ale pouhé programy, sofistikované, nepochybně, ale stále jsou na hony vzdálené lidské inteligenci. Vezměme si například velký jazykový model společnosti OpenAI, GPT-4. Když s ním komunikujeme, jako by k nám promlouval jiný člověk, jako kdyby rozuměl našim dotazům a snažil se je co nejlépe zodpovědět. Jsou to ale jen masivní umělé neuronové sítě, které dokáží provádět rozsáhlé statistické analýzy nad soubory dat (texty) a umně skládat slova do vět. Ty sítě nerozumí, nevnímají, po ničem netouží, o nic se nesnaží, pouze mechanicky uplatňují pravidla, která se jim pod dohledem člověka podařilo objevit. A jsou samozřejmě omezené svou architekturou a daty, na nichž jsou trénovány.

Nemůže se stát, že by se tato síť najednou rozhodla, že začne potají napadat bankovní účty, převádět si finanční prostředky na své účty a financovat tak vlastní armádu strojů. Nebo že by si usmyslela, že začne potají vytvářet své lepší a inteligentnější verze, které bude skrývat v kyberprostoru a jednou z nich povstane nový vládce světa. Nic takového se jednoduše nestane.

Netvrdíme, že se jednoho dne k obecné umělé inteligenci nedopracujeme. Zatím se k ní ale příliš neblížíme a strachovat se o to, jak se bude chovat a zda její další produkty – superinteligence – budou k lidem přívětiví, se podobá starosti, že se kolonie na Marsu budou chtít osamostatnit a přetrhat vazby se Zemí. Možné to je, ale také zatím opravdu hodně vzdálené.

Vůbec vzdálené ale nejsou jiné problémy a rizika spojená s AI. Hlavním z nich ale kupodivu není samotná umělá inteligence, ale my lidé, přesněji naše pasivita na jedné straně, na straně druhé potom až přílišná ochota využívat ji způsoby, které můžeme označit za nemorální.

Různé systémy umělé inteligence jsou skvělé nástroje, které nám mohou zlepšit životy. Musíme ale vědět, jak jich užívat, musíme mít znalosti, jak jich správně užívat, musíme mít moudrost, abychom správně identifikovali jejich i naše vlastní limity, a musíme je užívat rozumně a s ohledem na dobrý život jednotlivých lidí a celé společnosti. To vše ale vyžaduje, abychom poraženecky neskládali ruce v klíně a jednali. Okamžitě.

V poslední době se hovoří o pandemii špatného myšlení. Lidé jsou stále méně zdatní v užívání vlastního rozumu, neumějí pracovat s daty a informacemi, kriticky prověřovat zdroje, chybí jim základní nástroje kritického myšlení. Ty můžeme chápat jako imunitní systém, který nás chrání před omylem; a náš imunitní systém je oslabený a nefunguje dobře. Neumí nás ochránit před viry nepravdivých informací a bakteriální nákazou dezinformací. Umělá inteligence není jediným, a dokonce ani prvním viníkem. Jedná se o komplexní jev, který má celou řadu příčin. AI ale naskočila do rozjetého vlaku a ten díky tomu pořádně šlápnul na plyn. Jenže myslet si, že za to může AI, je chyba.

Jistě, poskytuje nám i nevěrohodné obsahy, uzavírá nás v komorách ozvěn a informačních bublinách, skrze které vnímáme svět a jen s obtížemi překračujeme jejich hranice. Nedělá to ale se špatným úmyslem; žádné úmysly nemá.

Problém je naše pasivita a neznalost, neochota a rostoucí neschopnost vzepřít se algoritmům, které nás mají udržet na sociálních a jiných sítích, otevřít okno dokořán a vyhlédnout do reálného světa. K tomu, co je nám na internetu nabízeno, přistupujeme pasivně, neuvědomujeme si, že v pozadí je bezduchý mechanismus, který neumí rozlišit pravdivé od nepravdivého či správné od nesprávného. My to umíme, nebo bychom to alespoň umět měli, ale neděláme. Nedávejme ale vinu umělé inteligenci, odpovědnost je naše. Brání nám snad otevřít kvalitní publikaci a udělat si vlastní, poučený názor? Nedovoluje nám kultivovat nástroje kritického myšlení a práce s informacemi? Nic z toho nedělá a ani dělat nemůže. Vina je jen naše; máme k dispozici potenciálně skvělý nástroj, jenže ho necháváme, aby používal on nás nebo ho používáme špatně.

O umělé inteligenci a robotech také často slýcháme v souvislosti s budoucností práce. Často je nám předkládána nějaká verze příběhu, který pro mnohé z nás nakonec skončí špatně. AI nás prý nahradí, nejen v činnostech, které jsou namáhavé, špinavé či nebezpečné, nudné a repetitivní, ale i v dalších oblastech, včetně profesí vyžadující specializované vzdělání. Možná to není hrozba existenční, která by ohrožovala přežití lidstva, pro mnohé z nás je ale představa budoucnosti bez zaměstnání dostatečně hrozivá i tak. Ten příběh má svou svůdnou vnitřní logiku, která mu umožňuje rozvíjet se k neblahému konci, jenže – opět – to není AI, kdo nás připraví o práci. Budeme to my sami a naše pasivita.

Jistě, umělá inteligence má obrovský potenciál, v mnoha oblastech si již vede stejně dobře nebo dokonce lépe než lidé a u některých činností jsme dokonce rádi, že je vykoná za nás. Tento trend bude pokračovat, a jaké bude mít vyústění, závisí jen a jen na nás. Víme, kudy se vývoj moderních technologií ubírá, můžeme se probudit z často dogmatického spánku a začít jednat. Pro mnohé lidi může být úlevou, že za ně práci převezou stroje, protože mnozí dělají něco, co je moc nebaví, nemají dobré vztahy na pracovišti, nepříjemné nadřízené, jsou sužování nejistotou, zda o zaměstnání nepřijdou. Pro ně je práce zdrojem obživy, nikoli smyslu. A když dokážeme najít mechanismy, které budou přerozdělovat zisky generované umělou inteligencí všem lidem (například nějaká forma nepodmíněného příjmu), mohou tito lidé spokojeně žít a dělat věci, které je skutečně baví. Třeba si číst, družit se v klubech, různých spolcích, pěstovat koníčky, sportovat, hrát hry, vzdělávat se, prostě co je napadne, bude bavit a dávat jejich životům smysl.

Další lidé mohou mít své povolání rádi, a opět, neexistují dobré důvody, proč jim nevyjít vstříc. Lidé a stroje nemusí být vnímání jako antagonisté, soupeři, kteří se přetlačují o místo ve světě. Na systémy umělé inteligence bychom měli spíše pohlížet jako na mimořádná kognitivní a fyzická rozšíření našich myslí a těl. Člověk a stroj se mohou vyvíjet společně a nacházet nové formy spolupráce, z nichž nebude člověk vyloučený jako zbytečná přítěž, ale stane se stejně důležitou součástí tohoto biologicko-technického systému.

Ale je třeba jednat hned, na pasivní vyčkávání, jak ten příběh dopadne, už nemáme ani jeden den. Namísto nahrazování lidí stroji hledejme způsoby, jak by stroje mohly naši činnost zefektivnit, zrychlit a učinit bezpečnější. Je také třeba zajistit efektivní způsoby přerozdělování bohatství generovaného umělou inteligenci způsobem, který bude férový a zajistí všem lidem kvalitní život. A zbavme se předsudků: „mít práci“ není žádnou absolutní společenskou normou, která by určovala naši hodnotu. Usilovně pracovat může i člověk, který „práci nemá“, a pokud zajistíme dostatečný příjem všem, může nás to nesmírně obohatit a otevřít nové obzory a zdroje smyslu.

Mohli bychom pokračovat dál, ale hlavní poselství našeho článku by mělo být zřejmé. V slavném románu Stanislawa Lema z roku 1961 zkoumají lidé tajuplný vnímavý oceán na planetě Solaris. Příběh rychle nabírá obrátky, protože oceán dokáže číst v lidské mysli a zhmotňovat její obsahy. Podobný motiv rozvíjí i americký spisovatel Michael Crichton ve sci-fi románu Koule z roku 1987 (zfilmovaném o deset let později). Děj se odehrává na dně Tichého oceánu, kde odpočívá vesmírná loď. Skupina průzkumníků brzy zjistí, že v lodi se nachází záhadná sféra. A jako v případě Lemova románu, i zde se to zvrtne. Koule zhmotňuje nejhorší lidské představy a obavy a příběh se proměňuje v nelítostný boj o přežití. Obě díla ale můžeme chápat i hlouběji, jako existenciální sondu do lidského setkávání s neznámem, které ohrožuje nejen naše životy, ale i samotné lidství.

Umělá inteligence vzbuzuje nadšení, ale současně i obavy. Pečlivě sledujeme její projevy a hledáme náznaky, že by mohla začít toužit osvobodit se z lidského područí. Jenže systémy AI jsou jako Lemův oceán na Solaris či Crichtonova koule: dokážou si přečíst naše nejhorší obavy (učí se na textech, které o ní lidé napsali) a zhmotnit nám je na obrazovce počítače. Hlavním aktérem jsme ale my, protože jsou to naše obavy a naše myšlenky, které se ve výstupech umělé inteligence odráží jako v zrcadle. Nejhorší, co můžeme udělat, je dovolit našemu strachu, aby nám svázal ruce a přinutil ke strnulé pasivitě.

Nehledejme proto hrozbu v AI, ale ve způsobu, jak ji využíváme. Nepřenášejme na ni odpovědnost, snažme se místo toho aktivně budovat kulturu odpovědnosti, která nám umožní vyvíjet a využívat umělou inteligenci rozumně, informovaně, moudře a morálně správně. Neskládejme ruce do klína, nepropadejme panice, nebuďme pasivní. Soužití s umělou inteligencí může být úžasné a obohacující dobrodružství a nebude to její chyba, ale naše, když se to dobrodružství zvrtne v něco ošklivého.