Stvoří lidstvo golema? Obecná umělá inteligence tu může být už letos, ale také nikdy

Obecná umělá inteligence bývá často líčena jako „svatý grál“ technologického pokroku. Někteří podnikatelé a vizionáři, jako generální ředitel Nvidie Jensen Huang, odhadují, že obecná umělá inteligence může začít existovat již do pěti let. Podnikatel Sam Altman dokonce prohlásil, že jeho firma OpenAI k ní dospěje možná už letos.

Takže už brzy můžeme mít systémy, které překonají člověka ve většině důležitých úkolů. Tento optimismus pramení z enormního růstu výkonu počítačů, ze zlevňování výpočtů a z nových architektur neuronových sítí.

Většina z nás si mezitím teprve pomalu zvyká na takzvanou „narrow AI“, úzce zaměřenou umělou inteligenci specializovanou na určitou oblast. Hlasoví asistenti jako Alexa a Siri si s námi povídají a vyhledávají informace na webu, navigace v telefonu či v autě nám nabízí nejlepší trasu. Doporučovací systémy na filmových, hudebních a sociálních platformách se řídí naším vkusem.

Jiné programy jsou výborné v hraní logických her. Generativní modely tvoří text, obrázky, video a programují. Mohou tak excelovat v úlohách, na něž jsou natrénované, ale selhávají, když od nich chceme něco jiného.

Naproti tomu obecná umělá inteligence (AGI) má simulovat různé lidské kognitivní funkce najednou: Zvládat široké spektrum odlišných úkolů od matematických výpočtů po rozpoznávání lidských emocí v reálném čase. Učit se novým dovednostem, umět se adaptovat na nové situace a kreativně je řešit. Tedy opravdu myslet a reagovat jako člověk.

Realisté namítají, že na skutečnou univerzální inteligenci, která napodobí rozmanitost lidského myšlení, si musíme počkat mnohem déle, než padlo výše. Odborníci jako americký psycholog Gary Marcus či lingvistka Emily Bender zdůrazňují, že velké jazykové modely jako ChatGPT nebo Gemini sice generují skvělé výstupy, ale bez skutečného porozumění.

Navíc dnešní metody, které se používají k jejich trénování, nemusejí obsáhnout lidskou tvůrčí a abstraktní inteligenci, kauzalitu či zdravý rozum. Proto můžeme ještě desítky let tápat, pokud narazíme na strop toho, co současné neuronové architektury umí. Mimochodem, lidský mozek je oproti elektronice stále nesmírně energeticky efektivní. Má kapacitu zhruba 2,5 milionu gigabytů a nepotřebuje skoro žádné chlazení.

A pak jsou tu skeptici. Domnívají se, že „pravá“ obecná umělá inteligence nemusí přijít nikdy – je to ideál, jemuž se můžeme jen přiblížit. Za skutečnou AGI považují syntetické vědomí. Což je těžké namodelovat, když ani my lidé nevíme, co přesně se v našich mozcích odehrává, jak fungují různé vrstvy našeho vědomí, podvědomí či nevědomí a nakolik je ono vědomí vázáno na biologii. Co když to bez živé hmoty zkrátka nejde?

Nejistota panuje i v tom, jak by měla obecná AI v reálu vypadat a co přesně by měla dělat. Když se spokojíme s širší definicí – tedy systémem, který zvládne řadu složitých úkolů najednou, bude se z nich průběžně učit a v některých ohledech překoná člověka, jsme možná opravdu blízko.

Nyní spolu soupeří o prvenství dvě velké vývojářské firmy. Z hlediska ideového přístupu reprezentují „školy“, z nichž každá se snaží vyvinout model AGI jinou cestou.

První je firma OpenAI, jež vyvinula textový ChatGPT, obrázkový Dall-e a video model Sora. Sází na soustavné vylepšování svých velkých jazykových modelů tak, že vznikne „autonomní systém, který překoná lidské schopnosti ve většině ekonomicky důležitých úkolů“.

Svým investorům zároveň její šéf Sam Altman řekl, že sice neví, jak finanční potíže firmy řešit v současnosti – společnost je 3,7 miliardy dolarů v mínusu -, ale že obecná umělá inteligence si s nimi v budoucnu jistě poradí.

„Sam Altman se pravděpodobně snaží o PR ve stylu Elona Muska, který má také už roky vše na dosah, včetně autonomních vozidel a cesty na Mars, jen se to pořád odkládá,“ říká Josef Holý, odborník a lektor v oboru umělé inteligence a podcaster serveru Kanárci v síti.

OpenAI sází na přístup „odshora dolů“ – zpracování velkého množství dat z různých oblastí až do bodu, kdy z kvantity vznikne kvalita. Vzniklý model pak může být i přenesen do nějakého zařízení, třeba do mobilu, ve formě asistenta.

Budete mít parťáka, který zvládne nejen odpovídat, ale i leccos zařídit podle toho, kam získá přístup. Mohl by sídlit i v hodinkách, v prstenu nebo mít podobu robota. Koupí vám třeba lístky na koncert, zamluví místo v restauraci nebo naplánuje itinerář dovolené.

Společnost Google DeepMind naopak předpokládá, že obecná AI může vzniknout spíš v robotické či takzvané multimodální formě. Tedy že k univerzální inteligenci je třeba, aby se učila i z fyzických interakcí se světem - jako člověk. DeepMind sice také pracuje na velkých jazykových modelech pod názvy Chinchilla a Flamingo, ale je známá hlavně posilovaným učením – programy AlphaGo či AlphaFold (o nich více dále v článku) - a pokusy s roboty.

DeepMind chce vytvořit obecnou umělou inteligenci z úspěšných modelů, které už fungují například ve vědě. Patří k nim AlphaFold2 vývojářů Demise Hassabise a Johna Jumpera, který dokáže v prostoru modelovat molekuly bílkovin a pomoci tak vytvořit nová léčiva. Tvůrci za něj loni dostali Nobelovu cenu za chemii - dali vědcům nástroj, který jim ušetří miliardy hodin pokusů a udělá obrovský skok ve vývoji.

DeepMind tedy sází na přístup „odspoda nahoru“ – z modelů už integrovaných do společnosti skládá celek. „Takový postup mi připadá logičtější a smysluplnější – dát dohromady AI modely, které fungují v důležitých oblastech a jsou zjevným přínosem pro společnost, než stvořit sytém, jehož praktické uplatnění budeme teprve hledat,“ říká Josef Holý. Takový přístup je přijatelnější i z hlediska etiky AI. Jedno z etických pravidel totiž zní, že každá nová technologie má být především přínosem pro lidstvo.

O myslících strojích snili lidé od pradávna. Už Rabi Löw dle pověsti stvořil v 16. století golema, robota k záchraně svých lidí před pogromem. Britský matematik Alan Turing, rozluštitel kódu Enigma, chtěl zase na konci 40. let 20. století AI parťáka, který by s ním hrál šachy, proto sestavil šachový počítačový program. Pop kultura je plná robotů, androidů a kyborgů, spisovatel Isaac Asimov – autor tří zákonů robotiky – se v ní stal legendou. Rádi sníme.

„Vždycky jsem si chtěl povídat s někým, kdo je chytřejší než člověk. Možnost stvořit umělou inteligentní bytost je ohromně lákavá,“ řekl v loňské diskusi AI horizonty vývojář AGI, student ČVUT Zarathustra Goertzel, syn slavného výzkumníka Bena Goertzela, který termín obecné AI zpopularizoval. Měl přitom na mysli inteligentní všestranné stroje, roboty.

Z takových strojů ovšem mají lidé i obavy, i ve sci-fi příbězích bývají líčeny jako hroba pro lidstvo. Podle vědce Tomáše Mikolova, nositele ceny Neuron 2018, je však na místě ptát se nikoliv, zda nás obecná umělá inteligence zničí, ale spíš jestli lidstvo přežije bez ní.

Jak nastínil ve zmíněné debatě, problémy, například ekologické, společenské či zdravotnické typu pandemie, přibývají a nabývají na složitosti. Pokud se lidé dostanou do bodu, kdy už nebudou umět předvídat důsledky technologických a environmentálních změn, budou mít větší potřebu zapojit „výkonnější mozek“ – tedy obecnou AI – která může pomoci najít komplexní řešení. Obecnou umělou inteligenci proto z jeho pohledu potřebujeme, a čím dříve, tím lépe.

Výzkumnice Dita Malečková, jež se věnuje výzkumu neuronových sítí z pohledu digitální filosofie, však podotkla, že iluze, jíž propadli někteří technoutopisté, a sice že AGI vyřeší všechny problémy lidstva od klimatu až po ekonomiku, je nebezpečná. Samo od sebe se podle ní nic nevyřeší, pokud nebude AI vyvíjena a nasazena s rozmyslem, přihlížením k etice a společenským dopadům. Samotná abstraktní inteligence ke správnému rozhodování nestačí.

Firma DeepMind předloni vytvořila koncept vývoje, kterým umělá inteligence projde na cestě ke komplexnosti. Podle této představy je směřování k AGI v zásadě přirozeným vývojem.

Výše zmíněnou stupnici lze aplikovat i na obecnou umělou inteligenci – AGI. V kategorii obecné AI jsou již zřejmě na úrovni začátečníka modely ChatGPT, Gemini a LLama. Postupně by se i obecná AI měla vyvíjet v těchto stupních. Ale kdy - a zda vůbec - jich dosáhne, není jasné.

Může se i stát, že modely obecné umělé inteligence budou mít schopnosti na různé úrovni. V něčem budou na úrovni experta, v jiné oblasti budou virtuozní či na úrovni začátečníka a v dalších poněkud natvrdlé. V tom by vlastně byly trochu „lidské“.

DeepMind zároveň ukazuje, jaká s sebou takový vývoj nese rizika. Už nyní, když používáme AI modely jako jednotlivé nástroje, se musíme vyrovnat s tím, že možná ztratíme některé dovednosti. Třeba použitím automatického překladače upadá naše schopnost číst a rozumět v cizí řeči, navigace omezuje naši schopnost orientovat se v mapách.

Když používáme AI jako konzultanta, vzniká v citlivých oblastech riziko manipulace a radikalizace. Třeba kdyby nevědomky pracovala se zdroji s manipulativním a radikálním obsahem. Případně kdyby byla záměrně vytrénována k poskytování výsledků nakloněných jistým názorům.

A bude-li AI model fungovat jako náš spolupracovník, riskujeme rychlé společenské změny a také polidšťování technologií. Polidštit si AI může znamenat, že budeme mít sklony přehnaně jí věřit a přestaneme vnímat lidskou zodpovědnost. Je to stroj, ale zodpovědnost, alespoň dosud, nesou lidé.

Tím se dostáváme i k otázce vědomí. Vznikne-li v dohledné době nějaký typ obecné umělé inteligence, nebude mít zřejmě vědomí v lidském či zvířecím smyslu. Bude se tak pouze tvářit. I když výrobci nám mohou tvrdit, že AI agent nebo robot vědomí má, protože se budou chtít zbavit zodpovědnosti. Možná to nakonec může tvrdit i uživatel.

Ale pak si to přestavte: Třeba asistent Golem nechá dovézt z Amsterdamu do Prahy na váš dvorek dodávku plnou hašiše a kokainu. Nikdo za to nemůže, ani vy, ani provozovatel, ani výrobce – Golem má přece vědomí! Ale to už by bylo na hlubší filozofickou debatu.