Počítač myslí jinak. Pomůže nám pochopit naši vlastní mysl, věří otec AI

Přestože o umělé inteligenci se v posledním roce začalo mluvit obzvláště intenzivně, obor zkoumající strojové učení a umělé neuronové sítě je více než šedesát let starý. Počátky oboru byly spíše teoretické. Ale už tehdy řešili vědci otázky, které nyní opět vyplouvají na povrch: Jak se počítač učí? Je počítačová neuronová síť podobná lidskému mozku? Může mít počítač své vlastní cíle?

Kanadský informatik Richard Sutton do vývoje neuronových sítí zasáhl v 80. letech. Jeho poznatky nacházejí uplatnění dodnes. Varianta zpětnovazebních sítí vytrénovala populární ChatGPT k tomu, aby jazykový model uměl odpovídat užitečně na kladené otázky.

Rozhovor se ale stočil i k filozofickým tématům, která obor umělé inteligence od začátku provázejí. Zajímalo mne totiž, jak vnímá „veterán“ výzkumu neuronových sítí současný „humbuk“, na co se těší, a čeho se naopak obává.

Někdy se vám přezdívá „otec zpětnovazebních neuronových sítí“. Jak sám sebe označujete?

Jsem výzkumník umělé inteligence. To je moje hlavní role.

Řada lidí – včetně lidí z vašeho oboru – nemá ráda termín umělá inteligence. Je podle nich zavádějící. Co si o tom myslíte?

Líbí se mi označení „umělá inteligence“. Ale byl bych spokojený, kdyby se tomu říkalo jen „výzkum inteligence“. Studuji zkrátka to, jak funguje myšlení. V mém případě to ale nejčastěji znamená právě zkoumání toho, jak funguje umělá inteligence, tedy AI.

Umělá inteligence je asi na vědecké zkoumání v řadě ohledů příhodnější. Nemusíte se ptát, zda můžete do mozku strčit sondu nebo vyplnit testy. Lidé jsou neradi předmětem testování, zatímco umělou inteligenci můžete studovat, jak je libo.

Mě zajímá především samotné učení. Vždy jsem chtěl vědět vše, co víme o procesu učení. Přečetl jsem vše, co se dalo, co o tomto tématu napsali psychologové. Psychologii jsem dokonce studoval jako svůj druhý obor na univerzitě.

Všímám si, že vývoj systémů umělé inteligence je v řadě ohledů odlišný od něčeho, čemu můžeme říkat klasické programování. Nově se mluví třeba o trénování, skládání, kombinování a hodnotovém sladění neuronových sítí. Svým způsobem to zní více jako práce pro pedagoga než programátora…

Je dobré připomenout, že u většiny systémů strojového učení probíhá ten proces úplně jinak než u živých organismů. Rozhodně ale platí, že odborníkům na umělou inteligenci by pomohlo, kdyby studovali také to, jak funguje přirozená inteligence. Kéž by si to uvědomili.

Na druhou stranu, zatím je to moje tajná zbraň. Vždy jsem své porozumění umělé inteligenci stavěl na poznatcích ze světa neuropsychologie.

Studujete také svoje vlastní uvažování? Přemýšlíte o tom, jak ta neuronová síť ve vaší hlavě – váš mozek – dospěla k tomu, k čemu dospěla?

Rozhodně. Je nicméně dobré pamatovat, že ani vlastním myšlenkám a rozhodovacím procesům moc nerozumíme. Psychologové řadou experimentů dokázali, že naše představy o vlastní mysli jsou mylné.

Myslíme si třeba, že se rozhodujeme na základě logického zvažování dostupných dat, ale důkazy ukazují, že to tak vůbec nefunguje. Lépe mysl pochopíme, když ji budeme vnímat jako sérii stimulů a reakcí.

Někdy mám pocit, že náš mozek je dobrý hlavně v tom, že nám zpětně vysvětlí, proč je naše rozhodnutí logické. To ale neznamená, že jsme se k tomu rozhodnutí dopracovali přísně logickou úvahou.

To je dobře, že o tom víte. Naše zpětná vysvětlení nemají často s realitou nic společného. Dalo by se říci, že naše vědomá mysl funguje tak trochu jako PR agentura našeho mozku. Vytváří dobře znějící zdůvodnění našich rozhodnutí, která vypadají logicky.

Navíc v mozku nemáme jen jeden proces, dalo by se říci, že nám v hlavě běží celá řada souběžných procesů. Naše rozhodnutí je nakonec skoro takové hlasování, nebo překřikovaná.

To, co se děje v naší hlavě, bývá hodně komplexní. Naše vysvětlení naopak bývají relativně jednoduchá. Musíme se s tím smířit. Jakýkoli slovní popis našeho rozhodovacího procesu bude jen slabý odvar toho, co se v našich hlavách doopravdy děje.

Doktorát jste dělal počátkem 80. let na téma přidělování kreditů ve zpětnovazebním učení (reinforcement learning). Když to srovnáte se současností, jak se výzkum strojového učení odlišoval od dnešní reality?

V 70. letech nebyl o strojové učení zájem. Vědělo se, že v principu by to mohlo být důležité. Ale panovala představa, že napřed musíte světu rozumět a tuto znalost o světě někam zaznamenat. Pak teprve můžete přemýšlet, jak zahájit nějaké učení.

Považoval jsem to za šílenost. Přišlo mi úplně jasné, že takhle to nemůže fungovat. Zdálo se mi evidentní, že učení je důležitou součástí při vzniku inteligence, a šokovalo mne, že v té době o tom takto nikdo nepřemýšlel.

Nikdo se tehdy vážně nezabýval neuronovými sítěmi, které se učí samy. Maximálně se experimentovalo se systémem, který hledá statistické vzorce v datech. Ale ne se systémem, který má nějaký cíl a snaží se sám najít způsoby, jak tohoto cíle dosáhnout.

Řada lidí o umělé inteligenci začala slýchat až v posledních letech. Jsou pak překvapení, že má tento obor celkem dlouhou tradici.

Obvykle se za počátek oboru strojového učení a umělé inteligence označuje osmitýdenní akce na americké univerzitě Dartmouth College v létě 1956. V sedmdesátých letech, kdy jsem studoval já, se obvykle mluvilo o oboru umělé inteligence, ale moc se ještě nemluvilo o strojovém učení.

Vzpomínám si ale, že za mého dětství neustále někdo počítač přirovnával k „ohromnému mozku“. Když jsem se ale pak ve škole učil, jak funguje počítač a jak funguje mozek, tak jsem si řekl, že to přece jsou úplně jiné systémy. Počítač jenom následuj instrukce, to má do nějakého přemýšlení daleko.

Takže přirovnání počítače k mozku, které je samo o sobě zavádějící, vás nakonec přivedlo k něčemu užitečnému.

Ano. Pamatuji si, že to působilo paradoxně. Na jednu stranu byl počítač zjevně jenom stroj, který plnil instrukce. Zdálo se zjevné, že nemůže myslet. Na druhou stranu mi přišlo evidentní, že také mozek je vlastně svým způsobem stroj. A mozek zjevně umí myslet.

Tento konflikt mne zaujal a nepřestal mne fascinovat. Je to velká záhada.

Na jedné straně je zjevné, že lidé myslí. Na druhé straně je zjevné, že počítač následující řadu instrukcí není myslící. Ale pak někde mezi tím se tyhle protiklady zjevně setkávají…

Přesně tak. Protože my víme, že lidé jsou stroje. Nechceme o tom tak přemýšlet, protože to zní nedůstojně. Ale lidé jsou úžasné, křehké, rafinované stroje. Nádherné stroje.

Když někomu řeknete, že je stroj, nejspíše to nevezme jako kompliment.

Ale je to praktické. Můžeme se na to podívat u toho zpětnovazebného učení. Máme systém, který má nějaký cíl. Tím cílem je získat co největší odměnu. To je číselné vyjádření nějakého výsledku, řekněme třeba, že chceme maximalizovat své potěšení, minimalizovat bolest.

Vím, že taková úvaha zní u lidí příliš zjednodušeně. Máme pocit, že následujeme mnohem více cílů. Zachraňujeme svět, vychováváme rodinu, děláme ohromně důležité věci, zkoumáme svět. To se ale nevylučuje s tím, že v podstatě se snažíme maximalizovat tu získanou odměnu. Ona ta odměna je sice vyjádřená jako jedno číslo, ale může se skládat z mnoha různých čísel.

A tím, že se snažíme získat co nejvyšší odměnu (ať už to pro nás konkrétně znamená cokoli), se rozhodujeme, co v dané situaci dělat. Často ale může neuronová síť najít cestu k této odměně, kterou zadavatel nečekal. Třeba když má v počítačové hře za úkol minimalizovat čas na silnici, a tak autíčko sjede ze silnice…

Je to vlastně vtipné. Musíme si uvědomit, že neuronová síť neví nic jiného, než co jsme jí zadali. Takže pokud se jí povedlo splnit zadání, je jedno, jak toho dosáhla. Možná to není to, co jste doopravdy chtěli, ale je to správné řešení dle vašeho zadání.

Chtěl bych vůbec vyvrátit tuhle představu, že je úkol neuronové sítě vědět, co jsme vlastně chtěli. Když dávám zadání, musím přemýšlet o tom, co vlastně chci a jak to definovat. Jakožto někdo, kdo vyvíjí AI systémy, nestojím o to, aby mi systém řekl: „Vím, že jsi po mě chtěl A, ale podle mého je lepší, když udělám B.“

Tím, jak zkonstruujeme funkci odměny, dáváme jasný signál, o co nám jde.

Pro hodně lidí to bude dost neintuitivní. Lidé mohou mít pocit, že jim AI systémy rozumějí.

Rozhodně, tohle by asi neměl dělat koncový uživatel. Specifikovat funkci odměňování neuronové sítě není úkol pro běžného uživatele.

Takže je to úkol programátora?

Programování je jedna věc a návrh neuronových sítí je věc jiná. Většinu času ve výzkumu umělé inteligence, aspoň jak to dělám já, netrávíme programováním.

Děláme návrhy a řešíme matematické problémy. Hledáme způsoby, jak si věci ujasnit. Ano, a pak občas musíme programovat, abychom ukázali, že jeden konkrétní algoritmus je lepší než jiný.

Co vás vlastně přilákalo k informatice?

Chtěl jsem pochopit, jak funguje lidská mysl. A studovat zvířata nebo lidi mi přišlo moc pomalé. Bylo jednodušší jít na to skrze počítače.

Jak byste vysvětlil, co je to umělá inteligence, někomu, kdo o tom nic neví? Řekněme desetiletému dítěti?

Podle mého to nemusí být až tak složité. Proč by stroje nemohly být inteligentní? Když chápeme, že pes přemýšlí, proč bychom nepřijali, že může přemýšlet i robotický pes?

Jsme zvyklí na stroje, jako třeba pračka nebo auto. Ale nová generace přístrojů, třeba smartphony, je už teď docela chytrá. Myslím, že když přestaneme dělat tyto arbitrární rozdíly, můžeme zjistit, že si na to celkem snadno zvykneme. A pochopíme, že i počítač může věcem rozumět podobně, jako říkáme, že věcem „rozumíme“ my.

Už v 80. letech existovala velká část z těch algoritmů, které nyní využíváme v neuronových sítích.

Přesně tak. Až tolik se to nezměnilo.

Změnila se ale výpočetní síla. To, co by v 80. letech počítač žvýkal celý rok, to má dnešní superpočítač hotové za minutu. Takže najednou zapojení takových algoritmů dává smysl. Říkám si ale, jaké to v těch 80. letech bylo – pracovat na věcech, které jste nemohl pořádně vyzkoušet?

Tomu říkám „hořká lekce“ výzkumu umělé inteligence. Je zřejmé, že z dlouhodobého hlediska jsou úspěšné ty postupy, které jsou vyvíjeny s vědomím toho, že se počítače vyvíjejí. Vyhrají ti, kteří vyrábějí programy pro počítače, které tu budou za deset let.

Ale většina lidí ani firem do toho nejde. Chtějí obvykle, aby se jim věci vyplatily co nejdříve. Znamená to často, že se vrhnou na drobné vylepšování nyní dostupných technologií, což jim přináší zisk hned teď, ale z dlouhodobého hlediska je to limitující. Není to „škálovatelné“.

Cokoli, co záleží na lidské činnosti, se špatně škáluje. Takový systém se zlepšuje jen tak rychle, jak jej stíhají lidé vylepšovat.

Jenže je to velmi lákavá cesta. Funguje to. A to je podle mého ta hořká pravda, kterou jsme se naučili – věci, které závisejí na lidech, nejsou škálovatelné. Časem je porazí systémy, které na lidech závislé nejsou.

Řekl byste, že teď už tu lekci všichni pochopili?

Mohlo by se zdát, že ano. Myslím si ale, že pořád tak tři čtvrtiny, možná 90 % odvětví umělé inteligence je závislé na věcech, které nejde škálovat.

Protože chtějí výsledky hned, ne za deset let. To mi připomíná jinou věc, která mi utkvěla z vašich přednášek. Lidé mají tendenci dělat při programování „umělé inteligence“ stále tu samou chybu…

Ano. Lidé se snaží naprogramovat logicky uvažující stroj už desítky let. A často k tomu přistoupí tak, že se snaží do toho stroje převést svůj vlastní způsob uvažování.

Když se rozhlédnu po této místnosti, vidím stůl, hrnek, tabuli, světlo. Mohl bych mít pocit, že toto svoje pozorování musím nějak naučit i ten počítač. Musím jej naučit, co to znamená tekutina a pevná látka. Musím mu vysvětlit, co to znamená, že věci jsou umístěné v prostoru. Je to lákavá myšlenka. Myslíme si, že když dáme počítači do začátku základní strukturu našeho uvažování, tak dosáhneme lepších výsledků.

To se zkouší už hodně dlouho. Ale nefunguje to.

Proč to nefunguje?

Protože ta naše struktura uvažování by neměla být natvrdo zakódovaná. Vždyť my vlastně nevíme, jak sami uvažujeme.

O tomto se vedly spory už od 70. let. Měli bychom do počítače dát data o světě, ať si to přebere sám, nebo bychom mu měli co nejpodrobněji vysvětlit, jak svět funguje?

Máte pocit, že tuto chybu děláme i ve vztahu dítě–rodič nebo student–učitel?

V něčem ano. Ale jinde necháváme zcela na dětech, aby se naučily, jak svět funguje. Neučíme třeba děti chodit, neříkáme jim, že mají zvednout jednu nohu a v jakém úhlu ji mají položit před druhou. Necháme děti, aby si to zažily. Ostatně ani nevíme, jak bychom jim to měli vysvětlit.

To samé platí u počítačových systémů. Nevíme, jak počítač naučit všechno o světě. Ani kdybychom chtěli.

Jeden z mých oblíbených příkladů je česká neuronová síť DeepStack, která pokořila i nejlepší hráče pokeru. Namísto toho, aby programátoři neuronové síti zkoušeli vnutit nějakou strategii předem, prostě nechali počítač, aby hrál sám se sebou. Tím se neuronová síť hru naučila a vyvinula si vlastní instinkty a strategie.

Ano, ty samozřejmě znám. (Programátoři DeepStack ve spolupráci s Centrem umělé inteligence FEE ČVUT pomohli domluvit tento rozhovor, pozn. red.)

V čem spočívá výhoda zpětnovazebního učení, které jste pomohl navrhnout a prosadit?

Pro zpětnovazební učení je klíčová funkce odměny. Výhodou je, že se tento model může poté učit sám, když mu dáte model prostředí, světa, ve kterém funguje.

A jak ví, že ten model odpovídá reálnému světu?

To se taky musí naučit. Všechno by ideálně mělo být naučené, nic by nemělo být natvrdo naprogramované předem. Jenom aktuální stav prostředí a případně odměna.

S jakými nepochopeními ohledně umělé inteligence se setkáváte?

Mnoho lidí si myslí, že umělá inteligence je nějaká hrozba. Že je to něco zvláštního a cizího. Ve skutečnosti je umělá inteligence projevem toho, že se lidé snaží pochopit sebe samotné. Skutečně sami sobě rozumět tak, že naši klíčovou schopnost dokážeme strojově napodobit.

Umělá inteligence je od začátku přizpůsobená lidem a uzpůsobená tak, aby sloužila lidem. Navíc je užitečná a její vývoj je ziskový. Právě díky tomu bude úspěšná. Řekl bych, že umělá inteligence je technologie víc zaměřená na člověka než cokoli jiného.

Ne každý by s tím asi souhlasil. Na neuronových sítích nutně nemusí být nic, co se snaží napodobit lidský mozek nebo sloužit lidem.

Dá se říci, že pro některé lidi to není cíl a pro jiné je. Někdo by dokonce řekl, že jedině inteligence, která se podobá lidské, je skutečná inteligence.

Určitě jsou v oboru umělé inteligence problémy, které se lidí netýkají. Jakmile se ale podíváme na možnosti umělé inteligence, nemůžeme to od světa lidí oddělit. Umělá inteligence je svým způsobem nezastavitelná, protože bude užitečná a lidé ji budou chtít.

Neškodí nám ale v chápání umělé inteligence náš přílišný důraz na tu lidskou inteligenci? Srovnejme to s létáním: letadlo nelétá máváním křídel jako pták, ale to z jeho letu nedělá let horší. Naopak, tryskové letadlo překoná i nejrychlejší ptáky. Není tedy stejně tak dosažení lidské inteligence pro umělou inteligenci příliš malý cíl? To je možná ta představa, která hodně lidí děsí.

Dobře, a proč nás to může vyděsit? Protože vždycky, když má někdo větší moc než my, tak máme strach. Lidská historie je plná strachu a válek. Možná, že to tak dopadne i se strojovou inteligencí. Budeme proti ní bojovat a ona pak bude bojovat proti nám.

Myslím, že bychom to měli překonat a zkusit si představit optimistickou budoucnost. To mne nesmírně láká. Jak budou existovat chytré stroje vedle lidí? Lidé budou mít své silné a slabé stránky, jako máme dnes. To samé i stroje.

Chtěl bych vyzvat lidi, aby nespadli do pasti strachu z neznáma. Strach by neměl být naše první reakce.

Podle mého je určitý strach opodstatněný. Jako člověk jsem si vědom své vlastní smrtelnosti, a to ovlivňuje mé uvažování. A mám tedy podvědomou nedůvěru a obavu z něčeho, co takové omezení nemá.

Opravdu nemá?

Řekl bych, že ne. Třeba neuronová síť ChatGPT nemá žádný pud sebezáchovy, může existovat zároveň na mnoha počítačích, nebo na žádném, každý proces může zopakovat, nijak to neprožívá.

To mi pořád nezní jako důvod, proč mít z umělé inteligence strach. Vy i robot jste koneční.

V nějakém smyslu ano. Ale člověk je na Zemi omezený počet dní. A nemůže každý den prožít milionkrát. Myslím, že lidé se bojí té nejistoty, která s nástupem nějaké „silné umělé inteligence“ souvisí.

Řekl bych, že lidé se bojí toho, že se věci vymknou kontrole.

Ano, v případě exponenciálního růstu možností umělé inteligence může dojít velmi rychle ke ztrátě kontroly.

Ano… Osobně si myslím, že ani teď nemáme věci pod kontrolou.

Změnil se výzkum umělé inteligence za Vaši kariéru?

V 80. letech jsme dělali základní výzkum, aniž jsme jej mohli vyzkoušet. Nemělo to žádné okamžité využití. Dnes je to ale obor, který má okamžitou užitečnost. Řada lidí je z něj nadšená z mnoha různých důvodů. Moje práce se ale v podstatě nezměnila. Já pořád dělám ten základní výzkum jako v 80. letech.

Musíme udržet na zřeteli, co je náš cíl. Není to příští verze programu pro rozpoznávání řeči nebo něco takového krátkodobého. Hlavním cílem je podle mého pochopení toho, jak funguje myšlení. To ještě zdaleka není vyřešený problém.

Lidé mají pocit, že teď dosáhla umělá inteligence vrcholu, protože začala být užitečná lidem. Ale to ještě nic není oproti tomu, co přijde.

To je váš cíl. Myslíte, že to tak vnímají všichni?

Neřekl bych, že záleží na tom, jak to kdo vnímá. Přirovnal bych to k objevu evoluce v biologii. Nikdo na tom objevu nevydělal, ale ten objev samotný změnil, jak se na sebe díváme, mělo to ohromný dopad na vědu.

Až pochopíme, jak funguje mysl, bude to ještě důležitější. Možná to bude nejdůležitější objev vůbec. Až se naučíme vytvářet inteligenci jinak než replikací sebe samotných.

Přinese to s sebou nový věk, ve kterém většina bytostí nebude narozených, ale vyrobených. A k téhle revoluci může dojít v následujících desetiletích.

Jaký bude další krok k této revoluci?

Dnešní neuronové sítě se obvykle neučí samy. Jsou předem naučené, natrénované na vybraných datech. Takže výsledný model pro rozpoznání řeči se už pak neumí dále učit na základě toho, jak mluvíte vy konkrétně.

To je cílem mojí práce. Rád bych, abychom nevyráběli „naučené systémy“ (learned system), ale „učící se systémy“ (learning system). Zatím se to nedaří, trénování nových systémů trvá moc dlouho. Je to legrační, protože u lidí to bereme jako samozřejmost, že se umíme učit za běhu.

Všechno to budou dílky do skládačky, které teď ještě nedávají smysl, ale budou velmi důležité později. Svět je komplikovaný a lidský mozek omezený, a tak jakékoli naše chápání světa bude omezené. Nemáme dostatek spojů, abychom svým mozkem pojali celý svět.

Jaký je váš názor na současnou generativní inteligenci, třeba generátory obrázků či textu?

Bojím se, že od toho mají lidé velká očekávání. Jsou to omezené systémy, což je v pořádku, ale lidé mají pocit, že umějí víc, než skutečně umějí. Očekávání jsou podle mého přehnaná. To by mohlo následně vést k velkému zklamání.