Lidé ještě nechápou AI, velké firmy už se ženou za AGI. Je čas se zamyslet

Je to dva roky od chvíle, kdy ChatGPT vstoupil na trh s novou službou, kterou do té doby nikdo nejen nenabízel, ale ani nepoptával. Chatbot, který umí „nějak“ odpovědět na cokoli a bude se s vámi trpělivě bavit o čemkoli.

Schválně se podívejte do historie, jak vypadaly vaše první experimenty s tímto novým nástrojem. Pavel ty svoje zaznamenal na tomto videu. Je to hodinový rozhovor plný zvědavosti, pokusů, slovíčkaření, přepínání mezi češtinou a angličtinou, o filozofii, počítačových hrách, filmech…

Byl to kontakt s něčím novým. Ne snad s novou „bytostí“, ale rozhodně s něčím, co jsme do té doby jako lidstvo neznali. Je tady nová entita, která dělá věci, které jsme do té doby uměli jen my lidé. Pro odborníky nebylo představení tohoto „chatbotu“ až tak nové. ChatGPT je nástupcem generativního jazykového modelu GPT-3, který byl v té době už více než dva roky starý.

Český vědec Tomáš Mikolov – mimochodem jeden z těch, kterým vděčíme za dnešní velké jazykové modely – nám už v říjnu 2021 popsal budoucí nástroje, které za nás budou programovat nebo psát dlouhé texty „jako profesionální spisovatel“.

Měl zkrátka praxi v tom, že o slovech a textu přemýšlí ve „vektorovém prostoru“, což je pro většinu lidí abstrakce, na kterou si dodnes nezvykli.

Podstatné je, že nové rozhraní ChatGPT otevřelo jazykové modely komukoli. I těm, pro které byla práce se staršími modely prostřednictvím příkazového řádku nebo různých experimentálních služeb příliš technicky náročná. Ani OpenAI nečekalo, že se chatbot dočká takové popularity. Jen dva měsíce po svém spuštění měl ChatGPT 100 milionů uživatelů, a stal se tak zřejmě aplikací s nejrychleji rostoucím počtem uživatelů v dějinách.

OpenAI rozpoutala závod o další generace „umělé inteligence“. Zřejmě už při uvedení první verze ChatGPT založené na modelu GPT-3.5 měli interně k testování novější a mnohem schopnější model GPT-4. Jeho zveřejnění 14. března 2023 mimochodem dalo řadě lidem falešnou představu o tom, jak rychle budou na trh chodit nové verze. Na další podobně velký krok jsme potom čekali více než rok.

Mezitím už ale velké jazykové modely od OpenAI ve skoro všech ohledech dohnala konkurence. Claude od Anthropic, Gemini od Google, opensourcová Llama od Meta i Muskův Grok se postupně vyšvihly na „úroveň GPT-4 nebo lepší“. Vývojáři AI firem dnes přímo soupeří o to, kdo svůj model naučí novým kouskům, dokáže jej vyškálovat do většího měřítka a přiblížit se další metě, o které bude ještě řeč – totiž přiblížit umělou inteligenci té lidské.

S nejnovějšími modely jako o1 a o1-pro už lze možná mluvit o překonání lidské inteligence. Tady je ovšem nutno vážit slova. I proto, že porovnávání inteligence není jednoduché ani mezi lidmi navzájem, natož mezi člověkem a počítačem. Nicméně pokud budeme posuzovat jen výsledky – aniž bychom se snažili odhadnout, jak se k nim dospělo – jsou současné AI systémy v řadě ohledech „inteligenčně nad úrovní běžného člověka“ a blíží se často spíše absolventovi doktorského studia.

Ani po dvou letech zatím ovšem nelze říci, že by generativní AI zásadně změnila náš každodenní život. Jistě, nějaké procento lidí si na AI asistenty zvyklo natolik, že je možné je označit za kyborgy. Pomocí umělé inteligence programují, řeší každodenní úlohy v práci, hledají inspiraci pro hraní s dětmi, konzultují strategii a vůbec zkouší pomocí AI zvýšit své schopnosti v různých oborech.

Většina lidí ale zatím nástroje umělé inteligence nepoužívá buď vůbec, nebo jen velmi okrajově a konzervativně. Případně rovnou zcela kontraproduktivně, a dostávají tak horší výsledky, než kdyby použili konzervativnější postup. Zdá se, že technologie generativní AI se dnes nachází kdesi v „příkopu deziluze“, pokud bychom se měli držet slavné křivky Hype Cycle z dílny analytické firmy Gartner.

Jinak řečeno, lidé i firmy za sebou mají první okouzlení a přehnaná očekávání. A nyní se hledají skutečně zajímavá a přínosná využití. Asi nejen podle našeho názoru to jde poměrně rychle a užitečných využití se najde už dnes celá řada. A také celá řada lákavých pastí, do kterých je při tomto překotném hledání snadné spadnout.

Změna lidského chování – nemluvě o firemních nebo byrokratických procesech – každopádně přichází postupně a tápavě. Potenciál současných AI modelů se ještě zdaleka nevyčerpal. A platí proto rada, kterou se snažíme opakovat. Nečekejte na to, až vám váš nadřízený řekne, jak umělou inteligenci používat. Oni nemají tušení, k čemu vám to bude. Vy nejlépe – na základě vlastních experimentů a úvah – posoudíte, co dává smysl ve vašem oboru.

Společnosti zabývající se umělou inteligencí chtějí radikálně změnit svět. Pracují nejen na zlepšování současných nástrojů, ale také na vývoji nových modelů, které mají překonat lidskou inteligenci a rozpoutat dramatickou ekonomickou transformaci, která by se dotkla nás všech. A není vůbec jasné, zda by to bylo v náš prospěch.

Cílem vývojářů velkých společností je totiž „obecná umělá inteligence“. Tedy stroj, který by byl schopen provádět všechny úkoly, které dnes zvládnou pouze lidé. O něčem takovém lidé sní už dlouho, většina z nás ovšem takovou umělou inteligenci vždy viděla a asi nadále vidí jako science fiction. Ale podle názorů řada významných představitelů pracujících přímo v této oblasti už „obecná umělá inteligence“ (tzv. AGI) není tak vzdálená – je to něco, co může brzy reálně vzniknout a co si zaslouží naši pozornost.

„Po rozhovorech s řadou klíčových vědců a odborníků na AI mohu potvrdit, že mnozí z nich pevně věří, že tohoto cíle (obecné umělé inteligence, pozn. red.) lze dosáhnout v blízké budoucnosti,“ uvádí Ethan Mollick, profesor inovací na University of Pennsylvania. „Nemohu zaručit, že mají pravdu, ale oni jsou upřímně přesvědčeni, že to tak je.“

Generální ředitel společnosti OpenAI Sam Altman nedávno řekl, že se snaží vyvinout „kouzelnou inteligenci v oblacích“, což je termín, který se zjevně odvolává k obecné představě božství. Pro novináře také uvedl, že AGI nejen „rozbije kapitalismus“. Ale neměli bychom se bát, protože přichází „věk inteligence“, který bude zároveň věkem nebývalé prosperity.

Dodal, že jeho společnost by mohla vědět, jak takovou inteligenci stvořit, už v roce 2025 (což nutně neznamená, že by příští rok AGI měla vzniknout). Je dosti pravděpodobné, že poslední datum je v podstatě zpráva pro investory (výzkum AI je čím dál dražší).

Na druhou stranu, z odvětví přicházejí i jiné odhady (třeba od šéfa konkurenčního Anthropicu, který provozuje chatbot Claude), které jsou jen o jednotky let konzervativnější. A záleží tolik na tom, zda současný světový řád někdo „rozbije“ v roce 2025 nebo 2027?

Zásadní na tom je, že pro všechny tři přední laboratoře, OpenAI, Anthropic a Google DeepMind, se AGI zdá být důležitým cílem. Na AGI se zaměřují dokonce i nové společnosti jako Muskova xAI nebo Safe Superintelligence, kterou vede jeden ze zakladatelů OpenAI Ilya Sutskever.

Hodí se uvést, že před 10 lety stejný Sam Altman v obsáhlém textu napsal, že AGI představuje „pravděpodobně největší hrozbu pro další existenci lidstva“. Názory se mohou vyvíjet, ale když takové změny nekorelují s tržní hodnotou společnosti, kterou dotyčný vede, je to vždy přesvědčivější.

Kolosální střet zájmu v případě Altmana a dalších „AI šéfů“ je ovšem evidentní. Samotná OpenAI prochází pod jeho velením přerodem z čistě neziskové laboratoře přes určitý hybrid se zastropovaným ziskem až po současné pokusy o přechod ke klasické komerční firmě.

Společnost má mimochodem ve svých stanovách i doložku pro případ, že by se jim povedlo dosáhnout AGI. Doložka brání tomu, aby byla „superinteligence“ využita ke generování zisku. A OpenAI nyní podle zjištění Financial Times hledá, jak tuto doložku zneplatnit. Je těžké číst to jinak, než že peníze nesmrdí…

Možná bychom tyhle lidi vlastně neměli brát tak vážně. Vyplácí se jim přehánět, jak v našem rozhovoru říká i Mikolov: „Viděl jsem profesory, kteří se ještě před dvěma roky neuronovým sítím smáli. Najednou zakládali startupy věnované hlubokému strojovému učení (deep learning) a obratem je nabízeli ke koupi, bez jakéhokoliv produktu nebo inovace. A často i uspěli. Podle mne toto našemu oboru ublížilo, přilákalo to spoustu zlatokopů. Místo zajímavého výzkumu se pak často hledalo, jak ty přehnané vize předvést médiím.“

Altmanův text o novém zlatém věku inteligence bezprostředně předcházel investičnímu kolu, ve kterém společnosti vybrala 6,6 miliardy dolarů (tj. cca 150 miliard korun). Což znamená, že investoři odhadli cenu celé společnosti na více než 150 miliard dolarů (tři biliony korun a nějaké drobné).

Šéf Anthropic Dario Amodei vydal v říjnu 2024 svou vlastní utopickou vizi rozkvětu lidstva ve věku „mocné AI“, jak říká (výraz „obecná umělá inteligence“ nemá údajně rád, ale myslím tím právě tu). Jeho představa je velmi podobná: Podle něj by například AGI mohla umožnit, abychom během jedné dekády dosáhli v biologii stejného pokroku, jako bychom bez ní dosáhli za celé 21. století.

Amodei je ovšem výrazně rozvláčnější než Altman – nějakých 60 normostran proti zhruba čtyřem. Anthropic je méně známá značka (cení se údajně na 40 miliard dolarů), a tak možná potřebuje tlustší marketingové materiály.

Ale jen o marketing zřejmě nejde. Letos na podzim proběhlo například v tomto ohledu zajímavé jednání v americkém Senátu (přepis), kde vystoupili „whistlebloweři“ ze společností zabývajících se vývojem AI. Ti stávající vývoj považují za rizikový. (I když se americký Senát může zdát Čechům vzdálený, většina velkých firem v oboru je z USA, a tak američtí zákonodárci mají přístup k zajímavějším zdrojům než třeba čeští či evropští.)

Svědci jako Helen Tonerová či William Saunders (oba dříve zaměstnaní v OpenAI) uvedli, že existuje velký rozdíl mezi tím, jak AGI vnímají lidé uvnitř AI společností, a tím, jak to vnímá veřejnost. Firmy jako OpenAI, Google a Anthropic berou AGI jako hlavní cíl své práce. Na projekt se podle nich vynakládají miliardy dolarů, i když veřejnost nebo politici možnosti vzniku obecné umělé inteligence vlastně nevěnují pozornost.

Z hlediska dalšího vývoje oboru může (a nemusí) být důležité, že američtí politici – obecně mnohem shovívavější k technologickým firmám než například evropští – možná začínají brát tuto představu vážně. Objevily se například názory, že legislativa by se měla poučit z chyb, které udělala v případě „neregulace“ sociálních sítí. Američtí politici na obou stranách spektra se do jisté míry mohou cítit vývojem v této oblasti podvedeni.

Dnes je opravdu těžké odhadovat, zda a jaké nebezpečí může AGI vlastně znamenat. Podrobně se tím zabývá třeba repozitář AI rizik, také my jsme tomu věnovali několik článků. Zatím se ale nabízí mnohem přirozenější otázka: Kdo si vlastně obecnou umělou inteligenci objednal? Jinak řečeno, jakým právem může několik ředitelů technologických společností rozhodovat o tom, co i podle nich může celý náš svět obrátit vzhůru nohama?

Jack Clark, spoluzakladatel Anthropic, loni pro Vox řekl, že je „opravdu zvláštní, že se nejedná o vládní projekt“. V mnoha ohledech se také údajně cítí „zmatený a znepokojený“, včetně nejasností ohledně odpovědi na otázku: „Jak moc se musí vývojáři umělé inteligence ptát ostatních na souhlas, než nevratně změní svět?“

Už jsme si zvykli, že tvůrci nových technologií mají sklony prosazovat co nejmenší regulace. To není historicky nic nového a rizika nových technologií se záměrně „bagatelizovala“ už během průmyslové revoluce (viz například kniha Happy Apocalypse Jeana-Baptistea Fressoze).

Pamatujeme si to na příkladu nedávných „technologických disruptorů“, jakými jsou sociální sítě nebo aplikace typu Uber a Airbnb. Jde o rozsáhlé systémy, které mění náš život, a přitom se do praxe agresivně nasazovaly bez ohledu na to, jaké to bude mít následky. Jak se říká v Silicon Valley „move fast and break things“. Mělo by totéž platit i pro umělou inteligenci?

Dopady zavedení AGI by mohly být opravdu zásadní. Máme tu černé scénáře od expertů jako Eliezer Yudkowsky, kteří v podstatě tvrdí, že bude zázrak, když to lidstvo přežije: „Pokud mi někdo ukáže způsob, jak obecná umělá inteligence nepovede k úmrtí všech lidí, bude to úspěch.“

Jak konkrétně by umělá inteligence vedla ke smrti lidstva, je podle Yudkowského téměř jedno. Podstatná je ta propast, která by byla mezi superinteligentní entitou a lidmi.

Jak říká jiný kritik dopadů AGI, čerstvý nobelista a přední vývojář umělé inteligence Geoffrey Hinton: „Máme jen velmi málo příkladů toho, kdy méně inteligentní entity umí ovládnout a mít pod kontrolou mnohem inteligentnější entitu,“ upozorňuje Geoffrey Hinton, nyní asi nejuznávanější osobnost upozorňující na civilizační rizika umělé inteligence. Lidé nejsou silnější než tygr, ale přesto umíme tygra díky inteligenci a koordinaci přelstít a zavřít do klece.

Ale i když odhlédneme od vyslovených dystopií, je pořád dost důvodů k důkladnému zamyšlení nad budoucností. Dostatečně levná obecná umělá inteligence by způsobila masivní změny na trhu práce a v tom, jak lidé vnímají sami sebe. Co budeme dělat ve světě, ve kterém nerozumíme, co se děje a jak se to děje?

Právě nyní je nejvyšší čas se těmito otázkami zabývat. Jako jednotlivci bychom měli hledat, co v našem oboru umělá inteligence umí, jak ji zapřáhnout nebo kam si ji naopak nepouštět. Jako společnost musíme vést debatu o tom, jak se připravit na změny a zda o takové změny vůbec stojíme. A třeba si uvědomit své lidství – svou smrtelnost – a hledat budoucnost, která staví na lidech.

Hypotetický problém jménem „superinteligence“ může zmizet sám od sebe, pokud se ukáže, že současné technologie k vytvoření AGI jednoduše nestačí. Ale velké technologické firmy jsou ochotné vsadit miliardy na to, že problém půjde vyřešit. Co jsme ochotni vsadit my ostatní?

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.