Článek
Asi jste už zaslechli zkratku AGI. Obecná umělá inteligence. Počítačový systém, který dokáže většinu ekonomicky cenných činností vykonávat lépe než většina lidí. Pro některé je to svatý grál, který přinese řešení všech současných problémů a odstartuje nástup utopického blahobytu.
Nebo je silná umělá inteligence naopak hrozba. A to až taková, že by mohla vyhladit lidstvo. Dystopické scénáře ale nemusí končit jen totálním armagedonem, ale třeba „jenom“ omezením osobní svobody prostřednictvím všudypřítomného „algoritmického dozoru“.
Podle toho, jaké sci-fi filmy preferujete, vám asi jedna z těch vizí bude připadat pravděpodobnější. Ale obě – utopická i dystopická – jsou myslím v současné chvíli neužitečné. Určitě je potřeba řešit budoucí scénáře, včetně těch extrémních. Ale nemělo by nás to odvádět od diskuze o tom, jaké budou okamžité a krátkodobé dopady zapojení AI.
Poslední epizodu naší podcastové minisérie Mozaika o umělé inteligenci tedy věnujeme nejen poskládání střípků, které jsme v předchozích sedmi dílech posbírali. Podíváme se taky, kam umělá inteligence kráčí. A jak můžeme my lidé přemýšlet o světě, ve kterém už nejsme jedinou „uvažující entitou“.
(V textu článku uvádíme jen stručný výběr z probíraných témat. Celou epizodu najdete ve videu v úvodu článku nebo v audioverzi ve svých podcastových aplikacích.)
Vzdělávat se musíme neustále
„Čím více se s lidmi bavím o umělé inteligenci, tím více si myslím, že dopad na společnost bude nesmírně rychlý,“ říká Eva Nečasová, umělkyně a lektorka. Generativní AI ji uchvátila v letech 2021 a 2022, tedy ještě před nástupem slavného ChatGPT. „Jsem napůl programátor, napůl výtvarnice, tak jsem tam hned viděla ty možnosti spolupráce člověka a stroje.“
Už v březnu 2022 Eva Nečasová spolu s Jitkou Šimkovou založily iniciativu AI dětem. Začaly nabízet kurzy pro učitele a rozvíjely metodiku pro výuku strojového učení na českých školách. Ze začátku byl zájem o kurzy spíše vlažný. „A pak přišel ChatGPT a já jsem jezdila pořádat napřed jeden kurz týdně, pak jsem jezdila dvakrát a pak několik měsíců třeba i šestkrát týdně,“ vzpomíná Nečasová na to, jak jí umělá inteligence přidělávala práci.
„Zvaly si mne různé školy. Velké, malé, soukromé, vesnické… A co škola, to vesmír,“ vysvětluje Nečasová. Otázky ale mají učitelé všude dost podobné. Jsou to ty stejné obavy, které se týkají nejen práce studentů školou povinných, ale celé lidské společnosti.
Nutnost vzdělávání se netýká jen studentů a jejich učitelů, neboť technologie se vyvíjí opravdu hodně rychle, málokdo si může dovolit tyto nástroje ignorovat. „Každý může přijít na nějaký velmi unikátní způsob toho, jak to využít k vlastnímu prospěchu,“ připomíná bioložka Michaela Liegertová. „Dokud s tím člověk nezačne experimentovat v rámci toho, co dělá, tak vlastně ani nemůže vědět, k čemu to jemu konkrétně může být přínosné.“
Co udělá umělá inteligence s lidmi?
Budou děti s pomocí AI podvádět? Budou děti kvůli AI hloupnout? To není jen otázka základních a středních škol. Řeší to i univerzity, vědecké instituce a profesní organizace.
„Pokud předáme těm technologickým nástrojům většinu našich dovedností, naší kreativity, tak jsme úplně zúžili tu profesní autonomii ve všech profesích,“ varoval například moderátor a pedagog Václav Moravec.
Na nutnost přemýšlet, co svěřit AI nástrojům a kde naopak uplatnit své zkušenosti a expertizu, upozorňuje i lektorka Lenka Stawarczyk: „Jestli chcete opravdu najít někoho, kdo chápe ty principy fungování s umělou inteligencí, tak se ho zeptejte, kdy by nevyužil naopak umělou inteligenci, kam by ji nepustil.“
Jedním z důvodů k opatrnosti jsou tzv. halucinace, věrohodně vypadající nesmysly, které chatboty stále občas vyplivnou. „Když se to snažím někomu vysvětlit, tak opakuji, že velké jazykové modely nejsou kalkulačka,“ nabízí metaforu pedagog a analytik Josef Šlerka. „Nejsou něco, co ví fakta o našem světě. Velké jazykové modely jsou spíš generátory možných světů a generátory možných textů.“
Proč umělá inteligence „kecá“
Nástroje jako ChatGPT, Gemini nebo Copilot jsou založené na neuronových sítích a využívají tzv. velké jazykové modely (large language models, LLM). Tyto modely jsou natrénované na velkém množství textu a umí za sebe skládat slova a části slov tak, aby výsledek působil důvěryhodně. To ale neznamená, že jsou výsledky pravdivé.
Těmto nepravdám se obvykle říká „halucinace“ a jde o jednu z hlavních nevýhod, které brání nasazení velkých jazykových modelů do obchodní praxe.
Z minulosti ostatně víme, že lidé často používají technologie cestou nejmenšího odporu. Jistě, internet bychom mohli každé ráno použít k pečlivé rešerši nových vědeckých studií z celého světa… Většina lidí ale tráví čas na internetu spíše pasivním sledováním videí. Takže tady čeká na lidi past pohodlí: nechat si vysvětlit věci od chatbotu bude jednodušší, než si pečlivě budovat hluboké porozumění nějakému oboru. Každý bychom dostali odpověď na míru. A posoudit, zda je pravdivá, pro nás bude čím dál těžší.
Proč je důležité, co dělají lidé?
Dovedeno do krajnosti, lidé by mohli spoléhat na umělou inteligenci ve stále více věcech. Ostatně povídat si s umělou inteligencí bude pro řadu lidí příjemnější, než povídat si se skutečnými lidmi. „Pro mě jako pro introverta je mnohem snazší povídat si s chatbotem, než rozvíjet vztahy,“ říká Nečasová.
Připomíná ale, že právě kontakt se skutečnými lidmi je nyní možná ta nejdůležitější schopnost. „Potřebujeme vztahy rozvíjet, narážet na to, že něco nejde. Nerezignovat na skutečné prožitky,“ připomíná Nečasová. „Pokud rezignujeme na vztahy s lidmi, tak se pak nebudeme mít o co opřít.“
Oproti umělé inteligenci máme jednu výhodu. Jsme smrtelní, a víme to o sobě. Proto na našich rozhodnutích skutečně záleží.
V muzeu počítačové historie v kalifornském Mountain View mne zaujal citát, který šel zdánlivě proti proudu rapidního technologického pokroku. „Jakákoli technologie, kterou se naučíte (…), jednou zmizí,“ říká vývojář a herní producent Richard Hilleman. „Naučit se porozumět lidem je mnohem cennější. Lidé se tak rychle nemění. A jsou jak vašimi zákazníky, tak těmi, kteří budou tvořit s vámi.“
Experimentovat s novými nástroji generativní umělé inteligence je samozřejmě dobrý nápad. Možná při tom najdete způsoby, jak si usnadnit práci a zkusit úplně nové věci, do kterých byste se jinak nepustili. Nebo naopak zjistíte, že nechcete umělou inteligenci používat – o to spíše se vám bude hodit pochopení toho, co AI umí a co můžete nabídnout navíc.
Ale nezapomínejme na to, jaké jsou naše lidské cíle a hodnoty. To za nás umělá inteligence nevymyslí.
Smrtelní lidé a nesmrtelná AI
Oproti umělé inteligenci máme my lidé jednu výhodu. Jsme smrtelní. Chápu, že to zní podivně, ale opravdu je to jeden z hlavních rozdílů, který výrazně přispívá k našemu pohledu na sebe sama i na ostatní lidi.
Nejenže každý z nás jednou umře, ale všichni to o sobě i o ostatních víme. Když se tedy něčemu my lidé věnujeme, investujeme svůj nejcennější, omezený zdroj. Čas. Zatímco neuronové sítě mohou v jednu chvíli odpovídat na miliony různých dotazů, my lidé se můžeme skutečně věnovat jen jedné věci. O to pečlivěji musíme vybírat, čemu se věnujeme.
Proto budeme vždy jinak vnímat umění vytvořené člověkem a umění vytvořené strojem, bez ohledu na to, jak bude vypadat. Chápeme, že ten člověk je „jedním z nás“, a svůj čas věnoval tomu, aby něco vytvořil a předal nám to. Víme, že lidský čas je omezený, a proto nás může inspirovat a motivovat, k čemu ostatní lidé svůj čas využili a čeho dosáhli.
Je načase přestat předstírat, že se svět nezmění.
Zdánlivě neomezené možnosti umělé inteligence neubírají na důležitosti tomu, na čem záleží nám, smrtelným lidem. Svým způsobem je to naopak: to, že máme omezené množství času, dělá naše hodnoty o to hodnotnější a rozhodnutí o to důležitější. Na tom, jak se rozhodneme, skutečně záleží, protože nemáme neomezené množství pokusů. Za svá rozhodnutí neseme zodpovědnost a provázejí nás. Nemáme tlačítko Zpět.
Umělá inteligence mění svět, a my jsme zodpovědní za to, jak tato změna proběhne. Nových nástrojů budeme moci využít ke zvýšení vlastního dosahu. A ostatní lidé, korporace nebo vlády budou zase zkoušet zvýšit svůj vliv a kontrolu. Bude to divoké, a po cestě nás čeká celá řada fascinujících možností i nebezpečných pastí.
„Mnoho expertů v předních výzkumných AI laboratořích si myslí, že obecná umělá inteligence je na dosah,“ popisuje Ethan Mollick, který studuje inovace na Wharton University. „Nevím, jestli mají pravdu, ale můžu vám říci, že tomu opravdu věří.“ Upozorňuje, že ve svých úvahách o budoucnosti bychom měli zohlednit různé možnosti vývoje: „Je načase přestat předstírat, že se svět nezmění.“
Jakou mozaiku nakonec jako lidstvo společně složíme – a zda se bude podobat utopickému nebo dystopickému scénáři – to zaleží na tom, jak se dokážeme dohodnout. Neztrácejme čas.
(V textu článku uvádíme jen stručný výběr z probíraných témat. Celou epizodu najdete ve videu v úvodu článku nebo v audioverzi ve svých podcastových aplikacích.)
Mozaika Pavla Kasíka
Osmidílná minisérie Seznam Zpráv o umělé inteligenci. Novinář Pavel Kasík s pomocí hostů popisuje současný stav technologického fenoménu. AI z různých perspektiv a bez přikrášlování. Mozaika Pavla Kasíka vychází každý čtvrtek jako video na webu Seznam Zpráv a v audio podobě na Podcasty.cz, Spotify, Apple. Následující sobotu pak vydáváme bonusový materiál v podobě celého rozhovoru s hosty pořadu.
Mozaika Pavla Kasíka – podcastová minisérie o umělé inteligenci.
