AI musí sloužit lidem, ne je ovládat, varuje expertka. Bude to test demokracie

Rozhovor si také můžete poslechnout v audioverzi.

O tom, že umělá inteligence změní pracovní trh, se mluví už dlouho. Zatímco některé odhady mluvily o tom, že změna bude opravdu rychlá, necelé dva roky od příchodu ChatGPT už víme, že situace je složitější. Některé profese jsou generativní AI ovlivněny už nyní, v jiných je změna pomalejší.

Pokud ale nechceme jen reagovat na aktuální situaci, ale jít budoucnosti trochu naproti, vyplatí se pochopit, jak umělá inteligence mění a bude měnit pracovní trh. Není to totiž nějaká předem daná věc. Naopak, zvláště v demokratické společnosti je klíčové, aby co nejvíce lidí rozumělo tomu, v čem AI spočívá, co může nabídnout a kde naopak může napáchat nepříjemnosti. O těchto aspektech – a také o vládní strategii pro AI z července 2024 – jsem se bavil s Milenou Jabůrkovou, viceprezidentkou Svazu průmyslu a dopravy ČR, která má zároveň bohaté zkušenosti z nadnárodní firmy IBM.

Které nástroje umělé inteligence jste vy osobně začlenila do svého každodenního života?

Hodně se ve světě AI nástrojů pohybuji a miluji takové věci, které jsou mi užitečné. Já jsem v řadě věcí chaotik. Na personálním oddělení mě nenávidí, pořád jsem jim posílala dotazy, jako například kolik mám ještě dovolené, jak je to se sick days, jak se dostanu do nějakého HR systému.

Teď jsme v rámci naší firmy vyvinuli konverzačního asistenta, chatbota, jmenuje se Ask HR (zeptej se personálního, pozn. red.), a to je prostě lázeň. Když se ho na něco zeptám, tak nejenže mi odpoví, ale i najde tu stránku, kde můžu najít podrobnosti a věci rovnou online vyřídit. A já tím nemusím otravovat živé lidi.

Tím pádem se asi můžete ptát víc než předtím, když nemáte pocit, že tím někoho zatěžujete.

Ano, je to ochrana, nemusím se bát, co si o mně budou myslet, když se pořád ptám na to samé. Stroji je to jedno. A když je to složitá otázka, tak se rychleji dostanu ke skutečnému lidskému odborníkovi, protože mají víc času.

Tohle se mi líbí i v oblasti vzdělávání. Máme platformu na vzdělávání, která nám nabízí kurzy podle našich zájmů. A umí třeba předpovědět, který další kurz by se mi hodil, podle mojí pozice ve firmě a podle mých předchozích zkušeností. Taková užitečná zapojení umělé inteligence mám ráda.

Tohle je taková až ideální, učebnicová ukázka zapojení. Co bychom si z toho měli odnést pro pokusy, jak a kde umělou inteligenci využít, nebo naopak nevyužít třeba v byrokracii nebo firmách?

Ve firmách je velký tlak na optimalizaci. Musíte šetřit. A zároveň všichni po vás chtějí, abyste byli dostupní neustále, nejlépe 24 hodin denně, sedm dní v týdnu. Umělá inteligence může tyhle protichůdné požadavky pomoci řešit. Když se nasadí správně.

Ale lidé mají často zkušenosti s virtuálními asistenty, kteří jim moc nepomohou. Dají jim na výběr ze tří možností, a když ani jedna nesedí, tak to člověka spíš rozzuří, než že by to něčemu pomohlo.

Vládní strategie České republiky ohledně umělé inteligence má řadu cílů a nápadů, a chtěla by z Česka udělat něco jako „velmoc“ v oblasti digitálních kompetencí a AI. Zatím jsme ale ve fázi, kdy řada lidí ani moc neví, co ten pojem znamená. Jak bychom se mohli posunout dál?

Česko je velmi schopné co do vytváření strategií. Ale slova nejsou činy. A činy nám pak často chybí, zvláště kdyby se třeba na něčem mělo dohodnout více resortů, jako to bývá u digitálních věcí.

Často panuje představa, že si napíšeme strategii, odstartujeme nějaké projekty, EU to zadotuje a máme vystaráno. Ale tak to bohužel není. Je potřeba posílit vzdělávání a rekvalifikaci. Umělá inteligence totiž dopadne průřezově, na všechny sektory. Velmi rychle se vyvíjí, jak je ostatně zřejmé při pohledu na tu současnou vlnu generativní AI.

Generativní umělá inteligence je obrovsky disruptivní technologie (technologie narušující stávající pořádky, pozn. red.), někdo to přirovnává třeba k vynálezu elektřiny. A není to jen generativní AI, mluví se i o nástupu kvantových počítačů, které někdo přirovnává co do významu k vynálezu elektřiny. A do toho ta výbušná geopolitická situace, což je vlastně ještě důležitější faktor. S tím vším se musíme vyrovnat.

A my se s tím teď vyrovnáváme, že píšeme strategie. Potřebujeme ale zásadní změny ve vzdělání, adaptovat ten velmi složitý AI Act, který se vyjednal na nadnárodní úrovni. Nikdo to teď nechce dělat. Není ve vládě nikdo, kdo za to bojoval jako za něco důležitého. Možná Ivan Bartoš (rozhovor vznikl ještě před odvoláním ministra Bartoše, pozn. red.). Ale to nestačí, je potřeba více lidí z více resortů, kteří budou považovat vytvoření příznivého regulatorního prostředí v oblasti AI za významnou prioritu

Já často říkám, že lidé nesmí čekat, až jim někdo shora řekne, aby se začali vzdělávat, že ty nové možnosti musejí začít objevovat sami.

Nemůže to být tak, že vám do firmy přijdou nějací experti, ať už zvnějšku, nebo z IT oddělení, a navrhnou, jak to máte dělat. Z toho vznikají ta polovičatá řešení. Je potřeba, aby se do toho zapojili ti lidé, kteří na těch pozicích dělají. Ti nejlépe vědí, co je potřeba zrušit, zjednodušit, co by šlo zautomatizovat a co třeba dělat participativně (spolupráce AI a lidí, pozn. red.). Když lidé vidí, jak jim to zjednoduší život, je daleko snazší to přijmout a podporovat.

Když jsme v IBM dělali studie, tak jsme zjistili, že dopad AI na pracovní místa zatím není markantní. Může to být z několika důvodů, ty změny ještě neakcelerovaly. Nicméně závěrem studie je, že šéfové firem nyní říkají: Budeme potřebovat dva typy lidí.

Jednak jsou to lidé, kteří vyvíjejí, udržují a implementují tyhle modely umělé inteligence. A pak lidé, kteří s nimi umí pracovat, budou tedy muset mít nějakou AI gramotnost. Budou vědět něco o ochraně dat, etice, budou umět rozlišit, čemu můžou věřit a čemu ne.

Výhled Organizace pro hospodářskou spolupráci a rozvoj (OECD) z roku 2023 mluví o tom, že nějaká pracovní místa zaniknou a nějaká vzniknou. Ale hlavně se promění náplň práce, protože AI bude umět některé úkony nahradit a některé ne. Což znamená, že bude posun k většímu výkonu a produktivitě. Ale také to bude znamenat vyšší náročnost, stres. Protože nebudete dělat některé ty jednodušší úkony.

Na to se podle mého často zapomíná. Lidé slyší, že AI převezme část jejich práce, tak mají pocit, že budou mít více volného času. Ale tak to vůbec nemusí být. Místo toho třeba za stejný čas zvládnou víc věcí. Myslím, že tohle bude jeden z největších problémů. Jak si tu práci zařídíme, abychom pořád dělali něco smysluplného a nebyli jen asistenti asistentů.

To je velké téma, které nás vrací k důrazu na etiku a rozumnou regulaci. Žijeme naštěstí v demokratickém světě, takže tu regulaci můžeme ovlivnit. Musíme si klást otázku, k čemu umělá inteligence vlastně je.

A k čemu má být?

Má být umělá inteligence nástroj, který nám umožňuje dělat kvalitnější rozhodnutí? Což je samozřejmě to, čemu věřím já.

A nebo bude umělá inteligence ta, kdo rozhoduje, kdo rozděluje ostatním úkoly, jako to dělají různé pracovní platformy. Já doufám, že tím směrem nepůjdeme.

I ten hodně debatovaný EU AI Act se to snaží nějakým způsobem hlídat. AI by neměla zasahovat do práv lidí a do soukromí lidí. Automat by neměl rozhodovat o tom, jestli dostanete půjčku. Je to důležité téma, autokratické systémy to budou dělat a demokratické systémy by se měly snažit být lepší.

Je otázka, jestli se dokážeme v rámci demokratického světa dohodnout na společném postupu. Nebo zda nastoupí nacionální tón a protekcionalistická rétorika.

Ke zlepšení toho prostředí mohou přispět i nevládní skupiny, které dohlíží na dodržování lidských práv. Proto si myslím, že dokud máme vliv na to, kdo je zvolen, dokud tu máme sociální dialog a nasloucháme různým skupinám, tak můžeme vytvořit rozumné prostředí, kde nebude nikdo utlačovaný.

Co ale mohou udělat jednotlivci? Co by každý měl pochopit ohledně nástupu AI?

Řada lidí tyhle systémy umělé inteligence už běžně používá. Třeba ChatGPT, navigace, ty nástroje jsou všude okolo nás. Myslím, že zejména mladší generace je na to docela připravená.

Požadavky pracovního trhu se odklánějí od tvrdých dovedností. Místo toho bude ceněné, že se umíte celý život učit a přizpůsobovat. Bude důležité umět použít dostupné nástroje a také mít nějaké analytické dovednosti a kritické myšlení.

Z interního průzkumu IBM nám vyplynulo, že za posledních osm let se zásadně změnily požadavky na lidi v týmu. Dřív byla na prvním místě technická znalost. Dnes se nejvíce cení schopnost organizovat si čas, schopnost spolupracovat v týmu a schopnost efektivně komunikovat. Ty technické znalosti jsou stále důležité, ale musíme počítat s tím, že se rychle mění.

Proto musíme být připraveni si neustále doplňovat znalosti. Neustále zjišťovat, jak bychom mohli pracovat lépe a kde by nám umělá inteligence mohla pomoci. A kde naopak ne.

Jakou chybu lidé často dělají, když o dopadech AI přemýšlejí?

Někdo bere umělou inteligenci jako nějakou sílu zvnějšku, deus ex machina. Že je to nějaká nadpřirozená síla, která všechno zničí. Nebo všechno vyřeší. Tak to není. Žijeme v demokratické části světa. Můžeme ovlivnit to, jak je s technologiemi nakládáno, jaký je zákonný rámec k jejich použití.

K tomu, abychom v této debatě mohli aktivně participovat, je potřeba vědět, jak umělá inteligence funguje, jaké jsou její plusy a minusy. Aby to byl nástroj pro rozšíření schopností člověka, ne nástroj na jeho řízení.