Jak zastavit lháře. Do boje se pustil i český student

Když jsme se spolu bavili poprvé v roce 2021, proběhla konverzace online, protože to bylo v dobách covidových lockdownů. Nadšený student Matyáš Boháček mi tehdy s kolegy předváděl prototyp jejich aplikace pro detekci nedůvěryhodných článků. Svůj projekt tento měsíc s kolegy a sponzory úspěšně dotáhli až k hotovému rozšíření do prohlížeče Verifee.

I tentokrát ale náš rozhovor proběhl přes videokonferenci. Matyáš Boháček totiž mezitím odmaturoval a nastoupil ke studiu informatiky na prestižní univerzitě v Kalifornii. Odtud se také připojí, aby se jako nejmladší řečník zúčastnil konference SingularityU, která do Prahy přivede celou řadu řečníků právě z kalifornského Silicon Valley.

Při přijímačkách na Stanfordovu univerzitu se Boháček mohl pochlubit již desítkou vědeckých publikací, na kterých figurovalo jeho jméno. Kromě zájmu o detekci falešných zpráv nebo analýzy deep fake videa ukrajinského prezidenta se pustil třeba do vývoje nástroje, který umí překládat znakový jazyk.

Jak jste se dostal k nápadu rozpoznávat znakovku?

V roce 2019 jsem byl na konferenci Apple (WWDC) a tam je výborná část, kde se kdokoli může přihlásit a diskutovat s vývojáři o čemkoli. Setkal jsem se tam s neslyšícím vývojářem a uvědomil jsem si, jak komplikovaná je pro lidi s hendikepem běžná komunikace, běžné používání technologií.

Začal jsem se učit znakový jazyk a během covidu jsem musel přejít na online výuku. Hledal jsem nějaký online slovník a nic moc jsem tehdy nenašel, tak jsem zkusil něco vymyslet. Napsal jsem tehdy Dr. Hrúzovi ze Západočeské univerzity, pamatuji si, že jsem ani nenapsal, že jsem středoškolák. Označil jsem se vágně za studenta.

Pozvali mne, já jsem přijel a odprezentoval jsem takový prototyp, který moc nefungoval. Ale zrovna ty tři znaky, co jsem ukázal, to rozpoznalo, tak jsem je zaujal. Tak začala naše spolupráce, která mě nakopla a otevřela mi dveře do světa výzkumu.

Nedávno jste odmaturoval a před týdnem začal studovat na Stanfordově univerzitě. Co vás lákalo na studiu v USA?

I český vzdělávací systém má své výhody. Ale na tom americkém se mi líbí možnost kombinovat různé obory. Vybírám si svůj hlavní studijní obor, ale zároveň si můžu navolit i předměty, které mě zajímají. Nejen z oblasti informatiky, ale třeba i filozofie.

Tento přístup mi přijde velmi obohacující, protože se mohu věnovat i tematickým oblastem, které nejsou striktně spojené pouze s počítači, ale zahrnují širší spektrum disciplín a perspektiv. To je myslím nesmírně důležité pro zapojení technologií, jako je umělá inteligence. Lidé pracující na vývoji AI by měli mít širší zkušenosti a vzdělání.

A pak jsou tu další výhody. Chodím třeba na seminář, kde každý týden čteme důležité aktuální vědecké články o strojovém učení. Myslel jsem, že budeme o článcích diskutovat s přednášejícím. Byl jsem dost překvapený, že místo toho přiletěli samotní autoři těch článků. Je nás tam čtyřicet studentů a ta diskuze opravdu stojí za to. Jsem tu teď druhý týden a pořád jsem z těch možností unešený.

Umělá inteligence je obor, který se rozvíjí přes více než půlstoletí. Přesto se zdá, že v posledních dvou letech opravdu nabrala nový dech. Čím to je?

Určitě souhlasím. Je několik faktorů, které k tomu přispěly. Máme teď k dispozici neskonale vyšší výkon. Zároveň máme nové modely a postupy, které můžeme aplikovat. A tou třetí ingrediencí jsou data, ohromné, bezprecedentní množství dat, na kterém se modely trénují.

Diskuze se tedy posunula. Dlouho se strojové učení vyvíjelo postupnými krůčky, komunita to samozřejmě sledovala, sem tam do novin vystřelil nějaký titulek. Ale poslední dobou to sledují všichni. Nástroje jako ChatGPT jsou tak jednoduché – je to vlastně konverzace, což znají všichni – že si s tím začali hrát i lidé, kteří se jinak o tyto věci nezajímali.

Tady v Silicon Valley vnímám i to, že jde o kapitál. A investice se do čehokoli, co je spojené se strojovým učením a umělou inteligencí, nyní shání velmi dobře. Je to unikátní příležitost. Nevíme, kam až se dostaneme. Ale je to určitě radikální posun, z mnoha úhlů pohledu.

Školy nyní řeší, jak žákům zpřístupnit nástroje umělé inteligence zodpovědným způsobem. Co si o tom jako student prvního ročníku vysoké školy myslíte?

To je podobné jako kdysi s kalkulačkami. Pořád se učíme, jak počítat malou a velkou násobilku, musíme chápat, jak pracovat s čísly. A když ty základy zvládneme, tak nám učitelka rozdá kalkulačky a díky tomu můžeme tyto úkony automatizovat a posunout se ke složitějším, abstraktnějším úkolům.

Stejně by to mělo být s psaním esejů nebo kritickou analýzou zdrojů. Mladá generace si velmi rychle osvojí nástroje AI. Jenže pokud někomu dáme kalkulačku ještě před tím, než se naučí počítat, hrozí, že nikdy neporozumí podstatě těch výpočtů.

Proto si myslím, že je důležité, aby se i v době AI nástrojů studenti učili kvalitně psát a analyzovat data. Zároveň se ale nebojme dát studentům nástroje, které jim pak pomohou ty schopnosti uplatnit v mnohem větším měřítku. Budou tak moci dělat mnohem zajímavější věci.

Na druhou stranu předstírat, že tady ty nové nástroje nejsou, by bylo ještě větší riziko.

Myslím, že to bude chvíli trvat, než bude práce s AI nástroji považována za takovou samozřejmost, jako je dnes třeba práce s e-mailem. Ale pokud se s tím dnes někdo naučí dobře pracovat, tak je to ohromná výhoda.

Časem to bude očekávání zaměstnavatelů, to ale potrvá. Lidé, kteří jsou na řídících pozicích, ještě nepřepnuli na nový styl myšlení.

Zároveň jsme tady ale my, mladí lidé, kteří tyto nástroje používají každý den. Sžili jsme se s nimi. A naše generace bude mít výhodu, zefektivníme svou práci, vylepšíme svou pozici a časem bude ten starý přístup redundantní. Pokud dnes někdo v tomto ohledu zaspí, doplatí na to.

K čemu nové AI nástroje používáte vy osobně?

Je toho hodně. Třeba teď jsem řešil nějaký úkol z matematiky, který musíme odevzdávat v LaTeXu (nástroj pro pokročilou sazbu dokumentů, pozn. red.), což je pro mne docela komplikované, strávil bych tím hodiny. Dnes k tomu použiju specializovanou službu, za pár vteřin mám všechny rovnice v LaTeXu a můžu se soustředit na jiné věci.

Používám strojový překlad, třeba DeepL bývá velmi kvalitní. Nechávám si předčítat texty a učebnice pomocí syntézy řeči, takže to můžu poslouchat po cestě. A když třeba něco nestíhám přečíst celé, tak využiju AI nástroj, který mi z toho vyrobí shrnutí přesně toho, co jsem potřeboval vědět. Jistě, není to ideální, radši bych to přečetl celé, ale je to lepší než nic.

No a konečně je ChatGPT skvělý pro inspiraci. Nepoužívám to na psaní textů, to ne, to, co potřebuju, to nezvládá. Ale umí mi skvěle pomoci, když se zaseknu na nějakém slově, a nabídne mi, jak pokračovat.

Jaké jsou méně známé výhody zapojení AI v praxi?

Tady na nedaleké univerzitě v Berkeley jsem se byl podívat v laboratoři profesorky Jennifer Doudna, držitelky Nobelovy ceny za chemii. Překvapilo mne, když nám říkala, že má ve svém týmu řadu lidí, kteří nemají vůbec žádné chemické vzdělání. Jsou to čistě specialisté na strojové učení nebo informatiku.

Začala s tím už před několika lety, v době, kdy to bylo ještě dost neobvyklé, a určitě se to setkalo i s kritikou. Dnes z toho ale její laboratoř těží a publikuje výsledky v ohromném akcelerovaném tempu. Jsou to unikátní a nesmírně zajímavé studie.

To mi přijde zásadní. Vzala lidi, co rozumí počítačům, a vyplatilo se jí to. Pomáhá to jejímu týmu a pomáhá to vědě. To je podle mého důležitá lekce. Buďte průkopníkem, najděte, jak může umělá inteligence akcelerovat váš obor.

Nástroje jako ChatGPT jsou jenom začátek, první vlaštovka. Umělá inteligence bude postupně proměňovat celou řadu oblastí. Pokud se vám podaří něco dobře zkombinovat, bude to ohromná výhoda. Neuronové sítě dokážou najít to, co lidé nepostřehnou. Příkladem je AlphaFold, což byl neskutečný posun toho odvětví.

Zapojení umělé inteligence spolu přináší i rizika. Což je i takové pojítko vašeho výzkumu. Zkoumáte třeba deep fake videa, což jsou videomontáže využívající strojové učení k „nalepení“ něčího obličeje na jiné tělo…

Pro hodně lidí je šokující, jak snadné to je. Už se to netýká jen celebrit a politiků. Stačí k tomu jen jedna fotka. A každý máme na internetu aspoň jednu fotku.

Pak jde klonovat i audio. Tady v USA se třeba nyní rozmáhá podvod, kdy vyděrači stáhnou pár sekund vaší řeči, vytrénují umělý klon vašeho hlasu a zavolají třeba vašim příbuzným s žádostí o peníze pod záminkou nějakého zatčení a podobně.

Problém těchto falešných nahrávek, videí nebo generovaných fotorealistických obrázků je i v tom, že snižují důvěryhodnost čehokoli. Lidé se tak mohou vymlouvat na to, že to na fotce nejsou oni, že to audio není jejich nahrávka, že je to vytvořené počítačem. To dříve nešlo.

Existuje způsob, jak dokázat, že je nějaké video nebo nahrávka pravá, nefalšovaná?

Ano, technicky jsou způsoby, jak prokázat alespoň to, že nahrávka vznikla v danou dobu. Bude ale chvíli trvat, než se takový standard prosadí. Nebude to důkaz toho, že je něco reálné, ale bude to důkaz původu té fotky nebo videa.

Takže to nevyřeší všechny problémy, ale některé ano. Trochu jako když ráno zamykáte dveře od bytu. Také víte, že existují způsoby, jak ty dveře vyrazit, ale pro většinu účelů a pro eliminaci velké části rizika to stačí.