Komentář: Apokalypsa AI přijde s úsměvem a nevinnou otázkou

Komentář si také můžete poslechnout v audioverzi.

V pondělí se nám v bytě na Vinohradech zasekl na minibalkoně černý pták. Mezi oknem a skleněnou deskou, kde máme truhlíky s kytkami. Prostor je to tak úzký, že dostat se nahoru a vysvobodit se bylo pro ptáka nemožné.

Nijak pomoct jsem mu neuměl, chytit ho do ruky je pro hocha z města příliš obtížné. Co když mu ublížím? Nebo když mě klovne?

Takže jsem odpoledne zavolal na záchrannou stanici pro volně žijící zvířata, kterou provozuje společnost Lesy hlavního města Prahy.

Pomoc byla rychlá a profesionální, záchranářka chytila ptáka do ruky, prohlédla ho, jestli se nesčetnými pokusy vylétnout z balkonu nezranil, a pak ho pustila. Předtím mi ho ukázala a já ho vyfotil.

„Je to mladá kavka,“ řekla.

Hned mě napadlo: hezká náhoda, vzhledem k tomu, že na ten den připadá 100 let od smrti Franze Kafky. Nejslavnější český spisovatel by měl radost, že se jeho zvířecímu jmenovci podařilo z balkonu uniknout.

A protože žijeme v éře technologií a komunikace, hned jsem nevšední zážitek popsal na sociálním médiu. Včetně fotografie, samozřejmě.

Čímž se konečně dostávám k tomu, proč o tom tady píšu.

Nevyhnutelně se několik minut poté objevil pod mým postem komentář: „To je tak hezká a dobře načasovaná historka, že se nabízí to, že ji vytvořil ChatGPT a fotku Midjourney!“

Bylo to skoro jistě myšleno v nadsázce a mile, ne konfrontačně, ale přišlo mi to jako potvrzení toho, že jsme definitivně v éře, kdy nemůžeme věřit nikomu a ničemu.

Je to špatná zpráva? Ne nevyhnutelně.

Plus minus před rokem to byl papež v péřovce. Pamatujete na ty fotky? S mnohaměsíčním zpožděním jsem narazil na výzkum, který ukázal, že víc jako polovina lidí je považovala za skutečné. Že papež opravdu tančil ve velkém bílém péřovém kabátě.

Když dnes zpochybňujeme takovou banální a nedůležitou věc jako kavku uvázlou na balkoně v den výročí smrti Franze Kafky, znamená to, že jsme se adaptovali.

Occamova břitva je tím nejlepším rádcem pro ty, kdo chtějí mít přehled o realitě. Svobodě a demokracii se nejlíp daří v prostředí dobrého balancu důvěry a nedůvěry. Moc nevěřit nebo moc věřit je nebezpečné, nejlepší je rozumně pochybovat.

Přežili jsme Photoshop, přežijeme i deepfaky a další produkty AI. Možná nás to naopak víc donutí používat mozek spíš než oči, říká radostný pesimista ve mně.

A když už jsem načal toto téma, proč se tedy máme bát AI? Nemyslím si, že nás umělá inteligence zabije. Nejsem příznivec scénáře oblíbeného autory sci-fi, který vychází z toho, že v momentu singularity (= inteligence strojů je vyšší než naše) přebírá vedení ten chytřejší.

Jenže my nevíme, co superinteligence znamená. My nemáme ani srozumitelnou a všeobecně akceptovanou definici inteligence lidské. Jak ji chceme popsat, nebo dokonce kvantifikovat u strojů?

AI nikdy nebude mít vědomí (a ano, to je další termín, který neumíme exaktně definovat) a scénář, kdy stroje „přebírají velení“, je pro mě opravdu představitelný jen ve sci-fi.

Miluju kreslený vtip, který byl někdy před půlrokem v časopise New Yorker a na kterém je řádění robotů v ulicích New Yorku. Když se jeden z robotů chystá zabít náhodného chodce, druhý mu říká: „Toho nech, ten při promptování děkoval a prosil.“

Ne, to se nestane, jakkoli je to vtipné. Takže ještě jednou. Proč by mohla být AI nebezpečná? A je opravdu tím existenčním rizikem, za které je vydávána? Máme se AI bát?

Ano, odpovídám opatrně, a zároveň mám na jazyku ALE. Máme se bát, ale z jiných důvodů, než si lidé myslí. Riziko AI je v tom, že nám - opět zjednodušeně řečeno - vezme radost ze života. Nebo dokonce smysl života.

Vývoj AI šel jinudy, než jsme si mysleli. Určitě než jsme si mysleli ještě před pěti a více lety. Čekali jsme něco jiného: že roboty a počítače nahradí nudnou, repetitivní a ve velké většině manuální práci. Litovali jsme dělníky u továrních pásů, řidiče tiráků a pokladní v supermarketech.

Ve skutečnosti se to nestalo. Nebo stalo, ale realita je taková, že lidská pracovní síla je v těchto profesích nadále tak levná, že se nevyplatí ji nahradit. A když se to udělá, že to přináší další problémy, například že lidé živé pokladní v supermarketech začnou vyžadovat.

Jenže teď tu máme generativní AI, která umí dělat věci, o kterých jsme si mysleli, že nikdy umět nebude. Psát, vymýšlet reklamní slogany, kreslit obrázky nebo navrhovat strategie. Dokonce to - podle některých formalizovaných testů - umí líp než 90 procent lidí.

Konkrétním příkladem může být psaní. Jsem přesvědčený, že nejlepší velké jazykové modely – GPT-4 „omni“ nebo Claude 3 Opus – umí psát líp než 90 procent lidí. Pardon, ne líp než 90 procent všech lidí, ale podle mě dokonce líp než 90 procent lidí, kteří se psaním ŽIVÍ.

Tenhle článek mohla líp napsat AI, nedá se to vyloučit. (I když si to nemyslím.) Ale ani jsem to nezkoušel, protože mám psaní příliš rád, než abych ho za sebe nechal dělat někoho jiného. Včetně chytrých chatbotů.

Spoustu věcí za mě AI dělá: čte dlouhé texty a říká mi, co je v nich důležitého a zajímavého. Kreslí obrázky, navrhuje k nim popisky, a taky titulky k článkům. Prostě všechny věci, které mě nikdy moc nebavily nebo zdržovaly.

Ale psaní, které miluju a které – jak si nekriticky a sebevědomě myslím – umím stále líp než AI, si žárlivě střežím pro sebe.

Když se mě lidé na workshopech o generativní AI ptají, co je moje rada pro dnešní dobu, kdy počítače umějí to, co jsme nečekali a co nás překvapuje, je to právě tohle: nesmíme se vzdát toho, co milujeme. Protože když to uděláme, tak jsme s AI prohráli.

Tak přichází apokalypsa. Je kombinací profesionality a milého vystupování a na rtech má zdánlivě nevinnou otázku: „Můžu tu práci udělat za vás?“