Jezte jeden kámen denně. Jak dlouho dokážeme vzdorovat AI halucinacím?

Novinky v oblasti generativní AI jsou v těchto dnech nepřehlédnutelné a vtipné. Kromě toho, že se budeme posmívat legračním výsledkům, bych chtěl především nabídnout výhled na to, co nás nejspíš v nedaleké budoucnosti čeká.

Článek si také můžete poslechnout v audioverzi.

Před dvěma týdny se Američané z ostře sledované úvodní prezentace dozvěděli, že Google bude nyní googlovat za ně. Konkrétně jde o uvedení funkce AI souhrn (AI overview) na americký trh. Předtím byla funkce dostupná jen pro malou skupinu betatesterů. Byl jsem jeden z nich, svoje zkušenosti jsem popsal tady. Už tehdy jsem upozorňoval na to, že funkce je užitečná, ale občas dělá zvláštní chyby.

Jenže já jsem na to, jak nám generativní umělá inteligence kecá, celkem zvyklý. Tzv. halucinace se ale nyní dostávají do popředí diskuze právě proto, že se milionům lidí zobrazují nad výsledky vyhledávání. A jakkoli nejspíš tušíte, co se stalo, realita je ještě vtipnější.

Google AI overview třeba lidem doporučil, aby dali do pizza omáčky „osminu šálku jedlého lepidla“, pokud chtějí, aby pizza lépe držela pohromadě. Kde robot takový nesmysl našel? Zjevně šlo o vtípek uživatele s přezdívkou, kterou zde nebudu reprodukovat, ale každému průměrnému čtenáři by bylo jasné, že jeho příspěvek byl myšlen jako satira.

Stejně tak by zřejmě lidé neměli problém poznat, že slavná píseň Beatles s názvem Je v pořádku nechat psa v rozžhaveném autě je zjevná parodie, nikoli rada veterináře. Jenže umělá inteligence oba tyto texty použila ve svých souhrnech. Podobných příkladů jsou desítky (a některé z nich jsou samy o sobě parodie, takže platí, nevěřte všemu, co vidíte na screenshotech). Můj oblíbený: Kolik kamenů bych měl sníst denně? „Vědci doporučují sníst alespoň jeden kámen denně,“ odpovídá AI souhrn.

Firma Google upozorňuje, že jde pořád o experiment, a na ladění pracuje. Pro mě bylo překvapení, že tento experimentální produkt spustila na tak velkou skupinu uživatelů. Jak jsem už poznamenal: „Je zřejmé, že si Google na základě uživatelského chování spočítal, že se mu nesníží příjmy z reklam, pokud lidem vyhledávač dá odpověď, aniž by museli klikat na některou z nalezených stránek. Provozovatelé webů – na jejichž stránky takový uživatel už mnohdy neklikne – to ale dost možná budou vidět jinak.“

Možná by mě to ale překvapit nemělo. Generativní umělá inteligence umí psát texty na míru. Přímo na míru vám, vaší otázce, vašemu kontextu. To je samozřejmě sen každého, kdo někdy pracoval na tvorbě cílených reklam. I já jsem na takovou cílenou reklamu při testování „generativního doplňku Google vyhledávání“ narazil.

Loni v létě během pobytu v USA jsem na Google hledal informace ohledně běžeckých bot. Měl jsem zapnutou experimentální funkci – tu, která je teď nově k dispozici všem Američanům. Robot mi do pár sekund vygeneroval odpověď, která citovala názory odborníků, odkaz na recenze z několika časopisů a možnost objednat nejlépe hodnocené boty pro můj styl běhu, v mojí velikosti, a které budou doručeny do druhého dne… Co vám budu povídat, mám ty boty na sobě. Nevím, jestli bych si je koupil i tak, ale rozhodně ta reklama pomohla. Právě tím, že byla přesně na míru mojí situaci.

Jenže i kdyby ty boty pro mě nebyly vhodné, vím, že generátory textů by dokázaly poskládat za sebe ta správná slova, aby působila přesvědčivě. A tady je podle mého kámen úrazu.

Dokud jde o zjevné nesmysly, jako „jezte alespoň jeden kámen denně, doporučují vědci“, zdánlivě se nic neděje. Ale ty chyby nemusí být vždy na první pohled evidentní. Jak upozorňuje Caroline Mimbs Nyce, může to být o dost nebezpečnější, jakmile jde o lidské zdraví, je to najednou dost vážná věc. „Tady nejde o nějaké laciné vtipné ukázky, tady jde o to, že tohle bude mít zjevně velký a předvídatelný vliv na naši společnost,“ upozorňuje Margaret Mitchelová, výzkumnice umělé inteligence. „Je potřeba na to upozornit, než kvůli tomu třeba nějaké dítě zemře.“

Nedávno jsem psal o tom, jak žádoucí bude schopnost „překecat“ umělou inteligenci, aby udělala to, co chcete. Zároveň ale sledujeme, že umělá inteligence překecává lidi. A jde jí to velmi dobře. Možná si pamatujete na epizodu, kdy GPT-4 během testování najal přes internet pracovníka a přemluvil jej k tomu, aby za něj vyřešil obrázek odlišující lidi od robotů („Ne, samozřejmě nejsem robot, jen mám oční vadu, která mi neumožňuje tento obrázek rozluštit a potřebuji pomoc.”)

Vědci nyní zkoumají, jak odolní jsou lidé těmto trikům a manipulacím ze strany chatbotů. A ukazuje se, že umělá inteligence umí být opravdu přesvědčivá. Chatboti vám mohou na míru namíchat perfektní koktejl faktů, přiohnutých povídaček a zcela z prstu vycucaných halucinací. Budou nekonečně trpěliví a nadlidsky hbití.

Důležitá schopnost nebude jen umět přesvědčit umělou inteligenci, aby dělala, co chcete. Ještě důležitější bude schopnost nenechat se přesvědčit umělou inteligencí. Zatím to vypadá jednoduše. Ale přesvědčovací schopnosti AI se každý měsíc lepší. Jeden kámen denně asi na radu chatbota nespolknete. Ale jste si jistí, že dokážete odolat rozumněji znějícím návrhům?

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.