Jen já a roboti. Připravte se na návykovou hru na realitu

Jste rádi, když se vše točí kolem vás? Technologie vám to mohou splnit. Hned několik aktuálních novinek umožní lidem individuální, na míru připravené zážitky. Vypadá to zábavně a návykově. A občas i užitečně.

Začnu tím, co v posledních týdnech koluje po sociálních sítích, aspoň v těch koutech, do kterých mne algoritmy každý den nasměrují. Sleduji hodně účtů zabývajících se generativní umělou inteligencí a tam se to poslední dobou hemží fanoušky podcastu Deep Dive. Moderátoři – muž a žena – tohoto populárního pořadu umí poutavě vyprávět o doslova libovolném tématu.

Jak jste asi uhodli z mé záměrně neurčité formulace, nejde o reálného muže a ženu. Podcastem Deep Dive provádí dvojice virtuálních moderátorů. To by nebylo až tak zajímavé, důležité ale je, jak tyto podcastové epizody vznikají. Nástroj NotebookLM od firmy Google vám je připraví na míru.

Pokud nástroj neznáte, doporučuji vyzkoušet. Nyní je zdarma pro všechny registrované uživatele s účtem Google. A v mnoha ohledech teď jde o tu nejlepší ukázku užitečného zapojení generativní AI, které je zároveň dostatečně ohromující i pro lidi, kteří rychle se vyvíjející nabídku různých AI nástrojů intenzivně sledují.

Do svého „sešitu“ si na NotebookLM můžete nahrát dokumenty (včetně PDF), texty, nově také audio soubory nebo odkazy na YouTube videa (tam to občas z nějakého důvodu drhne). Celkově takto můžete shromáždit až 50 souborů o celkové délce půl milionu slov (nikoli znaků). Hodí se to tedy třeba na poznámky k nějakému projektu nebo při studiu na zkoušku. Pak můžete klást dotazy, říct si o souhrn nebo požádat chatbota o dopsání dalších textů na základě kontextu.

Rozsah nahrané znalostní báze je úctyhodný, ale v tom ten „wow moment“ nespočívá, to umí celkem dobře i chatboti Claude a ChatGPT. Jenže Googlu se podařilo přidat k tomu jednu nenápadnou funkci, která perfektně spojila „staré známé generování“ s inovativní iluzí osobního přístupu: Umí vytvořit již zmíněný podcast na míru.

Tady si můžete poslechnout, jak si moderátoři Deep Dive (v překladu: hluboký vhled, ponoření se do tématu) povídají o dokumentech, které jsem tam nahrál při tvorbě tohoto newsletteru. Konkrétně jsem vložil své poznámky ze sledování Meta Connect, rozhovor s Markem Zuckerbergem a zkušenosti několika novinářů s brýlemi Orion.

Musím říct, že mě opravdu baví poslechnout si „názor“ někoho jiného na informace, které zpracovávám. V tomto případě ten „někdo jiný“ neexistuje, ale to neznamená, že by nemohl přijít se zajímavým postřehem. „Deep Dive je můj nový oblíbený podcast. Čím víc je poslouchám, tím víc mám pocit, že se s těmi moderátory sbližuji,“ poznamenal Andrej Karpathy, spoluzakladatel OpenAI, který je nyní na volné noze. „Je to asi poprvé, co jsem si skutečně zamiloval něco vytvořené umělou inteligencí.“

Na sítích koluje řada vtipných ukázek toho, co moderátoři vymyslí, když jim dáte jen jeden dlouhý dokument plný opakujících se dětinských slov, jak analyzují zatím neveřejnou zprávu Goldman Sachs nebo co se stane, když jim řeknete, že nejsou skuteční (tam si myslím, že budou v nahraném kontextu nějaké další specifické instrukce, které samozřejmě nevidíme).

Pokud umíte anglicky (v jiném jazyce zatím Deep Dive není), doporučuji vyzkoušet. Třeba to pro vás bude užitečné a při poslechu toho, jak někdo analyzuje vaše materiály, se vám odemknou nové perspektivy. I kdyby ne, je to asi docela trefný pohled do nedaleké budoucnosti.

V roce 1998 přišel do kin fantastický film, ve kterém sehrál Jim Carrey možná svou životní roli obyčejného člověka, který zdánlivě žije obyčejný život. Aniž o tom ví, je ale jediný „skutečný“ člověk v celém městě. Všichni ostatní jsou herci a jeho život je předmětem populární reality show, ve které nevědomky hraje hlavní roli.

Podobný koncept se podařilo uskutečnit i mimo stříbrné plátno. V roce 2003 to byla The Joe Schmo Show, později s tímto konceptem flirtovali třeba komik Nathan Fielder nebo iluzionista Derren Brown. Naposledy jsem to viděl v propracované taškařici Jury Duty.

Kouzlo tohoto žánru je samozřejmě v tom, že my víme něco, co hlavní hrdina neví. Můžeme se tedy střídavě zkoušet vžít do režiséra, který musí vše zorganizovat, a ptát se, zda bychom si my sami všimli, že je něco jinak a žijeme v simulaci.

Do této situace se nyní řítíme. Už dlouho píšu o tom, že v době generativní umělé inteligence nemůžeme a priori věřit žádnému typu obsahu. Hlasy lze naklonovat, smysluplný text lze generovat, fotky lze upravit nebo věrohodně napodobit.

Generování falešného obsahu je také rychlejší než tvorba obsahu skutečného. Právě v rychlosti, a tedy ve výsledném množství je hlavní rozdíl. Fotomontáže nás provázejí od začátku fotografie, ale posledních sto let bylo vždycky řádově jednodušší fotku vyfotit než zmanipulovat. Mohli jsme tedy pracovat s hypotézou, že fotky jsou reálné, dokud nemáme důvod myslet si opak. Že texty psali lidé, dokud nemáme důvod podezírat, že ne.

Tento rok se to obrátí. Generování textu je nyní tak dostupné, že čistě statisticky bude brzy většina dostupného textu z generátorů. Ne proto, že by to byl nutně lepší text, ale bude natolik levnější a rychlejší, že se zkrátka „lidský text“ stane málem luxusním zbožím.

Sociální sítě jsou už dlouho zaplavené robotickými zprávami. Možná jste slyšeli o teorii mrtvého internetu, podle které je čím dál více obsahu na sítích tvořeno automatickými boty, kteří se snaží trefit do vkusu dalším botům. Tyto algoritmy se tedy trénují na dalších algoritmech a vznikají šílenější a šílenější obsahy.

Možná je to ale přesně to, co chceme. Nebo co si zasloužíme. Většina lidí už dávno na sociální sítě nepíše své postřehy – postupně jsme se naučili, že to za ty hádky v komentářích zkrátka nestojí. Obsah sociálních sítí je tak čím dál více tvořen profesionálními influencery, úzce zaměřenými bublinami a skupinami, firemními promo materiály, reklamami, fotkami a do toho se sem tam objeví nějaké oznámení o svatbě nebo narození potomka někoho, koho si matně pamatujete ze střední školy.

V takové situaci je robotický obsah div ne osvěžující. Vznikají dokonce projekty, kde máte zaručeno, že na sociální síti žádní lidé nejsou (Deaddit, robotická verze Redditu). Nebo aplikace simulující sociální síť, kde vy jste jediným reálným uživatelem a všechny ostatní příspěvky jsou vygenerované umělou inteligencí.

Pro někoho to může být ideální sociální síť. Hromada interakcí, různé pohledy na věc, a přitom žádné riziko, že si to u někoho rozházíte v reálném životě. Tohle bude velké lákadlo. Past, která čeká na nás na všechny.

Už tak máme přirozenou tendenci poslouchat a vnímat spíše ty názory, se kterými souhlasíme (tzv. potvrzující zkreslení). Sociální sítě jdou této tendenci naproti tím, co nám ukazují a co ne. Ale teprve nyní s nástupem strojově generovaného obsahu budeme moci být zcela izolovaní od ostatních lidí a tvořit si svůj vlastní vesmír, svou vlastní Truman Show.

Do této skládačky dobře zapadá i nedávná konference firmy Meta, která provozuje největší sociální a komunikační sítě Facebook, Instagram a WhatsApp. Celá úvodní přednáška se točila hlavně kolem virtuální reality, rozšířené reality a nových možností umělé inteligence.

Mám pocit, že Mark Zuckerberg se poslední dobou opravdu zlepšil v prezentování. Ještě před pár lety se mu celý internet smál, jak roboticky působí. Na letošní úvodní přednášce byl jako vyměněný. Vypadal uvolněně, vtipkoval o tom, jak těžké je předvádění technologií naživo, ale přitom měl reálných demo ukázek mnohem víc, než si v poslední době troufají velikáni jako Google nebo Apple.

Pochvalu si zaslouží také za to, že – podle mého správně – usoudil, že na první pohled nesmírně zajímavé brýle pro rozšířenou realitu nebude nabízet k prodeji. Meta jich vyrobila jen tisícovku. Vyhnul se tak praktickým problémům, které provázely svého času Google Glass a nově i Apple Vision Pro. Brýle Orion na rozdíl od nich nabízí skutečný průhledový displej (nejen „falešné“ pass-through) a překvapivě nízkou hmotnost.

„Orion měl být produkt dostupný zákazníkům. Ale nejspíš to bude až druhá verze, která se dostane k zákazníkům,“ vysvětlil později Zuckerberg v rozhovoru pro The Verge. Na prototypu si vývojáři v rámci firmy Meta vyzkouší, jaké aplikace budou dávat smysl.

Najednou také zřetelněji vidíme, že vývoj vlastních jazykových a multimodálních AI modelů Llama má pro firmu Meta ohromný význam. Nejde jen o to, že tím Meta snižuje marži konkurenci. Pro firmu, která vydělává na sociálních sítích, je klíčové, aby tam lidé měli obsah. A jak se zdá, čím dál více toho obsahu bude nějak upraveno nebo předžvýkáno právě těmito modely. Něco za vás napíšou, něco vám přeloží do jiného jazyka…

Možná to zvýší počet interakcí mezi lidmi. Tak to alespoň prezentuje Mark Zuckerberg a já mu ten idealismus vlastně i věřím. Jenže si také pamatuji, jaké neplánované dopady měly jeho sociální sítě na lidi, na děti a na společnost obecně.

Ostatně stačilo jen pár dní, aby někdo teoretické obavy přetavil ve skutečnost v podobě brýlí, které vyhledají obličeje cizích lidí, kteří jdou kolem vás, a najdou vám jejich jméno, adresu, telefonní číslo, zaměstnání, věk atd. Tedy sen všech stalkerů a noční můra všech ostatních.

Hranice mezi smysluplným, zbytečným a nebezpečným využitím umělé inteligence bude často tenká. Každý si ji bude muset najít pro sebe. Ale také je důležité, abychom o tom diskutovali na celospolečenské úrovni. Dokud ještě máme jistotu, že diskutujeme se skutečnými lidmi.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.