Článek
Čtete ukázku z newsletteru TechMIX, ve kterém Pavel Kasík a Matouš Lázňovský každou středu přinášejí hned několik komentářů a postřehů ze světa vědy a nových technologií. Pokud vás TechMIX zaujme, přihlaste se k jeho odběru!
K pokroku docházelo vždycky. A jeho rozložení bylo vždycky nerovnoměrné. Na začátku 20. století vedle sebe existovaly města, která měla letiště, a města, kam se dalo dostat jen na koni.
Myslím, že je nepopiratelné, že tempo pokroku se zrychluje a jeho povaha je mnohem méně „promyšlená“, než si připouštíme. Je výsledkem individuálních lidských (a v poslední době i strojových) rozhodnutí, ale v součtu má povahu nezadržitelného a nekontrolovatelného jevu. Někdo v tom vidí blížící se potopu světa, jiný důležitý déšť, který vyřeší naše problémy.
Nepochopené jazykové modely a AutoGPT
Pravidelní čtenáři vědí, že se vytrvale snažím všechny kolem sebe povzbuzovat k experimentování s novými nástroji generativní umělé inteligence. Na konci února jsem o tom mluvil s Lenkou Kabrhelovou v podastu 5:59 a po necelých dvou měsících jsme si toto pondělí rozhovor na podobné téma zopakovali. Za těch osm týdnů se událo v oblasti AI ohromné množství věcí a stihli jsme tak probrat sotva čtvrtinu toho, co jsem si před rozhovorem vypsal.
Co před dvěma měsíci vypadalo nemožné, to najednou funguje. Nerealistické prsty na generovaných fotkách už najednou nejsou takový problém. A nedávno neznámá schopnost promptování – tedy psaní podrobných instrukcí – se stala žádanou a dobře placenou dovedností. Jenže už teď jsou na obzoru nástroje, které i to promptování do značné míry vyřeší za vás.
Uvědomil jsem si, že samotné povzbuzení k experimentování nestačí. Setkávám se často s tím, že lidé používají nástroje pro generování textu nešikovným způsobem. Nejspíše proto, že většina lidí neví, jak jazykové modely fungují, a tak si to představují trochu jako „chytřejší vyhledávač“. Ve skutečnosti je takové použití často nevhodné: Třeba ChatGPT si pohotově vyhalucinuje jakýkoli text podle potřeby. Výsledek vypadá důvěryhodně, ale nezakládá se na realitě.
Jenže to se může za měsíc nebo dva zase změnit, až se podaří výsledky lépe navázat na externí služby prostřednictvím „agentů“, ať už skrze pluginy do ChatGPT nebo třeba pokusy typu AutoGPT, BabyAGI nebo LangChain. Jazykový model totiž sám o sobě nemá možnost věci ověřit, ale protože umí za sebe skládat slova, může „zaúkolovat“ jiné služby.
Může se tak třeba podívat do Googlu, Wikipedie nebo rejstříku firem, a nalezený text pak použít ve své odpovědi. Můžete si to sami vyzkoušet, jeden z nejsnáze přístupných klonů je Cognosys. Pokročilejší uživatelé si nainstalují vlastní instanci z GitHubu.
Zatím to jsou spíše takové experimenty pro kutily, ale potenciál tam je myslím ohromný. Internet je plný příkladů, jak lidé využívají „agenty“ typu AutoGPT k automatizaci úkolů nebo dokonce k nahrazení sebe sama v práci. Což je věc, která se do nějaké míry dříve či později bude týkat milionů lidí v České republice.
Google proti všem
Právě tímto směrem se nyní ubírají některé vyhledávače: Microsoft zapojil do svého vyhledávače Bing funkci Chat založenou na GPT-4. Pro firmu Google – která je na trhu s vyhledáváním nepřehlédnutelně dominantní – je to ošemetná situace.
I proto Google zatím postupoval velmi opatrně. A když už uvedl svého Barda, zdůraznil, že nejde o vyhledávač, ale o konverzačního pomocníka. Když zapojí nástroje umělé inteligence nevhodným způsobem, může snížit svou důvěryhodnost.
Nové události ale naznačují, že okolnosti donutí vyhledávač Google nějakým způsobem konverzační umělou inteligenci do vyhledávání přidat. První hrozbou může být třeba firma Samsung, která údajně uvažuje o tom, že by na svých telefonech jako výchozí vyhledávač zvolila kvůli konverzacím právě Bing od Microsoftu. Pro Google by to mohlo znamenat ztrátu nějakých tří miliard dolarů ročně.
Google na to hodlá reagovat. Lara Levinová, tisková mluvčí společnosti Google, ve svém prohlášení uvedla: „Jak jsme již řekli dříve, jsme nadšeni, že můžeme do vyhledávání přinést nové funkce poháněné umělou inteligencí, a brzy se s vámi podělíme o další podrobnosti.“ Mohlo by to být už příští měsíc, nabízí se třeba vývojářská konference Google I/O, která se po třech letech on-line přenosů bude opět konat naživo v Mountain View.
Pokud by ale Google dokázal implementovat „vyhledávač založený na konverzaci s umělou inteligencí“ příliš dobře, hrozí, že to ovlivní vydavatele zpráv a provozovatele webů. Ti nyní žijí převážně z reklam zobrazených návštěvníkům webu. Když se ale uživatel dozví odpověď přímo na vyhledávači a nebude muset chodit na jednotlivé weby, kdo bude tvořit obsah?
Myslím si, že tento problém je v současnosti nevyřešený a situace se může ubírat několika směry. Nakonec zřejmě dojde k nějakému kompromisu, který bude zpočátku bolet všechny. Tedy všechny kromě umělé inteligence. Ta bolest nepociťuje. I to bude její velká konkurenční výhoda.
Úkol novináře v době nastupující AI
Můžu samozřejmě sáhodlouze filozofovat o tom, jaké dopady bude mít nástup nové generace umělé inteligence na lidstvo. A také to rád dělám, viz třeba můj rozhovor s Richardem Suttonem, informatikem, který se na vývoji neuronových sítí podílí už přes 40 let. Ale předně si musím ujasnit, jak vnímám úlohu umělé inteligence ve své profesi. Nebo naopak: Jak vnímám svou úlohu – coby novináře píšícího o vědě a technice – v nové éře.
Konkrétně v éře, kdy počítače generují na vyžádání překvapivě smysluplný text. Po dodání podkladů umí neuronové sítě napsat texty k nerozeznání od těch lidských. Jistě, zatím ChatGPT a jemu podobné nástroje kecají a není radno jim věřit, aniž si to ověříte.
Při pohledu na tyto pokroky se proto neustále vracím k pojmu důvěra, který mi v tomto kontextu přijde klíčový. A tady také vidím úlohu nás novinářů, pro které není novinařina jen zaměstnání, ale především metoda, jak hledat pravdu a pak ji užitečným způsobem šířit dále.
Právě důvěra čtenářů je tím nejcennějším a je to něco, co si jako novináři musíme zasloužit. Každý jednotlivě i jako redakce, která naši práci umožňuje a podporuje. Proto jsem rád, že jsme v redakci Seznam Zprávy nastavili jasná pravidla pro práci s AI nástroji (tzv. AI kodex).
Můžete se tedy například spolehnout na to, že naše texty nejsou „vyhalucinované“ strojovým učením, jako to nedávno dělaly třeba Buzzfeed nebo CNET. Také nebudeme používat AI generátory pro tvorbu „zpravodajských fotografií“. To by totiž podle nás vedlo k podkopání důvěry. Namísto toho budeme AI nástroje používat kriticky a s vědomím jejich možností i jejich omezení.
Navíc – to je přímo můj osobní závazek vám, mým čtenářům – teď myslím novináři mají více než kdy předtím povinnost vysvětlovat, o čem píší, proč o tom píší, z čeho čerpali a jak je to užitečné v kontextu současné společnosti. Protože ta transformace, kterou – především kvůli technologiím – v následujících letech prožijeme, bude srovnatelná s nástupem elektřiny nebo internetu. Jen bude mnohem rychlejší.
V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.
