Pod čarou: Chatboti spisovatele nenahradí. Brání tomu technika i vkus

Když byla na konci roku 2022 veřejnosti zpřístupněna první verze chatbota ChatGPT, okamžitě to vyvolalo vlnu experimentů a spekulací. Jedni se kochali tím, že nový nástroj dokáže psát smysluplné texty, u kterých mnohdy nelze poznat robotický původ, jiní se pustili do tvorby fórků všeho druhu, a mnozí celkem pochopitelně začali skloňovat obavy, že vlna nových AI nástrojů rychle zamete s většinou kreativních profesí založených na psaní textů.

Jak už to bývá u každé nové technologie, i v tomto případě byla řada okamžitých reakcí mírně naivních a skutečné společenské a ekonomické dopady se vyjasnily až v průběhu času. Teď již prvotní AI boom zeslábl. Ukázalo se, že sliby technologických firem o neustálém raketovém růstu schopností AI nebyly úplně reálné, v řadě sektorů se pro AI nástroje stále jen klopotně hledá využití, ale v mnoha jiných oblastech naopak došlo k chytrému nasazení nové technologie a úžasným pokrokům. Nastává tak vhodná doba na trochu zpětného hodnocení a zamyšlení nad nadějemi a obavami okolo robotických básníků a reportérů.

Předem je dobré si vyjasnit pojmy. Výraz AI je již tak široký, že je sám o sobě celkem nicneříkající, protože v sobě zahrnuje nesčetné varianty využití technologií založených na principu strojového učení a umělých neuronových sítí – již léta je ostatně bez většího povyku používáme při internetovém vyhledávání, chytré navigaci v digitálních mapách a ve stovkách dalších případů.

Současná diskuze se ale točí většinou kolem nových textových (obrazové funkce teď nechme stranou) generátorů či chatbotů typu ChatGPT nebo Gemini založených na tzv. velkých jazykových modelech (LLM). Právě ty již záhy po svém představení vyvolaly zmíněnou paniku a debata kolem nich je stále plná nejrůznějších omylů a zkreslení, za které zdaleka nemůže jen neustávající PR ofenziva jejich provozovatelů.

Na otázku, zda chatboti „nahradí“ novináře či spisovatele jde jen těžko odpovědět, protože má řadu různých rovin. V médiích (a ostatně často i v tomto newsletteru) se diskutuje převážně na ekonomické rovině, tedy jestli a kdy profesionální „psavci“ skončí na dlažbě. To je samozřejmě zcela zásadní téma, které ale o samotných schopnostech a limitech nové technologie mnoho nevypovídá.

Ukazuje se, že v řadě oborů typu psaní reklamních textů, e-mailů, webových popisků apod. textové generátory spoustu lidí skutečně připravily o práci a dokážou je slušně zastat, ale v mnoha jiných případech ziskuchtivý firemní management zkouší pošetile nahrazovat zaměstnance stroji i v pozicích, kde to zkrátka nefunguje a brzy na to doplatí.

Poslechněte si audioverzi newsletteru načtenou autorem.

Pokud protentokrát odhlédneme od ekonomiky a trhu práce, dostaneme se do více abstraktní, ale neméně zajímavé debaty. Na této rovině je totiž odpověď na výše uvedenou otázku – tedy zda chatbot dokáže při psaní smysluplné novinařiny či literatury plně nahradit lidského autora – zcela opačná. Navzdory proklamacím AI evangelistů to neumí a nejspíš ani nikdy umět nebude, a to ze dvou základních důvodů. V první řadě to neumožňují technické principy fungování LLM a na nich založených textových generátorů, a neméně důležitá je skutečnost, že tomu brání i společenská a kulturní funkce textové a obecně jazykové komunikace všeho druhu.

Je pozoruhodné, jak i téměř dva roky po uvedení ChatGPT velká část veřejnosti stále příliš dobře nechápe, jak tyto nástroje fungují. Do značné míry za to mohou proklamace OpenAI a dalších firem, které se pochopitelně snaží své produkty prodat a značně tak nafukují jejich skutečný potenciál. Debaty o tom, zda superinteligentní AI již brzy zničí svět, jsou tak převážně vychytralý PR trik, a ničemu nepomáhá ani výrazivo, které jsme si v souvislosti s AI zvykli používat – slova jako inteligence, halucinace a další humanizující metafory jen posilují dojem, že jde o myslícího androida, což zkrátka není pravda.

Mnohem přesnější jsou výrazy, které používají zejména kritici současného AI průmyslu. Chatboty často označují za mimořádně dobrou funkci prediktivního textu důvěrně známou z každého vyhledávacího či psacího okna v chytrém telefonu, a okřídleným se stal i výraz „stochastický papoušek“.

AI nadšenci se těmto termínům mnohdy brání, ale není k tomu důvod. ChatGPT a další chatboti jsou skutečně jen „autocomplete na steroidech“ a pravděpodobnostní generátory textů bez ponětí o realitě (velmi podrobné a zároveň čtivé vysvětlení najdete třeba zde), což je ale nijak neočerňuje, právě naopak. Neznamená to, že by tyto nástroje byly nějak „hloupější“, a pokud nebudeme zakrývat jejich skutečné principy, můžeme je mnohem lépe využívat i kritizovat.

To, že statistickou podstatu fungování chatbotů nechápe široká veřejnost, je ještě pochopitelné. O poznání smutnější je ale fakt, že nadšení a bludům okolo „inteligentní“ novinky podléhá i řada novinářů, popularizátorů a odborníků, kteří zapomínají, že až o takovou novinku nejde.

Je zajímavé, že základní principy LLM a souvisejících technologií známe již přes 80 let. Za pozornost v tomto směru stojí loňská esej Richarda Gibsona, který popisuje, jak již na začátku 40. let minulého století američtí matematici Claude Shannon a Warren Weaver popsali statistickou povahu jazyka. Zjistili, že jednotlivá slova, věty i větší jazykové celky mají své vypočitatelné struktury a lze je proto statisticky imitovat – jinými slovy, že i stroj může zdánlivě smysluplně „hovořit“ a psát.

Již tehdy také přišli na to, že lze umělý text generovat jen s relativně malým prvotním datovým vstupem a stroj pak může dál volně „žvanit“ bez lidského řízení. Většina jazykových projevů je totiž dobře předvídatelných a závisí na gramatice a kulturních konvencích – proto také umí ChatGPT tak dobře pokračovat v nahozené větě a uplést z ní třeba celou povídku.

Díky současným výpočetním kapacitám se ukázalo, že tito teoretičtí průkopníci měli naprostou pravdu, ale nelze zapomínat na jejich jiná zjištění. Každý text (a jazyková komunikace obecně) dostává smysl až ve chvíli, kdy ho někdo čte. Jde o komunikaci mezi dvěma či více aktéry, která má nějaký smysl, význam a záměr, ale nic takového samozřejmě chatbot nebere v potaz – generuje pravděpodobně znějící text a neřeší (ani nemůže), komu to říká a jak bude výsledné sdělení vyloženo čtenářem.

Gibson ve své eseji podotýká, že ke stejným závěrům došel o pár dekád později i italský spisovatel Italo Calvino. Ten seznal, že literatura je do velké míry jen umění statistické kombinace, ale to, co jí dává smysl a význam, je až její čtení, a tedy komunikace autora se čtenářem.

Chatbot ovšem o čtenáři nemá ponětí a prostřednictvím statisticky nejpravděpodobnějšího textu také předvídá statisticky nejpravděpodobnější způsob a záměr čtení – v praxi se s tím setkáváme třeba u internetových vyhledávačů, jejichž algoritmy se čím dál tím víc snaží předvídat nejpravděpodobnější smysl naší otázky a nabízejí nám pak často nejobvyklejší, ale bohužel i často nevyžádané či mylné odpovědi a zdroje.

Na první pohled by se mohlo zdát, že pokud je psaní eseje či románu otázka mechanického skládání slov, vět a různých struktur za sebe, může to dostatečně výkonná statistická mašina zvládnout stejně dobře jako člověk.

Čím dál lepší výkony současných chatbotů by tomu mohly rovněž napovídat – designér Matt Webb na svém blogu nedávno zajímavě popsal, jak AI systémy pomalu docházejí ke schopnosti analyzovat skryté struktury dlouhých textů. „Vidí“, jak jsou v nich umístěna a řešena různá témata a mimo jiné tak chatboti časem mohou fungovat jako celkem obstojní editoři (i dnes už ostatně mezi nejčastější způsoby využití ChatGPT patří korektury a stylistické „čištění“ e-mailů a dalších jednodušších textů).

Pořád to však neznamená, že by psaní bylo pouze oním uměním mechanické kombinace. Na úrovni beletristické tvorby to skvěle vysvětluje Laura Hartenberger, vyučující literatury na Kalifornské univerzitě. Literatura je skutečně „jen“ uměním kombinace slov a vět a platí to i pro slavné literární experimentátory a experimentátorky posouvající hranice svého umění. Háček je v tom, že ony struktury a kusy textu za sebe neskládají na základě pravděpodobnostního výpočtu, ale s jasným (a ideálně i nevšedním a kreativním) záměrem. Snaží se totiž něco sdělit, a zároveň alespoň do určité míry nasměrovat čtenáře k určitému módu čtení a interpretace.

Chatbot sice tento princip dokáže imitovat, jenže imitace není totéž, co opravdová věc, a proto texty z produkce ChatGPT většinou působí tak ploše a banálně – taková je statisticky nejpravděpodobnější jazyková struktura. AI nadšenci by sice mohli namítnout, že to lze napravit chytrými povely čili prompty, ale Hartenberger upozorňuje, že i to je jen iluze – ChatGPT zkrátka mluví oním strohým banálním stylem, pokud nedostane jiný povel, a čím víc specifických promptů pak zadáváme, tím hůř na tom jsme, protože stroj stále nedokáže přesně pochopit, co a jak chceme sdělit, jen to odhaduje.

Můžeme sice požádat, ať „píše jako Hemingway“ a chatbot dokáže skutečně bravurně napodobit individuální spisovatelský styl, který ale pořád působí jako parodie. Svůj individuální hlas totiž (dobří) spisovatelé nevolí náhodou, ale chtějí tak přenést jisté sdělení, pocit a význam, a o tom chatbot z logiky svého fungování opět nemá ani ponětí.

Tento problém zůstává stejný, i když se přeneseme z vod „vysoké“ literatury na rovinu přízemnější žurnalistiky. Sám jsem si vědom toho, že ve svých textech (a se mnou i většina mých kolegů) jen za sebe mechanicky skládám trapně omezené množství frází a větných struktur a o bůhvíjak kreativní práci s jazykem se opravdu nejedná. Podstatné je ovšem to, že tyto (byť banální) prvky za sebe stále skládám s jistým záměrem tak, abych čtenáři co nejlépe sdělil, co mám na srdci, a dotlačil jej k žádoucímu způsobu čtení.

Každý novinář i jiný profesionální tvůrce textů zároveň dobře ví, že lze psát i opravdu zcela roboticky a naprosto stejně, jako to dělá ChatGPT. Pokud mi zadáte, abych napsal komentář o daňových reformách v Tádžikistánu, vím sice o daném tématu kulové, ale i bez googlení nejspíš dokážu vyplivnout kus nudného textu plného pravděpodobně znějících banalit, kterému by se odborníci vysmáli a čtenář se z něj naprosto nic nedozví, ale i tak by v něm nebyly do očí bijící nepravdy a dal by se publikovat bez větší ostudy.

Takový styl psaní je samozřejmě nejen z hlediska novinářské etiky dost nanic. Od strojového výstupu není rozlišitelný a paradoxně tak ukazuje, v čem je velká síla chatbotů i přesto, že neumí psát doopravdy jako lidé.

Když jsem poprvé vyzkoušel ChatGPT, okamžitě mě napadlo, že jeho výstupy vypadají jako špatná studentská seminární práce. Od té doby se na povaze chatbotího psaní mnoho nezměnilo, a není to náhoda. Jedním z dalších nejčastějších způsobů využití ChatGPT je právě pomoc líným studentům, kteří se čtením a psaním nechtějí moc obtěžovat.

Při psaní seminárky pro mírně vyhořelého učitele, který odevzdaným úkolům nevěnuje pozornost a jen studentům odškrtává podmínky zápočtu, je zapotřebí jen vytvořit zadané množství textu, který není na první pohled nesmyslný, a máme hotovo. Jsou to sice jen prázdné bláboly plné frází a omylů, které nikdy nikdo nebude číst a při jejich psaní se nic nenaučíme, ale pro daný cíl – tedy ono odevzdání úkolu – je zcela dostačující.

Nelze se divit, že právě pro tyto účely se chatboti skvěle hodí, a není na tom nic špatného. Denně vzniká spousta textů, které někdo píše jen proto, aby existovaly, a nepředpokládá se, že by měly obsahovat nějaké důležité informace nebo je někdo doopravdy četl – typicky jde o různé firemní svodky, výkazy, formální e-maily a jinou korporátní drť všeho druhu. Blogerka Eleanor Stern nedávno vtipně podotkla, že lidé tvořící tyto texty byli již před nástupem ChatGPT jakýmisi lidskými chatboty, a rozvrat jejich profese je sice krátkodobě tíživou, ale v důsledku nejspíš docela pozitivní věcí.

V této chvíli je potřeba odhlédnout od technických detailů fungování chatbotů a vrátit se do společnosti a mezi lidi, tedy k tomu, proč texty vlastně vznikají. Záplava automaticky generovaných seminárek a nevyžádaných firemních analýz totiž skvěle podtrhává, že ChatGPT a další podobné nástroje nemohou lidské spisovatele či reportéry plnohodnotně nahradit už jen kvůli společenské a kulturní funkci, kterou knihy, články a další texty mají.

S výjimkou zmiňovaného slovního braku je totiž většina textů naštěstí skutečně určena ke čtení, a právě v komunikaci se čtenářem nelze roli lidského autora nahradit. Strojově vytvořený text nemá sám o sobě žádný cíl a nesnaží se nic sdělit, a proto také v reálné mezilidské komunikaci funguje dost mizerně. Jistě by šlo namítnout, že i on má svého lidského autora, tedy uživatele ChatGPT zadávajícího prompty, jenže takto psaní a komunikace textem nefunguje.

Jednou z hlavních potíží debaty okolo chatbotů a „nahrazování“ lidských psavců je fakt, že se jí z velké části účastní lidé, kteří příliš číst a psát neumí. Nejspíš to zní dost arogantně, a proto ještě radši přidám bližší vysvětlení – jen málokdo se profesionálně věnuje čtení a psaní, a tyto dvě schopnosti také ne vždy jdou ruku v ruce (akademici typicky selhávají v té druhé a novináři zase v první jmenované). Není na tom vůbec nic špatného, protože jde zkrátka o řemeslo, kterému se věnuje jen malé množství lidí a nemusí ho umět každý, ale výslednou diskuzi to pak dost pokřivuje.

Ono mechanické naklepání textu na klávesnici je pro profesionála celkem malá část celkové práce, která spočívá hlavně v předcházejících rešerších, čtení a rozmýšlení toho, co se vlastně snažíme říct. Psaní je ale zároveň i myšlenkovým procesem, v jehož rámci se tříbí význam a sdělení výsledného textu, a od spisovatelského či novinářského řemesla jej nejde odmyslet.

Sítě jsou v poslední době plné proklamací od lidí nejen z IT sektoru, kteří tvrdí, že teď již přece stačí mít onu kreativní myšlenku, ChatGPT ji pak hodí na papír za vás a skvělým psavcem se najednou může stát každý. U člověka, pro kterého je psaní utrpením, je takový názor celkem pochopitelný, ale v praxi to nefunguje a nejde to obejít ani sebelepšími triky s promptováním.

Laura Hartenberger to ilustruje příměrem, že používání ChatGPT připomíná práci s poněkud natvrdlým asistentem. Musíme mu vždy zadat pokyn, on vyplivne nevalný výsledek, pak mu vydáme upřesňující pokyn, pak to po něm musíme z poloviny přepsat atd. Pro nepsavce je to pořád lepší varianta než se něco pokoušet sepsat sám, ale pro profesionála je to zoufale pomalý a nesmyslný pracovní postup – mimo jiné i proto, že při manuálním psaní můžeme přemýšlet a psát zároveň a nikoliv tyto dvě fáze střídat jako v krkolomné debatě s chatbotem, což samozřejmě radikálně zlepšuje kvalitu a smysluplnost výsledného textu.

Tím nejdůležitějším důvodem, proč nemá smysl očekávat úplné nahrazení lidských autorů chatboty, je právě samotné autorství. Na twitteru to kdosi nedávno vystihl banálním, ale trefným postřehem, že román z produkce ChatGPT zkrátka nikdo příliš číst nechce – a pokud to snad zatajíme a předstíráme lidské autorství, na podstatě věci to nic nemění a jen nás to posouvá k debatě o právu a etice. I kdybychom nakrásně vyřešili otázku faktografické správnosti a zbavili se „halucinací“, reportáže, eseje či romány stále nabývají smysl jen v situaci, kdy jsou vytvořeny s určitým záměrem lidskými autory a jejich prostřednictvím je vedena komunikace s lidským publikem.

Mohlo by to znít jako naivní humanistický výkřik, ale jde jen o strohý popis reality. Stále více novinářů a odborníků si začíná všímat, že z AI textů, obrázků a dalších materiálů se stalo synonymum levného, nekvalitního a nesmyslného obsahu, o který lidé nemají zájem.

Je pozoruhodné, jak se z opravdu fascinující, v mnohém převratné a futuristické technologie do roka stal symbol podezřelého a nechtěného braku, a lidmi tvořené věci naopak nabývají na exkluzivitě – publicista Brian Merchant před pár dny sepsal zajímavý přehled nejrůznějších startupů, nástrojů a služeb, které v honbě za zákazníky začínají úspěšně používat značku „vytvořeno bez AI“, a lze předpokládat, že tento trend bude jen dál posilovat.

Reportérka webu Vox Rebecca Jennings tento ekonomický rozměr doplňuje postřehem, že kultura vzbuzuje skutečný zájem (a otevírá peněženky) publika jen tehdy, když nese nějaké sdělení a není jen prázdným obsahem (content), jak si to často představují třeba šéfové filmových studií.

Dílo vytvořené strojem má z pohledu konzumenta jen malou nebo žádnou hodnotu a nezdá se, že by se na tomto náhledu a vkusu něco v dohledné době změnilo. Je to ostatně i důvod, proč se navzdory záplavě spekulací dosud masově neujali a nejspíš ani nikdy neujmou virtuální influenceři – na influencerech totiž není lákavá jen jejich krása či vtipná videa, ale především to, že jsou živými lidmi, do jejichž skutečných či nakašírovaných životů můžeme nahlížet.

Jednu vzletnou humanistickou proklamaci si tak přece jen na závěr mohu dovolit. V případech, kdy stačí psát jako robot (a že jich je opravdu hodně), tedy bez smysluplného sdělení, záměru, myšlenky a bez očekávání, že to někdo bude reálně číst, skutečně chatbot člověka nahrazuje bez problémů a není to vůbec žádná škoda, právě naopak. A tam, kde je skutečně potřeba něco hlubšího sdělovat lidskému publiku (a nechávat si za to platit), ať už v románech, analýzách či newsletteru, se otevírá prostor k přemýšlení, co a proč vlastně říkáme, jak si to čtenář může vyložit a jak proto za sebe musíme originálně řadit věty a slova.

Navzdory představám mnoha vizionářů ze Silicon Valley stále žijeme v lidské společnosti a nikoliv v digitálním vzduchoprázdnu. Pravděpodobnostní mašina na rozumně znějící text nejspíš nikdy nezíská unikátní vkus, hlas a čich na zajímavé sdělení, protože to vše statistika rozlousknout nedokáže. I kdyby tomu tak nakrásně bylo, pořád je pro úspěšné přijetí daného textu potřeba také důvěra publika a jiných lidí, a při pohledu na aktuální dění se zdá, že tu si strojové texty budou i v budoucnosti získávat jen stěží.

Pokud se vám ukázka z newsletteru Pod čarou líbila, přihlaste se k odběru. Každou sobotu ho dostanete přímo do vašeho e-mailu, včetně tipů na další zajímavé čtení z českých i zahraničních médií.