Článek
Na YouTube jsem sledoval černobílý dobově zrnitý filmový záznam chování pacientů po lobotomii. Nepěkná podívaná. I velmi dlouho po zákroku, při němž jim lékaři špičatým nástrojem pronikali do mozku těsně nad oční bulvou, lidé evidentně nechápali, kde jsou, co se s nimi děje, jaké pokyny jim nemocniční personál udílí. Živí mrtví. Lobotomie býval neurochirurgický zákrok, při kterém jsou duševně nemocným přerušena nervová vlákna spojující mozkový lalok s ostatními částmi mozku. Což má důsledky pozitivní i negativní. Ty druhé, jak se časem ukázalo, zásadně převažovaly, byť byl „vynálezce“ lobotomie vyznamenán Nobelovou cenou. Lobotomie se každopádně v osmdesátých letech po čtyřech dekádách praktikování odporoučela už jen do skript.
Leč k věci. Při sledování onoho znepokojivého snímku jsem si uvědomil, že se občas sám chovám jako pacient po zpackané lobotomii. Prostá lidská účast, soucit, lítost, případně oprávněný hněv nad barbarskou metodou se nedostavovaly. Jediné, co mi vrtalo hlavou (mohu-li to v této souvislosti říci), bylo, zda se jedná o reálný záznam, anebo o podvrh.
Otázka století. Pravda, nebo fake?
Což je, a v dalších mnoha letech a desetiletích bude, nejdůležitější otázka vůbec. A to ve všech ohledech lidského konání. Kdyby lobotomii medicína praktikovala i dnes a my viděli následky, neptali bychom se, zda nejde o surový deep fake? S pomocí vyspělých technologií vytvořený padělek, nerozeznatelný od pravdy?
V poslední době jsme ostatně nucení si tyhle dotazy klást denně. V souvislosti s Putinovou válkou. A také s izraelsko-palestinskou krizí. Tady bych všem čtenářům doporučil věnovat pozornost zdánlivě zbytečným dodatkům, které (nejen) Seznam Zprávy u válečných informací, jež není možné stoprocentně doložit, uvádějí. Totiž že „tvrzení nelze nezávisle ověřit“.
Je to noticka, jež je a bude mnohem důležitější, než se dnes může zdát.
Jak na displeji telefonu nebo monitoru běžného počítače poznáme, že je člověk, jenž s absencí mimiky hovoří o nebývalých úspěších ruské armády, skutečně prezident Vladimir Putin?
Skutečný Second Life
Podobně komplikované je to na Blízkém východě, technologicky zčásti ještě pokročilejším. Aplikace, které dokážou „svléknout“ každou ženu, mají, jak Seznam Zprávy popsaly, devastující potenciál. Riziko roste, jsou-li nástroje umělé inteligence zneužity v o řád nebezpečnějším válečném „zpravodajství“. Což se, nebuďme naivní, bezesporu děje.
Věci kráčí kupředu nevídanou rychlostí. Zatímco před pěti lety si teenageři na selfie fotografiích díky aplikacím virtuálně odstraňovali akné, dnes si mohou – bez přehánění – nasadit jiné tělo i tvář. A nejde o fotky, nýbrž celé videoportréty. Šikovný teenager si dokáže s využitím AI vytvořit skutečný Second Life. Nikoli ten dvacet let starý, z dnešního pohledu upachtěný animák.
Zastávám teorii, že nové technologie vždy nakonec působí ve prospěch člověka. Proč by nám jinak byly svěřovány, ptám se, byť agnostik. U umělé inteligence k tomu ale zřejmě povede velmi dlouhá a patrně též temná cesta.
Deepfake má kořeny v pornu
Za deepfake je obecně považován zmanipulovaný audiovizuální materiál vytvořený s pomocí umělé inteligence, která, „nakrmena“ množstvím vstupních dat v podobě autentických fotografií, videí či hlasových záznamů, dokáže vyprodukovat falešný obsah působící dost realisticky na to, abychom mu byli ochotni uvěřit.
„Deepfake je v zásadě typ dezinformace,“ uvádí Petra Mlejnková z Katedry politologie Fakulty sociálních studií Masarykovy univerzity v Brně, která se dlouhodobě zaobírá dezinformacemi a propagandou.
Myšlenkový převrat, jímž procházíme, povede, abych se oklikou vrátil na úplný začátek, když ne k zániku, pak minimálně k radikální proměně sociálních sítí. Jak budou vypadat, nevím. Lidé ale, myslím, postupně ztratí chuť sledovat informace, jejichž pravdivostí si nemohou být ani za mák jistí.
TikTok jediný pochopil
Jako jediný to zatím pochopil TikTok, který úplně otočil perspektivu i obchodní model. Nesnaží se vyvolávat zdání reality. Většina videí, na nichž platforma stojí, je přiznaně aranžovaná, vytvořená uměle, pro zábavu.
Problém mají sítě, jež se tváří vážně. Chtějí působit jako všelidový sněm. Mluvím hlavně o X (dříve Twitter), platformě, kterou koupil druhý nejbohatší člověk světa Elon Musk. Jak nedávno analyzovaly Seznam Zprávy, muž mimořádně úspěšný, jenž je ale pozoruhodně nekompetentní v mediální oblasti. Včetně té sociálně-mediální. Manicky vykládá o totální svobodě projevu, což zní krásně. Hloupé je, že pro nepřátele demokracie jsou Muskovy kroky požehnáním. Mohou na jeho síti lhát a konspirovat, jak se jim zlíbí, a výstřední génius, který obdivuhodně dokázal přesvědčit planetu o užitečnosti elektromobilů, jim ještě zatleská.
Otázka není zda, ale kdy se sítí průkopníka soukromých letů do vesmíru začnou virálně šířit deep fake videa. Joe Biden v objetí s Kim Čong-unem. Generální tajemník Ústředního výboru Komunistické strany Číny Si Ťin-pching v chapadlech nahých krásek z Tchaj-wanu.
Což jsou, uznávám, přehnané příklady. Pravděpodobně bude docházet k méně idiotským útokům.
Tradiční média se vracejí
Než se nevěrohodnost neredigovaných informací na sítích podaří vyřešit – a je to vůbec možné? –, musí se role globálního moderátora všech myslitelných diskuzí zhostit tradiční média. Čili noviny, dnes povětšinou internetové, se svou mnohdy po desítky let šlechtěnou editoriální politikou. Zpravodajským a publicistickým portálům, pokud chtějí obstát, nezbývá než najmout či si ve svých řadách ponechat kvanta drahých seniorních žurnalistů a analytiků. Lidí schopných rozeznat faleš od pravdy.
Podvrh se Zelenským
V poslední době se asi největší pozornosti dostalo falešnému videu s Volodymyrem Zelenským. Falešný ukrajinský prezident ve videu vyzýval národ ke složení zbraní.
Mediální krajina se nevyhnutelně promění. Nemůže jinak. Zatímco dnes mezi sebou zpravodajské portály soutěží v rychlosti, zanedlouho bude vše jinak. Kdejaká pitomost bude i v zájmu rozličných politických či byznysových klubů na sítích okamžitě. Vyhraje ovšem ten, kdo a na základě jakých důkazů doloží, jestli je informace pravdivá.
Stojíme na prahu doby, kdy se obrací zaběhlé pořádky. Kdy možná poprvé v historii masmédií neuspěje ten, kdo se honí za senzacemi, jichž prudce přibude, nýbrž ten zdrženlivější. Kdy mediální publikum – vyčerpané každodenními dezinformacemi – spontánně zpomalí.
A počká si na pravdu.
