Článek
Komentář si také můžete poslechnout v podání autora.
Moje oblíbená umělecká instalace je přes dvacet let stará. Její autor Marco Evaristti ji pojmenoval Helena a představil publiku v květnu 2000 v uměleckém muzeu v dánském Koldingu. Tvořilo ji deset kuchyňských mixerů značky Moulinex. Všechny byly funkční a zapojené do sítě. V každém z nich byla voda a jedna akvarijní rybička.
Exponátu dominovalo jasně viditelné upozornění, že vystavených předmětů je dovoleno se dotýkat. Záměr umělce byl každému zřejmý. Jakkoli to nikde explicitně nestálo, šlo o to, zda se najde někdo, kdo jeden z mixerů zapne. Byť bylo každému jasné, co se stane. Rybičku mixer rozseká na kousky. Zemře živý tvor a na obsah průhledné nádoby nebude hezký pohled.
Jak myslíte, že to dopadlo? Trvalo to přesně hodinu od začátku vernisáže, než někdo knoflík zmáčkl. Do muzea dorazila dánská policie a zatkla ředitele pro podezření z trestného činu týrání zvířat. Vyslechla i Evaristtiho, který vypověděl, že nikoho k zabití rybičky nevybízel. Pouze dal návštěvníkům vernisáže tu možnost. Bylo na nich, jak se rozhodnou.
Z nějakého důvodu jsem si na tenhle malý umělecký skandál, motivovaný samozřejmě chladnokrevně sebepropagací, vzpomněl právě teď, když čteme o výzvě špiček IT byznysu jako Steve Wozniak a Elon Musk, vědců a expertů v oboru umělé inteligence, kteří požadují, aby velké firmy „zabrzdily“ vývoj v tomto oboru. Minimálně na 6 měsíců, které věnujeme tomu, aby lidstvo vyhodnotilo rizika a případně navrhlo, jak se jim vyhnout a další kroky regulovat.
Zní to rozumně, vždyť za posledních několik měsíců je vývoj mimořádně překotný a nepřehledný. Řeč je samozřejmě o jazykových modelech, zejména poslední verzi GPT4, které vykazují velmi pokročilou schopnost používat jazyk podobně jako lidi, prakticky k nerozeznání od nich. Vědci se neshodují na tom, zda se dá tvrdit, že jde o autentické myšlení a inteligenci, ale to je z praktického hlediska vlastně jedno. Už to, že se na tom nemůžou shodnout, je svým způsobem varující.
Takže ano, šestiměsíční „timeout“ by byl vhodný. Asi jako je na místě, když si oddechový čas vyžádá v basketbalu trenér mužstva v momentu, kdy jeden z týmů začne válcovat ten druhý a jediná možnost, jak zabránit zdrcujícímu zvratu v utkání, je zápas na chvíli přerušit. Jako lidstvo ho potřebujeme třeba jen proto, abychom zjistili, jestli v oboru umělé inteligence jsme tím týmem, který vyhrává, anebo naopak prohrává.
Ve výzvě se píše: „Máme nechat stroje zaplavit naše informační kanály propagandou a nepravdami? Máme automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Máme vyvinout umělé mozky, které nás mohou předčit, intelektuálně překonat, učinit druhořadnými a nakonec nahradit? Máme riskovat ztrátu kontroly nad naší civilizací?“
Nemáme, zní na všechny takto položené otázky jasná odpověď.
Ale zároveň si myslím, že petice vyjde naprázdno a že je to tak konec konců správně. Tím prvním důvodem je, že i kdyby vědci na šest měsíců zastavili vývoj, dá se účinně pochybovat, že politici v této době vymyslí něco moudrého, a ještě se na tom shodnou. Podívejme se na východ od nás: od hanebné invaze na Ukrajinu uplynul víc než rok a řešení se nezdá ani o kousek blíž.
Plus je tu ta věc, že jedinou civilizací na Zemi není ta naše, tzv. západní. A zároveň už přestalo platit, že ve vědeckém i technologickém pokroku je pouze ta naše relevantní a dominantní. Čína i další země se nám už prakticky vyrovnají. A můžeme čekat, že přistoupí na půlroční oddechový čas, v jakémkoli oboru, který je Západu přiblíží i ekonomicky? Samozřejmě ne.
A konečně: v dlouhé historii lidského poznání není precedens, že bychom učinili nějaký objev, otvírající novou, dosud neprozkoumanou a potenciálně i nebezpečnou budoucnost, a dobrovolně se rozhodli do těchto dveří nevstoupit. Proto jsme lidé, že právě tohle nedokážeme.
Čímž jsem zpátky u akvarijních rybiček uměleckého exhibicionisty a provokatéra Evaristtiho. Ukázal názorně jediné: že když je něco možné udělat, tak se vždycky najde někdo, kdo to udělá. Vždycky.
Mimochodem, a jak to tehdy dopadlo?
Muzeum i Evaristti byli zproštěni všech obvinění. Zůstal jen skandál, o kterém se mluvilo. A vyšetřování odhalilo jeden zdánlivě drobný detail, který ovšem nebetyčně přesvědčivě rovněž vypovídá o lidském chování. Dotyčného člověka, který mixér na vernisáži nakonec zapnul, k tomu vyprovokovali přítomní novináři. Hodilo se jim to do jejich článků.
