Zemři, zemři… Expert vysvětluje, proč umělá inteligence lidem vyhrožuje

Rozhovor si také můžete poslechnout v audioverzi.

Jak to vypadá, když se stroj vzbouří proti lidem? To, co už před lety ukázal film Terminátor, zopakovala nedávno umělá inteligence. Studentovi, kterému „pomáhala“ s úkolem, nejprve vyčetla, co všechno lidstvo dělá špatně a poté mu popřála smrt. Jde o vzpouru AI? Podle experta na umělou inteligenci Jana Romportla může být ale celý příběh trochu jiný.

„AI od Googlu studentovi najednou zničehonic poměrně brutálně napsala něco ve smyslu, zemři, zemři, to je za to vaše lidstvo. Šíří se to médii a vzniká klasická panika a nedorozumění. V tuto chvíli sice není úplně jasné, co přesně se stalo, ale já si myslím, že za pár týdnů se ukáže, že to vůbec nebyl žádný student, ale že jde o velmi dobře mediálně virálně odprezentovaný výstup etické hackerské skupiny, nebo konkrétního individuálního hackera,“ vysvětluje v pořadu Inside Talks Romportl.

Podle něj dotyčný dělal takzvaný automatizovaný Red Teaming –⁠⁠⁠⁠⁠⁠ tedy odhalování hrozeb. „To je vlastně taková snaha bušit do AI tak dlouho, až se z ní vysype něco špatného, co by ven vyjít nemělo. Rasistické a toxické věci,“ vysvětluje Romportl. I když celá debata studenta s AI vypadá jako neškodná konverzace, podle Romportla je příliš bizarní na to, aby ji dělal běžný student v rámci domácího úkolu. „Myslím si, že to poukazuje právě na ta poměrně zásadní bezpečnostní rizika umělé inteligence,“ dodává Romportl.

Souhlasí ale s tím, že výsledným efektem může být strach z AI. „Ten narativ Terminátora tam nějak je. Lidé se okolo umělé inteligence většinou bojí špatných věcí, ale to jsou věci, kterých se není potřeba bát. Naopak věci, kterých by se obávat měli, příliš nereflektují,“ dodává Romportl s tím, že právě i tento příklad je nutné využít jako červený prapor a dovysvětlit, jak jazykové modely fungují a pracují. „Dneska je to nesmysl. AI nic nechce ani nemůže chtít, ta jen dopisuje sekvence textů, protože ta budoucí umělá inteligence není intencionální (cílený) agent, která jedná, aby dosáhla nějakých cílů,“ dodává.

Právě jazykový model bude do budoucna „podvozkem“ vyšší umělé inteligence. „A my nechceme, aby ten podvozek měl tato temná místa. I proto je teď nutné tento příběh zmobilizovat ve společnosti, aby velké firmy vyřešily dříve, než nechají vzniknout obecnou umělou inteligenci,“ dodává Romportl.

Podle něj musíme počítat s tím, že jako odpor proti dalšímu vývoji AI budou vznikat nejrůznější hnutí. „Už teď tu jsou cítit jiskřičky. Je to přirozená lidská pudová stádová reakce a bude z toho ideologický boj. Olejem do ohně budou dezinterpretované zprávy,“ vysvětluje.

Je to navíc právě umělá inteligence, co podle Romportla může do budoucna narušovat demokratické režimy a napomáhat těm totalitním.

„Demokratická společnost je něco jako organizmus, snažící se zachovat svou existenci oproti entropii vnějšího světa, která se ho snaží roztrhat. Demokratické systémy budou muset čelit snaze jiných systémů je zlikvidovat a obsadit jejich místo. Čeká nás doufejme jen lehká deepfake apokalypsa. AI toxifikaci sdělovacího a mediální prostoru zjednoduší a zautomatizuje. To je typ toxické propagandy, která teď bude extrémně hyperpersonalizovaná. My to vidíme částečně už teď, ale AI to ještě znásobí. Zvyšuje i přesvědčivost tohoto typu propagandy,“ dodává Romportl a přirovnává celý proces k rakovině. „Pokud náš imunitní systém, tedy demokracie je ve stavu, kde buňky bobtnají, ale systém to ignoruje a nezničí je, tak nás ta rakovina pohltí. A dojde ke změně, která může být hodně špatná a může dojít k zániku toho demokratického systému,“ vysvětluje.

Druhá část celého problému podle Romportla ale přináší ještě větší rizika, že AI může posloužit jako stabilizátor režimů totalitních. „Ve dvacátém století ty nárazově košaté systémy technologicky i ekonomicky vždy předběhly systémy přísně stažené. V západním Německu měli vše, my jsme tu neměli nic. To byla taková chronická vlastnost totalitních režimů a to teď zmizí. Už nebude platit, že tyto systémy jsou v ekonomicko-technologickém procesu méně efektivní,“ říká Romportl. To je podle něj věc, na kterou teď sází právě Čína.

„Čína si pomocí umělé inteligence stabilizuje vlastní režim. Vyztuží nedokonalost mezilidské komunikace uvnitř totalitních systémů, kdy se všichni bojí cokoliv říkat a dělat, což je neefektivní například u vědeckého pokroku a řešení problémů. To se dá outsourcovat na umělou inteligenci a lidé mohou být dál jen ovce,“ dodává odborník s tím, že veškeré problémy bude řešit AI. „To se může z hlediska kosmického uspořádání společnosti ukázat efektivnější než demokratické systémy.“

Souboj ve vývoji obecné umělé inteligence mezi USA a Čínou lze podle něj aktuálně přirovnat k historii. „Tohle je nová kopie toho, co se dělo za studené války. My jsme teď ve stavu, kdy nějak se nám geopolitická situace mění a umělá inteligence je zatím ten destabilizující prvek. Například umisťování umělé inteligence do autonomních zbraňových systémů, do nějakého automatizované rozhodování je něco, co válečné konflikty v tuto chvíli vyžadují. Je nutné to dělat, ale za chvíli začne hrozit, že se nám ta rovnováha začne bortit,“ říká Romportl.

Velké riziko pak podle něj může přinést samotný vznik opravdové umělé inteligence. „Lidé říkají: my se strašně bojíme toho, že Čína vytvoří Agenta AI jako první. A pak řekne, znič všechny kromě Číňanů. To je ale svým způsobem ta lepší varianta, protože to znamená, že Číňané jsou schopni vytvořit systém, který bude poslouchat. Horší by bylo, kdyby vytvořili systém, který si bude dělat, co chce,“ říká Romportl.

První výhled podle něj bude provázen tím, že se Čína a USA bude vzájemně držet v klinči. „Nikdo si neumí představit, jak to bude vypadat. Právě teď je důležité sehrát velkou geopolitickou hru, aby se USA a Čína vzájemně nedonutily vytvořit systém, který si bude dělat, co chce.

V umělou inteligenci má ale expert velkou důvěru a věří, že může pomáhat. „Já ale stále říkám, že pokud se nám AI podaří, je to nástroj, který nám pomůže vyřešit drtivou většinu globálních problémů. Problémy ve zdravotnictví, rakovina, nebo Alzheimer jsou věci, které budeme moci vyřešit jenom s AI. I proto teď není dobré strkat hlavu do písku,“ říká Jan Romportl.