Expert odhadl riziko AI: 10 až 30 %, že zanikne skoro celé lidstvo

Rozhovor si také můžete poslechnout v audioverzi.

Donald Trump je novým americkým prezidentem a tamním technologickým firmám se otevírají absolutně nové možnosti. „Co se změní, je, že můžeme absolutně přestat počítat s jakoukoliv federální regulací ve Spojených státech. Pro spoustu firem to tak přináší řadu dalších nevídaných příležitostí,“ říká v pořadu Inside Talks Jan Romportl. Varuje ale, že pro bezpečnost umělé inteligence to nemusí být to nejlepší.

„Hlavním poradcem Trumpa v oblasti umělé inteligence je Shriram Krishnan, a to je člověk od Marca Andreessena z Andreessen Horowitz, který je extrémně známý svým brutálním akceleračním přístupem k AI a zároveň shazováním, nebo přílišným zplošťováním potenciálních rizik,“ říká Romportl s tím, že do diskuzí o umělé inteligenci zasáhne také Elon Musk.

Sám upozorňuje, že AI je z hlediska možností i rizik na úrovni biotechnologií a jaderných technologií. „Když se bavíme o biotechnologiích, nikdo by asi nechtěl slyšet o tom, že to vůbec neregulujeme a můžeme si dělat, co chceme, stejně jako u jaderných technologií,“ říká Romportl s tím, že u umělé inteligence má většina lidí tendenci podceňovat rizika a potenciál toho, jak může být nebezpečná, protože si to neumí představit.

Právě u AI je přitom dle něj nebezpečí úplně stejné. „Myslím si ale, že lidé jako Andreessen a Musk a jejich schopnost vstupovat do rizika je jiná. Jestliže tady máme nižší desítky procent, že to dopadne extrémně špatně, a zbytek je, že to dopadne dobře, tak oni do toho jdou. Je to za ně v pořádku.“

„Jestliže je tady třeba 10 procent riziko, že hazardujeme s budoucností lidstva, myslím si, že pro tyto lidi je to úplně v pořádku. My bychom si řekli, že už desetiprocentní šance existenční katastrofy je pro lidstvo docela dost a šli bychom do toho opatrněji. Ale to je i důvod proč oni jsou tam, kde jsou, a my tady. Myslím si, že lidé by se měli nějakým způsobem smiřovat s tím, že do toho jdeme takto po hlavě. Je velká šance, že to dopadne dobře, a taky velká, že to nedopadne,“ dodává Romportl.

Případná rizika by se dle něj projevila do deseti let. „Odhady na oblast existenčních rizik kalkulují 10-30 procent existenčního rizika – tedy zánik 95 procent lidí na zemi v horizontu 25 let,“ dodává Romportl.

Aktuálně je pro Ameriku klíčové, aby vyhrála závod v tom, který stát bude mít ten nejvyšší stupeň AI jako první.

„Všichni mají v nějaké podobě zájem dosáhnout obecné umělé inteligence. To je teď otevřený cíl. V pondělí se odstartoval velký závod a to, co vidíme, je na stereoidech postavená kopie toho, co se dělo v padesátých letech. S tím, že tady jsou ta rizika daleko hůř uchopitelná, hůř probádaná a ten přínos může být daleko větší než přínos jaderné energie,“ popisuje Romportl stav, kdy v minulosti Spojené státy a Sovětský svaz závodily ve snaze dobít vesmír i zkrotit jadernou energii.

Trump podle něj průmysl podpoří tak, aby USA dosáhly obecné superinteligence dříve než Čína.

Dle Romportla bychom první prototyp obecné umělé inteligence mohli vidět do roku 2027. „Řekl bych, že je padesátiprocentní šance, že to tu do dvou let bude, a od vzniku prototypu by k nějaké superinteligenci mohlo dojít do tří až čtyř let,“ dodává Romportl

Už odcházející americký prezident Joe Biden umělou inteligenci nazval nejdůležitějším vynálezem v dějinách lidstva, a právě za něj i vznikl plán postavit v USA tři velká výpočetní centra a přerozdělit množství čipů, které jsou pro umělou inteligenci klíčové. Na tom se dle Romportla nebude nic měnit.

„To byl pro Česko signál, že spadáme do druhé kategorie spojenců Spojených států a měli bychom zamakat na tom, abychom byli v té první,“ dodává Romportl. A zatímco Spojené státy pod Trumpovým heslem „Amerika na prvním místě“ posílí svou dominanci na poli technologií, Evropa ztrácí.