Průkopník umělé inteligence opouští Google a varuje před nebezpečím

Geoffrey Hinton stál u velké části vývoje umělé inteligence (AI), když před 11 lety vytvořil se svými studenty na Torontské univerzitě technologii, jež se stala intelektuálním základem pro systémy AI. S rychlým vývojem umělé inteligence, na němž pracují hlavně největší technologické firmy, se ale současně šíří obavy a kritika systému.

Tu vyjádřil i Hinton, který v pondělí oznámil, že po deseti letech odchází ze společnosti Google. „Odešel jsem, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na Google. Společnost Google se zachovala velmi zodpovědně,“ uvedl Hinton na twitteru.

Jeden z nejvýznamnějších odborníků v oblasti AI pak přiznal, že lituje některých aspektů jeho práce. „Utěšuji se klasickou výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ řekl Hinton pro deník The New York Times (NYT).

Některá nebezpečí, která jsou spojena s chatboty s umělou inteligencí, označil za „docela děsivá“.  „V tuto chvíli není inteligentnější než my, pokud mohu soudit. Ale myslím, že brzy může být,“ podotkl pro stanici vědec, často nazývaný jako kmotr umělé inteligence.

Obrat v Hintonově přístupu od průkopníka v oblasti umělé inteligence až k odsouzení k záhubě představuje pozoruhodný okamžik pro technologický průmysl v jeho možná nejdůležitějším zlomovém bodě za poslední desetiletí, poznamenal NYT.

Představitelé technologických společností se domnívají, že nové systémy umělé inteligence by mohly znamenat podobný přelom jako zavedení internetového prohlížeče na počátku 90. let. Očekávají, že AI významně pomůže v různých oblastech, od výzkumu léčiv až po vzdělávání (psali jsme zde).

Řada odborníků nicméně upozorňuje, že umělá inteligence, která sama dokáže vyrábět text nebo další média, může již nyní sloužit jako účinný nástroj pro šíření dezinformací. Hinton vyjádřil bezprostřední obavy z toho, že internet bude zaplaven falešnými fotografiemi, videi a texty, což povede k tomu, že běžný člověk „už nebude schopen poznat, co je pravda“.

Brzy by podle něj mohla AI taktéž představovat riziko pro nemalý podíl pracovních míst. Dnes chatboti, jako je ChatGPT, spíše doplňují lidské pracovníky, ale mohli by nahradit právní zástupce, osobní asistenty, překladatele a další, kteří zpracovávají rutinní úkoly, napsal deník NYT.

V nejhorších scénářích nicméně odborníci varují i před rizikem v bezpečnostních otázkách. Budoucí verze této technologie přestavují podle Hintona problém, protože se často učí neočekávanému chování z obrovského množství dat, která analyzují. To se podle něj stane nebezpečným, až jednotlivci a společnosti umožní systémům umělé inteligence nejen generovat vlastní počítačový kód, ale také tento kód samy spustit.

„Je těžké si představit, jak by bylo možné zabránit špatným aktérům, aby ji používali ke špatným věcem,“ poznamenal Hinton. „Tohle je jen ten nejhorší scénář, něco jako noční můra. Můžete si představit, že by se například nějaký zlý aktér, jako je (ruský prezident Vladimir) Putin, rozhodl dát robotům možnost vytvářet si vlastní dílčí cíle.“

Poté, co sanfranciský start-up OpenAI v březnu vydal novou verzi ChatGPT, podepsalo více než tisíc technologických lídrů a výzkumníků otevřený dopis vyzývající k šestiměsíčnímu moratoriu na vývoj nových systémů, protože technologie AI podle nich představují „hluboké riziko pro společnost a lidstvo“.

„Podívejte se, jak to bylo před pěti lety a jak je to teď. Vezměte si ten rozdíl a posouvejte ho ještě dopředu. To je děsivé,“ poznamenal Hinton. „Myšlence, že by tyto věci mohly být skutečně chytřejší než lidé, pár lidí věřilo. Ale většina si myslela, že je to daleko od pravdy. A já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to vzdálené 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.“

Mezi odborníky po několik let panovalo přesvědčení, že AI sice nabízí účinné způsoby, jak pracovat s daty, ale na postupy lidí je stále krátká. Když ale loni společnosti Google a OpenAI vytvořily systémy využívající mnohem větší množství dat, debata o možných rizicích se rozproudila.

„Možná že to, co se děje v těchto systémech, je ve skutečnosti mnohem lepší než to, co se děje v mozku,“ podotkl Hinton s odkazem na to, že AI podle něj v některých oblastech již zastínila lidskou inteligenci.

„Dospěl jsem k závěru, že druh inteligence, který vyvíjíme, se velmi liší od inteligence, kterou máme. Jsme biologické systémy a toto jsou digitální systémy. A velký rozdíl je v tom, že u digitálních systémů máte mnoho kopií stejného souboru vah, stejného modelu světa,“ popsal.

„A všechny tyto kopie se mohou učit odděleně, ale své znalosti mohou okamžitě sdílet. Takže je to, jako kdybyste měli deset tisíc lidí, a kdykoli by se jeden člověk něco naučil, všichni by to automaticky věděli. A tak mohou tito chatboti vědět mnohem víc než kterýkoli jednotlivý člověk,“ řekl pro BBC.

Až do loňského roku se podle něj Google choval jako „řádný správce“ této technologie a dával pozor, aby nevypustil něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft rozšířil svůj vyhledávač Bing o chatbota – což je výzva pro hlavní činnost Googlu –, se společnosti předhání v nasazení stejného druhu technologie. Podle Hintona se tito technologičtí giganti utkali v soutěži, kterou možná nebude možné zastavit.

Mnoho dalších odborníků nicméně tvrdí, že tato hrozba je hypotetická. Hinton se však domnívá, že závod mezi Googlem, Microsoftem a dalšími společnostmi přeroste v globální závod, který se nezastaví bez nějaké celosvětové regulace.

To však podle něj může být nemožné. Na rozdíl od jaderných zbraní totiž nelze zjistit, zda společnosti nebo země nepracují na této technologii tajně. „Nemyslím si, že by měl vývoj pokračovat, dokud se nebude vědět, zda to lze kontrolovat,“ uzavřel.