TechMIX: Nikdo nechce být příští Oppenheimer

Zprávou týdne byl pro mnohé odchod Geoffreyho Hintona z firmy Google. Hinton je britsko-kanadský vědec kombinující kognitivní psychologii a informatiku. V oblasti výzkumu a vývoje umělé inteligence jde o legendu, protože o neuronových sítích píše odborné články už od 80. let. Stál u zrodu neuronových sítí, které jsou schopné se „samy učit“ (unsupervised learning). Je držitelem celé řady prestižních ocenění, třeba Turingovy ceny v roce 2018, která mu vynesla i přezdívku „kmotr umělé inteligence“.

Posledních 10 let působil ve společnosti Google, konkrétně v divizi Google Brain, která se specializuje na umělou inteligenci (a která se nedávno sloučila s britskou společností DeepMind). Legendární vědec ve svých 75 letech Google opustil podle svých slov proto, aby mohl „naplno varovat před riziky spojenými s AI“.

Uvedl, že důvodem pro odchod není, že by společnost Google dělala v oblasti AI něco špatně: „New York Times naznačují, že jsem odešel ze společnosti Google, abych ji mohl kritizovat. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na Google,“ popsal Hinton na twitteru. „Společnost Google se zatím chovala velmi zodpovědně.“

Prý si trochu vyčítá, že svými objevy pomohl přispět k rizikům, která jsou s AI spojená: „Utěšuji se tím, že kdybych to neobjevil já, objevil by to někdo jiný,“ uvedl ve zmíněném rozhovoru.

Jeho varování je především v obecné rovině: „Je těžké si představit způsob, jakým by šlo zabránit lidem se zlými úmysly, aby AI zneužili ke zlým činům.“ Jeho prvotní obavou je, že internet bude zaplaven manipulativními texty, falešnými fotografiemi a zavádějícími videi, a lidé v takovém prostředí nedokážou poznat, co je pravda a co ne. Bojí se také dopadů na pracovní trh: „Umělá inteligence nás zbaví nudných činností. Ale může nám toho vzít mnohem více.“

Dříve Hinton rád parafrázoval známou větu Roberta Oppenheimera, který vedl americký vývoj atomové bomby: „Když vidíte něco, co je po technické stránce fascinující, pustíte se do toho.“ Už si to prý nemyslí.

„Nepřipojil jsem svůj podpis pod petici, která vyzývá k zastavení výzkumu pokročilých modelů,“ vysvětluje Hinton v rozhovoru pro CNN. Domnívá se totiž, že zastavení vývoje by bylo těžko kontrolovatelné a nahrálo by zemím jako Čína.

Jeho hlavní obavou je, že strojová inteligence by mohla dosáhnout úrovně, která tu lidskou mnohonásobně převyšuje. „Dříve něčemu takovému věřilo jen pár lidí. Já sám jsem si myslel, že něco takového nás nepotká ještě třicet nebo padesát let, nebo ještě déle. Teď jsem ale pochopitelně změnil názor,“ svěřil se Hinton.

Jak by ale počítač mohl ublížit lidem? Vždyť by jej stačilo vypnout, ne? „Pokud bude umělá inteligence výrazně chytřejší, než my, bude také velmi dobrá v manipulaci. To se totiž naučila od nás,“ vysvětluje Hinton naléhavě. „Máme jen velmi málo příkladů toho, kdy méně inteligentní věci umí ovládnout a mít pod kontrolou mnohem inteligentnější entitu.“

„Není mi jasné, zda vůbec řešení tohoto problému existuje,“ pronesl Hinton. „Ale myslím si, že bychom se opravdu měli snažit řešení najít. Chci, aby lidé věděli, že to je opravdu závažný problém.“

Hinton není jediný, kdo mluví o nebezpečí „superinteligentní AI“ nebo „bodu zlomu“. Také šéf OpenAI Sam Altman přirovnal vývoj umělou inteligence k vývoji atomové bomby. Elon Musk v rozhovoru pro Fox News popsal, že „zvědavá AI nebude mít potřebu zabít lidi, protože je bude chtít studovat“.

A informatik Eliezer Yudkowsky si v podcastu s Lexem Fridmanem nebere servítky: „Není jednoduché lidem popsat, jaké to je, žít vedle někoho, kdo je mnohem inteligentnější, než vy. Lidé si začnou představovat nějakého geniálního hráče šachu, který vychodil dvě univerzity. To ale nevyjadřuje to podstatné.“

Představte si spíš, že máte šimpanze a člověka, radí Yudkowsky. „A ta superchytrá entita bude o tolik chytřejší, než člověk, o kolik je člověk chytřejší, než šimpanz. Ale lidé si to nedokážou představit. Jak vůbec začít?“

Stejně jako svému pejskovi nedokážete vysvětlit, jak funguje výtah (i kdybyste se opravdu snažili), ani pokročilá umělá inteligence nedokáže lidem vysvětlit, jak dojde ke svým závěrům (i kdyby to nakrásně vysvětlit chtěla). Jistě, dokáže to zjednodušit, ale bude takové zjednodušení rozeznatelné od manipulace, ptá se Yudkowsky?

Přirovnání ke zvířecí inteligenci mne ale zavedlo jiným směrem, než si asi Yudkowsky, známý svými dystopickými varováními, představoval. Zamyslel jsem se, jestli znám nějaký příklad té Hintonem zmíněné situace, kdy méně inteligentní bytost ovládá bytost inteligenější. A znám. Vy určitě nejspíše také.

Prvním typem takové koexistence je parazit. Určitě se shodneme na tom, že bakterie, viry nebo paraziti typu toxoplasma jsou bytosti méně inteligentní než lidé. Nicméně stále tu jsou s námi a stále naše životy ovlivňují. Možná budeme méně inteligentní než AI, ale to neznamená, že na jejích schopnostech nemůžeme parazitovat.

Pokud se vám toto přirovnání nelíbí, nabízí se jiné: Každý, kdo někdy sdílel domácnost s kočkou, vám nejspíše potvrdí, že kočka to má docela dobře zařízené. Většinu dne prospí, pak si řekne o pohlazení, občas jde ven na lov, i když ví, že doma má na zamňoukání okamžitě dostatek jídla… Není to špatný život, co říkáte?

A že je její majitel „inteligentnější“ a rozumí světu stokrát lépe než kočka? Často si říkám, že to asi pro kočku nepředstavuje problém. Takže myslím, že až tu bude superinteligentní AI, existují rozhodně horší pozice než stát se opečovávaným domácím mazlíčkem. Asi jdu začít studovat, jak toho kočky a psi dosáhli, že s námi žijí v jedné domácnosti. Třeba se od nich můžeme něco naučit…

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.