TechMIX: Oblíbíme si umělou inteligenci, když dostane velké tlačítko STOP?

Proud novinek z oblasti umělé inteligence je poslední dobou zahlcující. Občas se proto vyplatí zmáčknout tlačítko STOP. Lépe si pak uvědomíme, k jak podstatné transformaci vlastně dochází.

Dodnes si živě pamatuji, jak jsem jel v roce 2016 na půjčeném kole. Bez přehazovačky. Bylo to v Mountain View, kalifornském městečku nedaleko San Francisca. Šlapal jsem unaveně do kopce, když jsem za sebou uslyšel auto. Nic zvláštního. Ale ve chvíli, kdy mě míjelo, jsem se podíval doleva a málem jsem spadl ze sedla. Auto nemělo volant!

Vzpomínám si na ten podivně rozporuplný pocit. Jako první se myslím vynořil úžas. Věděl jsem samozřejmě jako vědecko-technický novinář, že Google a další výrobci tato auta testují. Jenže vidět jej „naživo v divočině“ je něco jiného, než sledovat sestříhané propagační video.

Spolu s úžasem se ale vynořil i okamžitý – nekontrolovatelný – pocit strachu. Jsme zvyklí na to, že nás předjíždí lidé. Dokonce jsme museli přijmout to, že nás předjíždí lidé, kteří neumí moc dobře řídit. Jenže tady předjížděl stroj. Počítač, který mě vyhodnotil jako překážku a spočítal trajektorii, aby se mi vyhnul.

Přestože jsem racionálně věděl, že je v tom nejspíše spolehlivější než lidský řidič, tep se mi rozhodně zrychlil. Autíčko bezpečně dokončilo předjížděcí manévr, ale já sesedl z kola a musel jsem ten zážitek rozdýchat.

Člověk, který v autě seděl, byl spíše pasažér než řidič. Oficiální název pozice byl tehdy „operátor autonomního vozidla“. Firma Google, která v Mountain View sídlí, tehdy testovala svou první verzi roztomilého plně samořídícího autíčka (dobovou ukázku najdete třeba v reportáži Wired).

Od tohoto zážitku uplynulo skoro sedm let. Tehdy to vypadalo, že už v roce 2022 budeme mít samořídící auta skoro všude po světě. A pokud ne, pak tomu bude bránit především legislativa. Ostatně Elon Musk, šéf automobilky Tesla, nám už skoro deset let slibuje, že „příští rok“ bude autopilot od firmy Tesla schopen zvládnout vše, co jej na silnici potká (více v článku o autopilotovi Tesla).

Autonomní auta ale zatím naše silnice nebrázdí. Po světě funguje několik slibně vypadajících – leč výrazně omezených – taxi služeb, které nabízejí možnost objednat si příjezd auta bez řidiče a odvoz na místo zadané v aplikaci.

Firma Zoox společnosti Amazon provozuje taxislužbu pro své zaměstnance v kalifornském Foster City, General Motors to zkouší v San Franciscu. V Číně spustil lokálně omezený experiment gigant Baidu. Celkově lze ale říct, že autonomní auta zatím nejsou tak autonomní, jak se před pár lety čekalo.

Hlavním problémem je zřejmě rozmanitost podmínek. Řidič (nebo počítač) musí umět reagovat na neočekávané, naprosto okrajové situace. „Nestačí, aby technologie fungovala na 99,99 %. Musí být ještě o tři řády lepší (99,99999 %),“ ukazuje názorně The Guardian. A právě předvídání okrajových případů je složité, protože je málo dat na jejich otestování a vytrénování.

Elon Musk v roce 2022 přiznal, že problém je těžší, než se původně zdálo: „Abychom skutečně vyvinuli samořídící auta, potřebujeme napřed vyvinout umělou inteligenci, která rozumí reálnému světu.“ Jinými slovy, aby autonomní auto bezpečně jezdilo po světě, musí rozumět i tomu, jak se mohou chovat děti, které si hrají na chodníku, nebo co může udělat ovce stojící uprostřed silnice.

Mimochodem, právě Elon Musk čelí obvinění z toho, že nadsazoval a přeháněl schopnosti autopilota Tesla. Pravděpodobně to souvisí i s přiznáním zaměstnance Tesly, že videa, která v roce 2016 ukazovala schopnosti autopilota, byla ve skutečnosti zfalšovaná, respektive naaranžovaná.

To neznamená, že by technologie už nyní nebyly fantasticky spolehlivé. Autonomní auta za sebou mají ohromné množství naježděných kilometrů s jen několika nehodami. Waymo (spadající, stejně jako Google, pod firmu Alphabet) před měsícem oznámil velmi úspěšný první milion mil bez řidiče: „Nebyla hlášena žádná zranění,“ píše zpráva. „A pouze dvě srážky splňovaly kritéria pro zařazení do databáze NHTSA pro dopravní nehody.“ Dalších 18 drobných kolizí bylo tak nepatrných, že ani nesplňují definici dopravní nehody. A polovina všech problémů byla způsobena ve chvíli, kdy auto Waymo stálo (jinými slovy lze předpokládat, že to byla chyba někoho jiného).

„Jaké to je, jet v autě bez řidiče? Byla jsem první člověk v našem týmu, kdo absolvoval automatickou jízdu autem v noci. Trvalo to jen dvě minuty, než jsem úplně zapomněla, že auto nemá lidského řidiče,“ popsala Lety Cavalcante, která ve firmě Waymo řídí jejich experimentální autonomní taxislužbu. „Když vidíte, že auto bez problémů zvládá běžné manévry, okamžitě zapomenete na to, že je něco jinak, a začnete se bavit se spolujezdcem, jako by se nic zvláštního nedělo.“

Ve stejném videu (které sponzorovala právě firma Waymo) pak Derek Muller připomíná zajímavou paralelu. „V samořídícím autě je tlačítko STOP. Připomíná mi to výtahy,“ všímá si youtuber známý divákům pod přezdívkou Veritasium.

Dnes o výtahu nepřemýšlíme jako o dopravním prostředku. Je to prostě jednoduchý stroj, který má pár naprosto jasně definovaných tlačítek a obsluhovat jej zvládne – často nesmírně ochotně – i malé dítě. Ale v prvních výtazích, tedy v 19. století, musela být obsluha. Člověk, který dohlížel na bezpečnost a  na základě svých zkušeností ovládal pohyb výtahu. Zodpovídal za to, aby se kabina nedala do pohybu, zatímco někdo nastupuje, a aby podlaha výtahu zastavila více méně v úrovni podlahy cílového patra.

Postupně se do výtahů přidávaly různé bezpečnostní prvky. Dveře, které musely být zavřené, jinak se výtah nerozjel. Nebo mechanické pojistky, které zajišťovaly, že se kabina zastaví tam, kde má. V roce 1900 pak přišla novinka – výtah, který nepotřeboval specializovanou obsluhu. Vešli jste do něj, zmáčkli tlačítko a jeli jste.

Tyto výtahy se ale nesetkaly s vřelým přijetím, vypráví profesor architektury Lee Gray z University of North Carolina. „Lidé vešli dovnitř, podívali se a hned zase odešli. Rychle se snažili najít operátora, který by se chopil obsluhy výtahu.“

Abychom si to uměli přestavit: V roce 1920 bylo v New Yorku 17 tisíc lidí zaměstnaných jako „operátoři výtahů“ (asi 5 % tvořily ženy). Když tito operátoři stávkovali za lepší platy, celý „kancelářský New York“ se v podstatě zastavil. Obvykle tedy operátoři stávkou dosáhli alespoň nějakých výhod.

Ale v roce 1945 přišla stávka, která urychlila nástup automatizace a udělala z operátorů výtahů historickou kuriozitu. „New York se zastavil. Stávka stála New York sto milionů dolarů na ušlých daních,“ popisuje Steve Henn z NPR. „Jeden a půl milionu pracovníků se kvůli stávce nedostalo do práce. Majitelé budov požadovali změnu. A výtahářský průmysl se rozhodl, že musí lidi přesvědčit, aby přehodnotili, co je to výtah.“

Netrvalo ani deset let a automatické výtahy se staly normou. Pomohly k tomu jistě i (z dnešní perspektivy legrační) reklamy, které zobrazovaly děti nebo babičky, jak samy zvládají ovládat výtah. Chvíli to trvalo, ale veřejnost přijala koncept za svůj. Svou roli prý sehrálo i velké tlačítko STOP, kterým cestující mohli kdykoli kabinu zastavit a přivolat pomoc. Trvalo to přes padesát let, ale povolání „operátor výtahu“ se stalo minulostí.

Ještě před pár lety bych příběh o operátorech výtahů dal do souvislosti výhradně s příběhem o autonomních autech. Napsal bych něco takového: Proč o automobilech přemýšlíme jako o něčem, co musí řídit člověk? Vždyť po člověku za volantem chceme celou řadu rychlých rozhodnutí, která by bylo lepší nechat na stroji. Možná nám jednou myšlenka auta řízeného člověkem přijde stejně podivná, jako nutnost mít v každé výtahové kabině živého operátora. A na lidi, kteří budou trvat na tom, že do „automatického výtahu“ nevlezou, bychom se dívali jako na duševně choré…

Jenže rok 2022 jasně ukázal, že nová vlna automatizace se nebude týkat jen těch manuálních profesí, o kterých se do té doby mluvilo především. Opakuji v této souvislosti často výrok Sama Altmana, šéfa OpenAI: „Dříve se tradovalo, že automatizace dopadne na manuální pracovníky, pak na kanceláře a jednou možná zvládne i kreativní práci. Teď to vypadá, že to půjde v opačném pořadí.“

Podrobně se tomu věnuji v pondělním článku. Na základě tří nových studií ukazuji, která povolání se nejspíše výrazně promění s nástupem „umělé kreativity“, tedy přesněji s nástupem nástrojů „generativní umělé inteligence“.

Poslali jste mi už desítky zajímavých příkladů, jak jste umělou inteligenci zapojili do svého podnikání nebo profesionální činnosti. Generujete reklamy, učíte se programovat, vyrábíte vizuální koncepty nebo píšete studie a celé knihy pomocí neuronových sítí.

Následující měsíce a roky podle mého budou celkem divoké. Řada odvětví se bude muset vyrovnat – na institucionální, profesní i individuální úrovni – s úplně novou realitou. Už nyní podnikaví lidé po celém světě našli doslova tisíce způsobů, jak umělou inteligenci využít pro usnadnění, vylepšení nebo přímo náhradu lidské práce.

Každého z nás čekají etická a ekonomická rozhodnutí: Budete podporovat živé umělce a kupovat drahé olejomalby, za kterými je reálná lidská práce a um? Nebo si necháte obraz vygenerovat za padesát haléřů on-line službou, přesně podle svých představ? Oceníte práci živého autora, který věnoval dva dny výzkumem a psaním newsletteru, nebo vám postačí text za 17 sekund sepsaný GPT4?

No a zároveň s tím nás každého čeká velmi osobní zvažování. „Jak se změní vaše práce?“ ptal jsem se vás před rokem, a otázka za těch 12 měsíců dobře uzrála. „Je vaše práce v bezpečí?“

Nejde teď jen o to, že by vás nějaký počítač 100% nahradil. To je zjednodušená a zavádějící představa. „Rád používám slovo ovlivní, nikoli nahradí,“ vysvětluje Erik Brynjolfsson, expert na digitální ekonomiku ze Stanford University. „Nebude to tak, že umělá inteligence nahradí právníky, ale tak, že právníci pracující s umělou inteligencí nahradí právníky, kteří s ní nepracují.“

Budete patřit mezi ty, kteří se naučí používat AI? A nebo ty, kteří ji odmítnou? Ani jedno není samo o sobě dobře nebo špatně, bude záležet na kontextu. Dokonce věřím, že řada lidí bude ochotna připlatit si třeba za text, který přeložil člověk, nikoli strojový překladač.

Ale tuším, že většina lidí spíše uvítá úsporu a rychlost, a lidská přidaná hodnota bude stále méně „nenahraditelná“. Asi jako přidaná hodnota operátora výtahu, který jen mačká tlačítka dle vaší žádosti.

A to je jen začátek. Na apríla jsem narazil na (už starší) vtipný (falešný) inzerát na dobře placenou pozici v OpenAI: „Hledáme člověka, který pohotově zmáčkne tlačítko STOP, až se to celé podělá. Naučíme vás tajný kód, když jej uslyšíte, stiskněte stopku. A pro jistotu ještě server polijte vodou.“

Tento evidentní (?) vtip má ale celkem zajímavé pozadí. Tzv. „paradox tlačítka STOP“ totiž v jistých kruzích platí za nesmírně zajímavý problém. A to takový, který zatím není uspokojivě vyřešen.

„Řekněme, že máte robota, který je vybaven obecnou umělou inteligencí, třeba na úrovni lidské inteligence,“ vysvětluje hypotetickou situaci Robert Miles, který studuje bezpečnostní aspekty neuronových sítí v tomto videu z roku 2017. „A abyste měli jistotu, že se něco nepokazí, zabudujete na tohoto robota velké červené tlačítko s nápisem STOP.“ To se ostatně u robotů dělá už dlouho.

Jenže zatímco u běžných robotů to znamená něco ve smyslu „pošli signál pro zastavení veškerého pohybu“, u pokročilejší neuronové sítě to nemusí být tak jednoduché. Pokud totiž dáte neuronové síti nějaké zadání – v podstatě smysl její existence – bude směřovat k tomu, aby toto zadání co nejlépe splnila. A hrozba, že někdo zmáčkne tlačítko STOP, brání splnění zadání. Proto takový robot udělá vše proto, aby toto tlačítko nešlo stisknout. Odpojí jej nebo jinak fyzicky zabrání jeho stisknutí.

Řešením by mohlo být udělení „odměny“ za stisknutí takového tlačítka. Pak by se nemusela stisknutí bránit, že? Jenže neuronová síť v podstatě hledá maximalizaci odměn, a pokud byste jí za stisknutí tlačítka nabídli odměnu stejnou jako za splnění úkolu… tak to tlačítko stiskne sama. Hotovo, úkol splněn!

Určitě vás napadne celá řada chytáků a scénářů, jak takovou hypotetickou situaci vyřešit. Je to hezká ukázka problémů, které se také v oblasti AI řeší. Beru to hlavně jako metaforu. I taková jednoduchá věc, jako tlačítko STOP, přestává být jednoduchá.

A napadá mne, kolik zaměstnání za deset let bude vlastně spočívat v tom, že člověk sleduje výstup z umělé inteligence a má prst na metaforickém nebo doslovném červeném tlačítku.

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.