Robot řídí lépe, musí vidět „do hlavy“, popisuje vývojář auta budoucnosti

Rozhovor si také můžete poslechnout v audioverzi.

Vyvíjí umělou inteligenci, která počítačům umožňuje vidět lidem do hlavy a odhadovat jejich úmysly. S nadšeným informatikem Jonathanem Ng, specialistou na počítačové vnímání, jsem se setkal v přístavní části San Francisca.

Zatímco jsem čekal na svou první jízdu samořídícím taxíkem Waymo, měl jsem možnost s ním probrat zákulisí i některé nečekané problémy, se kterými se vývojáři museli vypořádat.

Takto vypadala moje jízda samořídícím taxíkem:

Lidé často neumí odhadnout, co je pro počítač těžké (tzv. Moravcův paradox). To, co lidský řidič zvládne „jako nic“, dalo paradoxně vývojářům hodně práce. Třeba poznat, zda někdo na chodníku jen lelkuje, nebo se chystá přejít silnici. Zní to jako maličkost, ale jde doslova o život.  Jonathan Ng ale připomíná, že obecně jsou samořídící auta už nyní šestkrát lepšími řidiči než lidé.

Co vnímáte jako hlavní argument pro samořídící auta?

Pro mě to je otázka bezpečnosti. Když mě moje maminka čekala a byla v druhém trimestru, byla účastna dopravní nehody. Naštěstí vidíte, že jsem v pořádku, ale je to ukázka toho, že dopravní nehody můžou mít na lidské životy velký dopad. Znám řadu příběhů lidí, kteří ze střetu s autem nevyšli ve zdraví. To je pro mne skutečná mise firmy Waymo. Pracuji v týmu v Atlantě, zabýváme se bezpečností. Já konkrétně mám na starost počítačové vidění auta. Jak auto rozumí světu kolem sebe. Auto „vidí“, že se jiné vozidlo chystá odbočit nebo že se blíží houkající sanitka. Používáme celou řadu senzorů k tomu, abychom dali autu představu o tom, co se děje kolem.

Podívejte se, jak se auto Waymo vyhne člověku, který spadl ze skútru:

Jaká je výhoda více senzorů (kombinace kamer, mikrofonů, radarů a lidarů) oproti pouze kamerám, jako to dělá třeba Tesla?

Stačí, když se během jízdy v samořídícím taxíku Waymo podíváte na obrazovku, která zjednodušeně zobrazuje, co auto vnímá kolem sebe.

Všimněte si, že auto má velký přehled a že ta naše vizualizace je mnohem stabilnější než cokoli, co má konkurence. Je to právě proto, že používáme kombinaci více senzorů, a máme tak větší jistotu.

Není pro pasažéry divné, že jsou zcela v rukou robota?

V autě sice není lidský řidič, ale každé auto je pod dohledem našeho týmu. Je to podobné jako řízení letového provozu. Pokud jakékoli naše auto narazí na situaci, ve které si není jisté, pošle informaci našemu dohledovému týmu. Operátor okamžitě vidí to, co vidí auto.

Nedávno po síti kolovalo video parkoviště, na kterém bylo několik desítek samořídících aut. Ráno auta vyjížděla „do práce“, vytvořila se tam trochu fronta a auta Waymo na sebe začala houkat. Proč a za jakých okolností samořídící taxi troubí?

Ano, tohle houkání byl nešťastný incident. A taky je to vtipné. Od té doby jsme to opravili. Obecně je ale myslím houkání docela dobrá funkce našeho auta.

Naše samořídící auto houká v situacích, kdy byste jako lidský řidič nejspíš taky zatroubil. Když je před vámi auto a místo dopředu se rozjede dozadu, směrem na vás, tak zahoukáte. Je to způsob, jak dát ostatním vědět, že se možná děje něco, o čem nevědí.

Máme také funkci pro pasažéry. Mohou zmáčknout tlačítko „Honk“ a jejich samořídící auto zatroubí.

Toho jsem si nevšiml.

To je ve chvíli, kdy si auto přivoláváte. Hodí se to v případě, že na vás auto čeká, vy jste blízko, ale nemůžete jej najít. Tak můžete požádat, aby na vás houklo.

Zajímalo by mne, jak přemýšlíte o psychologii pasažéra. Co děláte pro to, aby se během jízdy cítil v pohodě a bezpečí? Je to přeci jen nový pocit, že vás veze „duch“, auto bez řidiče.

Rozhodně jsme věnovali hodně pozornosti první jízdě. Když se poprvé přihlásíte, tak vás aplikace provede celým tím zážitkem. Sedáte do taxi bez řidiče. Jsme si vědomi, že jsme první na světě, co po lidech něco takového chtějí.

Lidé mohou mít nějaké představy a obavy, a tak jim chceme přesně ukázat, co je čeká. Podobá se to videu, které povinně zhlédnete před tím, než letíte letadlem. Nebo jako tutoriál na začátku nové počítačové hry.

Vysvětlíme lidem, že v autě není řidič. Nebojte se, nerozjede se, dokud se nepřipoutáte. Dále dbáme na to, aby lidé věděli, že mají alespoň nějakou míru kontroly nad situací. V autě je tlačítko, kterým pasažér může aktivovat „bezpečné zastavení na okraji vozovky“.

Když to pasažér zmáčkne, jde signál lidskému operátorovi, nebo přímo samořídícímu autu?

Toto je příkaz přímo pro auto. Auto samo hned zahájí manévr bezpečného zastavení. Není to okamžité zastavení na místě, není to brzda, je to chytré zastavení při nejbližší příležitosti. Kromě toho je tam tlačítko pro zavolání operátorovi. A dáváme si záležet, aby se opravdu rychle ozval člověk.

Takže žádné Stiskněte jedničku, pokud chcete změnit destinaci, dvojku, pokud je něco v nepořádku…

Rozhodně ne. To by bylo hrozné. Živí lidé se ozvou okamžitě.

Zaznamenali jste, že na jízdu samořídícím autem reagují různí lidé různě? Třeba že děti to berou jako samozřejmost, zatímco staří lidé jako já jsou zpočátku vyklepaní?

Pokud vím, tak nejstarší pasažérce je 103 let. A když jsem sledoval, jak to vnímala, uvědomil jsem si, že to bylo hodně podobné tomu, jak jsem první jízdy prožíval já.

V podstatě každý, kdo ví, jak komplexní záležitost je řízení auta, to myslím prožívá podobně. Ten pocit, kdy nemůžete uvěřit, že je to realita. Je to trochu děsivé. Pak máte hromadu otázek. A za 10 nebo 15 minut si na to zvyknete.

Malé děti tomu vůbec nevěnují pozornost. Nevědí, že je něco jinak. Ale třeba šestileté děti to prožívají a žasnou, jsou zvědavé.

Pro některé věkové skupiny je autonehoda nejčastější příčinou těžkých zranění nebo úmrtí. Může to podle vás fungovat jako důvod, proč více měst zavede dopravu samořídícími auty? Že to vlastně snižuje počet nehod a počet tragédií na silnici?

Nevím, jak probíhají debaty na různých úrovních. Jak se liší rozhodování na úrovni radnice od toho, jak to vnímají obyvatelé měst… Ale my jako firma říkáme vlastně pořád to stejné: jde primárně o bezpečnost.

Jsou tu i další výhody samořídícího auta. Máte soukromí, je to exkluzivní zážitek, není tam nikdo další. Rozhodně teď během jízdy stihnu víc telefonátů a videokonferencí, což bych asi nedělal, kdyby mě vezl člověk.

Jak vnímáte svou úlohu při vývoji samořídících aut?

Já jsem zodpovědný za Perception, tedy vnímání. Naše auta mají senzory: radar, lidar, kamery, mikrofony. Stejně jako řidič se dívá a poslouchá, co se děje kolem něj, samořídící auto také sleduje své okolí.

Všechno, co děláme, směřuje k bezpečnosti. Momentálně tedy k bezpečnému růstu naší platformy.

Četl jsem, že vaší další výzvou jsou dálnice. To mě překvapilo, řízení na dálnici mi vždycky přišlo pro automaty jednodušší než řízení ve městě. Takové přímočařejší, bez křižovatek nebo chodníků. Proč je tedy dálnice z vašeho pohledu těžší než velkoměsto typu San Francisco, kde už jezdíte?

Lidé – a to si neberte osobně, máme to tak všichni – mají obvykle špatnou intuici ohledně toho, co je pro strojové učení jednoduchý úkol a co je naopak těžké. Vždycky dávám příklad, že pro člověka je jednoduché poznat žlutý batoh od žlutého autobusu, ale první neuronové sítě s tím měly docela problém.

Konkrétně na dálnici je problém v tom, že se tam auta pohybují opravdu rychle. A proto musíte detekovat překážky mnohem vzdálenější než ve městě. Zatímco při jízdě městem se obvykle stačí dívat řekněme sto metrů dopředu, na dálnici musíme sledovat objekty i 700 metrů vzdálené. To znamená, že jsou z pohledu senzorů mnohem menší, a je tedy obtížnější je s jistotou rozpoznat. Jak se k nim blížíte, tak se zvětšují a i jistota se zvyšuje.

Vyšší rychlost také znamená, že je v sázce více. I sebemenší chyba může vést k vážné nehodě. Takže musíme mnohem pečlivěji posoudit schopnosti našeho hardwaru a softwaru.

Jsou další situace, kdy je riziko vyšší než obvykle?

Momentálně třeba máme pravidlo, že naše samořídící auta neberou pasažéry v případě, že sněží nebo je nasněženo. Zatím ale jezdíme v místech, kde beztak prakticky nesněží.

Samořídící auto musí jezdit bezpečně, což obvykle znamená defenzivní styl. Ve městě ale občas nastanou situace, kdy řidič musí ukázat trochu rozhodnosti, třeba když je překážka na vozovce a někdo z protisměru vás pouští. Jak s takovými momenty nakládáte?

Snažíme se zvažovat věci, které zvažuje dobrý řidič. Díváme se na to, co dělají ostatní auta. Kde zastavila, zda třeba popojíždějí, čímž dávají najevo úmysl. Neustále sledujeme, jestli není na chodníku někdo, kdo by mohl zkusit přeběhnout silnici, třeba aby doběhl autobus. To všechno se musí zohlednit. Samozřejmě že bezpečnost je na prvním místě.

Kdybyste někomu zavázali oči a posadili jej do auta, poznal by, že jej veze robot? Podle čeho?

To jsme nezkoušeli. Popravdě nevím. Interně máme několik metrik, které sledujeme. Jedné říkáme čitelnost. V podstatě to znamená, že naše auto by se mělo chovat tak, jak od něj očekávají ostatní účastníci provozu. Jinými slovy by se naše auto mělo chovat, jako kdyby jej řídil opravdu dobrý lidský řidič.

Řekl bych, že sám bych to poznal podle opravdu plynulého brždění a rozjíždění. Když naše taxi přijíždí k semaforu, na kterém je červená, zastaví opravdu dokonale. Dokázal by to stejně dobře schopný lidský řidič? Určitě. Ale naše auto to udělá prakticky pokaždé.

Co byste označil za největší slabinu vašeho současného systému?

Přemýšlím. Nechci se té odpovědi vyhnout, rozhodně to ještě není dokonalé. Možná bych zmínil nástup a výstup pasažérů. To je něco, na co nás upozorňují i uživatelé. Naše auto upřednostní bezpečné místo, což znamená, že nezastaví na místě, kde by taxikář asi zastavil. Takže z toho vyplývá určité nepohodlí pro zákazníka, který musí popojít třeba o ulici dále, aby tam auto mohlo bezpečně zastavit.

Co dalšího je překvapivě těžké pro robota, zatímco lidé si s tím snadno poradí?

Využiji tuhle otázku k tomu, abych se pochlubil svým patentem. Když přijedete autem ke křižovatce, někdy tam jsou chodci a čekají poblíž přechodu. Mají přednost. Jenže pokud bychom autu dali jednoduchou instrukci „pokud jsou v okruhu dvou metrů od přechodu chodci, počkej“, tak by tam to auto čekalo věčně. Na některých místech ve městě prostě vždycky někdo bude v okolí.

Jak se s tím vyrovnávají lidští řidiči? Posoudí, kam se ten chodec dívá, a podle toho vyhodnotí, jestli hodlá přejít, nebo ne. To zní jednoduše, ale je to dost komplexní úloha. Lidé to vidí na první pohled, ale pro stroj jsme to museli přeložit do nějakých jednoznačných signálů.

Sledujeme, kam je otočená hlava chodců. Sledujeme, zda se dívají na telefon. Sledujeme, jak upřený je jejich pohled, čemu věnují pozornost.

To platí obecně. V každém momentu auto vyhodnocuje, co se může stát v následujících okamžicích a jak se na to připravit. Když jde po chodníku chodec, auto musí být připraveno na to, že by mohl spadnout do vozovky. Když vidí jiné auto, jak se blíží ke stopce, musí počítat i s možností, že ostatní řidiči udělají chybu. Věříme, že tyto predikce jsou nutné pro vytvoření bezpečného systému řízení auta.

A to vše vyhodnocuje počítač přímo ve vozidle, nebo to někam posílá?

Všechna tato rozhodnutí dělá umělá inteligence, která běží lokálně na počítači přímo v autě. Na to se nás lidé často ptají – co kdyby vypadl signál? Ale i kdyby se přerušilo veškeré spojení, na schopnost řízení to nemá vliv, auto si poradí samo.

Samozřejmě potřebujeme připojení, aby taxík mohl přijímat objednávky a komunikovat s řízením provozu, s centrálou. Ale řízení auta ani bezpečností prvky nejsou na připojení nijak závislé.

A neřetězí se vám to? Musíte simulovat nejen to, co udělají ostatní účastníci silničního provozu, ale co si ostatní účastníci silničního provozu myslí, že udělají ostatní účastníci silničního provozu…

Ano, to vše musíme zvážit. Máme proto v každém autě opravdu výkonný počítač.

Poznámka: Firma Google hradila náklady na cestu redaktora.