Samořiditelná auta už brzy i v Česku. Kdo bude odpovědný za nehody?

Článek si také můžete poslechnout v audioverzi.

Taky jste si jako dítě přáli mít inteligentní mluvící auto, jako byl KITT z legendárního seriálu Knight Rider? David Hasselhoff v roli spravedlivého bývalého policisty nemusel řídit. Auto, jež mělo vlastní osobnost a umělo přemýšlet i dopředu, ho vždy na poslední chvíli vytáhlo z průšvihu, zvládalo divoké honičky s gangstery a ještě u toho házelo vtipné hlášky.

V době natáčení seriálu, tedy v 80. letech, bylo takové auto čiré sci-fi. Z dnešního pohledu už to tak moc fantasticky nevypadá. Je dost možné, že v nepříliš daleké budoucnosti se něčím podobným svezete.

Už letos v létě se předpokládá schválení české novely zákona, která zřejmě od ledna 2026 umožní na dálnicích, jež mají v jednom směru dva či více pruhů, předat řízení autopilotovi. Zároveň ale musíte být připraveni kdykoliv převzít řízení do 10 sekund od chvíle, kdy vás k tomu auto vyzve: tedy zejména v krizových situacích.

Můžete za volantem svačit, poslouchat hudbu nebo sledovat film na obrazovce auta, ale zároveň byste neměli mít v ruce telefon bez handsfree ani třeba notebook na klíně. A vlastně byste měli jízdu přece jen trochou sledovat, protože kdo je připraven, není překvapen, když se odehraje něco nečekaného.

Není to tedy zatím případ šarmantního inteligentního auta KITT. To snad až časem, až dosáhnou auta skutečné autonomie. Zmíněná novela je však krokem, jenž k tomu může pomalu směřovat.

Už v roce 2014 vytvořila organizace SAE International (profesní sdružení odborníků z leteckého, automobilového a dopravního průmyslu, pozn. red.), šestiúrovňový klasifikační systém 0-5, který popisuje různé úrovně automobilové automatizace, od nulové ve smyslu „stará dobrá kára bez zbytečné elektroniky“ až po úplnou automatizaci.

Nejvyšší, pátý stupeň už by měl být téměř na úrovni KITTa, kdy bude mít auto kromě autopilota ještě multimodálního AI agenta, jenž si s vámi bude povídat a řešit kromě řízení i spoustu dalších věcí. Vlastně si s ním nejspíš budete jen povídat, protože žádný volant mít už k dispozici vůbec nebudete – během jízdy si tak budete třeba číst nebo pracovat.

Nyní se technologie aut nachází mezi stupni 2 a 3, tedy mezi částečnou automatizací a podmíněnou automatizací. Částečná automatizace znamená, že stroj kombinuje více automatických funkcí, sám řídí, zrychluje a brzdí, ale řidič musí stále sledovat provoz a kontrolovat činnost systému. Podmíněná automatizace, na niž cílí zmiňovaná novela, už umožňuje, že řidič se nemusí věnovat řízení, ale musí být připravený převzít řízení v časovém limitu stanoveném výrobcem či zákonem.

Ředitel legislativy Ministerstva dopravy Jakub Kopřiva k novele zákona pro ČTK uvedl, že „bude i nadále platit povinné pojištění vozidla, protože případnou škodu způsobí provoz vozidla, ať už ho bude řídit automat, nebo člověk“. Pojišťovny tedy nebudou řešit, jestli jste to do sousedova plotu či jiného auta opřeli vy, nebo autopilot. Výsledek je stejný a škoda půjde za vámi, respektive za vaším povinným ručením.

To je však jen finanční stránka věci. Co ale odpovědnost z pohledu dodržování dopravních předpisů a možné újmy na zdraví či životech? Projednávaná novela českého zákona říká, že po dobu řízení automatizovaného auta vozidlem se na řidiče nevztahují pravidla provozu na pozemních komunikacích ani jiné povinnosti řidiče týkající se řízení vozidla, jejichž dodržení zajišťuje automatizované vozidlo. Jinými slovy, když řídí autopilot a něco se při tom stane, dle zákona budete z obliga, zodpovědnost v tu chvíli ponese výrobce auta.

V momentě, kdy řízení převezmete, je to zase na vás. Problém může ovšem nastat, když řízení právě přebíráte a nehoda se přihodí přesně v té chvíli. Co když nastane smrtelná nehoda? Tam už může být dělba odpovědnosti obtížnější a dokazování také. Reálná řešení se ukážou až v praxi u prvních precedentů.

A nyní se s dilematy pusťme dále do budoucnosti. Co když se posuneme na stupnici směrem k vysoké či plné autonomii vozů, tedy ke stupňům 4 nebo 5? Může to být moje vlastní auto, půjčený vůz nebo taky běžný městský taxík. Problém pak může být u řízení strojem už ne tolik otázka, kdo může za nehodu, ale otázka etického rozhodování v případech, kdy automat musí v krizové situaci volit mezi dvěma či více špatnými alternativami. Tedy například mezi bezpečností řidiče a chodce.

Filozof David Černý z Ústavu informatiky AV ČR a Ústavu státu a práva AV ČR, který se zaměřuje na etické aspekty robotiky a umělé inteligence, vysvětluje, že autonomní auto může být teoreticky nastaveno třemi způsoby. Za prvé - aby chránilo pasažéra na úkor chodce, za druhé - aby rozdělovalo riziko 1:1 anebo za třetí - aby upřednostňovalo bezpečí chodců.

Ve společnosti se v souvislosti s tím dle Černého vyskytují tři skupiny lidí, jak ukázaly i studie: ti z první skupiny by preferovali vlastní bezpečnost a volili by ideálně nastavení, kdy by byla prioritou ochrana pasažéra. Druhá skupina by volila neutrální nastavení, kde by distribuce rizika byla 1:1. Třetí skupinu tvoří lidé s prosociálním přístupem, kteří by dali přednost ochraně chodců, i kdyby to znamenalo mírně vyšší riziko pro ně samotné.

„Pokud nebude navenek jasné, jak se auto rozhoduje, přikloní se víc lidí k vlastní bezpečnosti. Kdyby se to poznalo například podle typu nebo barvy auta, víc lidí by se mohlo přiklonit k prosociální verzi softwaru,“ popisuje Černý.

V průzkumech se také zjistilo, že i když řada lidí schvaluje autonomní vozidla chránící ostatní kolem sebe na úkor cestujících, raději by v takových vozidlech sami nejezdili. Zároveň by ani neschvalovali předpisy nařizující sebeobětování a takové předpisy by u nich snižovaly ochotu koupit si autonomní vozidlo.

Jak vysvětluje Josef Holý z ČVUT, odborník na AI a spoluautor známého podcastu Kanárci v síti, problém je v tom, že distribuce viny nebo zodpovědnosti v takových situacích je pro naši civilizaci něco nového. „Do hry totiž vstupují i původně čistě teoretické filozofické příklady typu Trolley problem (tramvajové dilema), který hezky ilustruje aplikace od MIT nazvaná Moral Machine,“ říká Josef Holý.

V jednotlivých úlohách máte v autě i na přechodu různé lidi a vy rozhodujete, jestli má auto například přejet matku s kočárkem, nebo zabít starého řidiče za volantem. Tato teoretická hra má poukázat na zrůdnost podobného rozhodování.

„Stavět stroje do takto extrémních etických dilemat je vlastně nehumánní. Lidé se v kritických situacích rozhodují instinktivně, nepředvídatelně. Obvykle se zkrátka snaží nepřejet nikoho a zároveň přežít. Hledat pro to čistě logický vzorec nedává smysl. Navíc, pokud se jako společnost stále nedokážeme shodnout ani na řešení potratů, jak bychom mohli očekávat, že nalezneme univerzální etický klíč pro autonomní stroje?“ uvažuje Holý.

Nastavení systémů může být různé i dle kulturního rámce: Co když se kultura, ve které někdo auto vyrobí, řídí jinými etickými principy než ta, v níž může být auto využíváno? Distribuce odpovědnosti se liší dle kulturních a právních kontextů.

Americký právní systém dává přednost individuální odpovědnosti a transparentnosti, klade důraz na individuální práva a ochranu spotřebitele. Při nehodě se odpovědnost rozděluje mezi výrobce, vývojáře a provozovatele, přičemž zákazník má nárok na jasné informace o fungování systému. Etické preference směřují k ochraně vlastní bezpečnosti. Auto, které „zabije raději vás“, si Američané pravděpodobně nekoupí a ani by to asi nebyla dobrá reklama.

Evropa klade důraz na kolektivní přístup a ochranu lidských práv, odpovědnost vnímá kolektivně. Výrobci a provozovatelé mají povinnost zajistit, aby zákazník věděl, jak systém funguje, a aby bylo možné v případě selhání rychle zasáhnout. Příklady projektů s fyzickými spínači či monitorovacími systémy odrážejí snahu vyvážit autonomii s lidskou kontrolou.

Země jako Japonsko, Jižní Korea a Singapur vyvíjejí modely eticky „hybridní“, tedy kombinující individuální odpovědnost a kolektivní bezpečnost.

Čína pak sází na kolektivní bezpečnost a efektivitu. Zaměřuje se na celkovou bezpečnost a efektivitu provozu. Etické normy upřednostňují společenský prospěch před individuálními právy a odpovědnost za rozhodnutí autonomního systému je vnímána kolektivně. Život jednotlivce nemá takovou váhu, důležitý je celek. Případné oběti na životech vnímá čínský systém spíš jen jako nežádoucí vedlejší ztráty.

Co když to doženeme ad absurdum a společnost, která auto programuje, bude mít rasistické postoje, takže upřednostní jedno etnikum před druhým? A co když bude mít někde vyšší cenu život, dejme tomu, krávy nebo velblouda než život člověka z nejnižší vrstvy?

Budeme muset být k nastavení AI systémů v autech velice opatrní. Dá se však předpokládat, že každý stát si nastavení etických principů pro rozhodování aut definuje dle svých vlastních hodnot. A auta, která je nesplní, nevpustí na své silnice.

Autorka působí v neziskové společnosti AI dětem.