Sto zaměřených cílů ke zničení za den. Jak umělá inteligence mění válku

Rychlý nástup umělé inteligence mění situaci na bojišti velkých světových konfliktů. Technologii už využívají válčící strany jak na Ukrajině, tak v Gaze. Panují přitom obavy, že ve výsledku mohou trpět především civilisté. Dokáže lidstvo vyřešit palčivé otázky odpovědnosti, transparentnosti, předsudků i rizika pro samotnou lidskou existenci? A jak reálná je hrozba nové éry závodů ve zbrojení?

Konflikty na Ukrajině a v Gaze se stávají laboratoří pro válečné využívání umělé inteligence, říká v podcastu 5:59 profesorka mezinárodního práva na Univerzitě v Utrechtu Jessica Dorsey.

„To, že se AI začala v konfliktech využívat, se obecně bere jako nejvýznamnější změna v charakteru vedení válek vůbec. Je to velká věc a vývoj tohoto odvětví je obrovský,“ říká   Dorsey, která se využíváním AI technologií ve vojenství dlouhodobě zabývá.

Za příklad využívání umělé inteligence ve válce dává technologii rozpoznávání obličeje, kterou v běžném životě lidé používají například k odemykání svých chytrých telefonů, na bojištích se tak tímto způsobem zaměřují konkrétní cíle.

V Gaze AI skrze systém známý jako Gospel dokáže podle Dorsey během jediného dne identifikovat na sto cílů, které mohou být zničeny. Dříve, bez pomoci umělé inteligence, to přitom bylo asi 50 cílů ročně.

Právě rychlost a široký záběr jsou podle profesorky jedněmi z předností, které AI má a díky kterým nám může usnadnit běžný život. Ve válce ale podle Dorsey může rychlost ovlivnit rozhodovací proces, a když jde o životy lidí, měli bychom mít vyšší standardy.

Konflikt přináší celou řadu situací, které vyvolávají otázky ohledně odpovědnosti nebo transparentnosti. A ve hře jsou i předsudky, se kterými je AI spojena. „Když máme na vstupu protichůdné informace a spolehneme se jen na umělou inteligenci, musíme počítat s tím, že její rozhodnutí může být zaujaté. Z různých studií totiž víme, že i umělá inteligence a algoritmické programy v sobě mají zakódované předsudky,“ nabádá k větší obezřetnosti profesorka Dorsey.

Navíc je tu oprávněná obava, že informace vkládané do systémů AI mohou být chybné. A pak je tu další znepokojivý jev: často se ani neví, jaká vstupní data jsou stroji zadávána.

„Pochopit, co se děje uvnitř té černé skříňky, jak se někdy AI přezdívá, je obtížné. Jakmile jednou poskytnete systému data a on je vyhodnotí a vytvoří seznam cílů, je těžké jednotlivé kroky zpětně vysledovat. Nedokážeme říct, jak ke svým závěrům došel,“ říká profesorka z Univerzity v Utrechtu.

To vede k diskuzi, na niž se nabalují nejrůznější etické, právní a nakonec i existenciální otázky. Pokud totiž stroje převezmou klíčová rozhodnutí ve válečných konfliktech, jaká role zbyde člověku? Jaké války tedy chceme v budoucnu vést? ptá se profesorka.

Umělá inteligence se každopádně do válek už naplno vložila. Podle Dorsey je tu jednak ekonomický zájem technologických firem a zvyšující se poptávka jednotlivých válčících stran po takových produktech a pak je tu geopolitický motiv. Mocnosti jednoduše nechtějí tento vývoj zaspat a zůstat tak pozadu. Tyto dva podněty podle profesorky Dorsey zvyšují riziko nových závodů ve zbrojení.

„Nevíme, jak daleko je s vývojem podobných systémů Čína. Třeba Spojené státy ale používají hrozbu toho, že Čína zásadně pokročila, k tomu, aby samy navýšily rychlost a objem výroby. Chtějí být rychlejší než potenciální nepřítel,“ podotýká Dorsey.

Zamýšlí se přitom nad tím, zda by se jednotlivé státy dokázaly dohodnout na jakési univerzální regulaci vojenských systémů AI. Podle ní to vyžaduje především velkou politickou vůli. Kdo by ale takové úsilí o dosažení kontroly vedl? Byly by to USA, Čína, Evropská unie, nebo skupina úplně jiných států?

Profesorka Dorsey i přes všechny problémy, spory a hrozby spojené s AI a moderním válčením ale končí na optimistické notě. Podle ní lidstvo může současnou situaci zvládnout. „V minulosti se mezinárodní společenství dohodlo na zákazu chemických a biologických zbraní, takže není důvod, proč by se to nemohlo povést znovu. Otázka ale je, jestli k tomu máme ochotu a vůli, a to hlavně tu politickou,“ dodává.

V podcastu 5:59 se také dozvíte, s jakou iniciativou ohledně AI ve vojenství přišlo Valné shromáždění OSN, nebo o databázi tváří ukrajinské armády. Poslechněte si v přehrávači na začátku článku.