TechMIX: Autonomní zbraně potřebují regulaci, dohoda je zatím v nedohlednu

V prosinci 1868 vstoupila v platnost tzv. Petrohradská deklarace, která vznikla na jednání vyvolaném tehdejším carským Ruskem. V ní se účastnické státy – tedy evropské mocnosti – mimo jiné zavázaly, že proti sobě nebudou v případě války používat výbušné náboje do běžných pušek a dalších lehkých zbraní.

V praxi byl tento zákaz velmi jednoduchý, shrnutý vlastně do jediné věty. Reagoval na skutečnost, že tehdy začal být k dispozici stále se rozšiřující arzenál střel, které způsobovaly rozsáhlá poranění.

Typickým příkladem takové munice byly střely „dum-dum“, tedy munice, která se po nárazu do těla deformuje, zvětší svůj průměr a způsobí veliké, silně krvácející zranění. Zasažený tak zemře pravděpodobněji než po zásahu klasickou střelou, která proletí tkání beze změny tvaru.

Omezení, pod které se podepsali zástupci celkem 19 zemí, se nakonec týkalo nábojů o hmotnosti menší než 400 gramů, které obsahují výbušné, třaskavé nebo zápalné látky a mohou být vypáleny z protipěchotních pušek.

Neplatí tedy pro dělostřeleckou munici a dodnes se údajně vedou spory, jak pohlížet na střely odpalované z velkorážních pušek, které používají výrazně větší náboje než běžné pěchotní zbraně (obvykle 12,7 mm, ale až 25 mm místo 5,67 nebo 7,62 mm). Ty mohou mít hmotnost vyšší, než je v deklaraci uvedená.

I přes tyto a další neúspěchy byla Petrohradská deklarace prvním krokem k dalším jednáním o zbraních, během kterých vznikla alespoň nějaká pravidla pro vedení války. Ta se sice nepochybně neustále porušují, když tomu okolnosti přejí, ale zároveň pomáhají nastavit „laťku“, pod kterou by neměly válčící strany klesnout.

Po 155 letech stále častěji zaznívají hlasy, že je nejvyšší čas přidat do těchto úmluv novou položku. Patří k nim třeba profesor informatiky z Kalifornské univerzity Stuart Russell, který se vyslovil v jednom z únorových čísel vlivného vědeckého časopisu Nature.

Russellova profese vám napoví, o čem může být řeč: ano, o umělé inteligenci. Kalifornský profesor cynicky řečeno trochu využil výročí ruské invaze na Ukrajinu k tomu, aby pomohl věci, ve které se angažuje už dlouho, totiž tažení za zákaz autonomních zbraní.

V roce 2017 stál spolu s dalšími lidmi ze velmi expresivním videem „Slaughterbots“ (dovolím si přidat svůj překlad „vrahoboti“), ve kterém varovali před možným využitím malých, v podstatě protipěchotních robotů jako dokonalé a velmi levné zbraně hromadného ničení pro teroristy, despoty a další „špatné hochy“.

Russell upozorňuje, že když ukrajinské síly používají upravené komerční kvadrokoptéry ke granátovým útokům na ruské síly, většina západního mediálního publika jásá. Když ruské síly posílají roje levných íránských bezpilotních letounů, aby ničily elektrárny, rozvodny nebo jiná zařízení, západní publikum proklíná stroje a jejich tvůrce. Všichni by si měli ovšem podle Russella spíše uvědomit, že zbraně jsou čím dál chytřejší.

Vývoj ukrajinského konfliktu nejen podle něj dokládá, jak velkou roli budou hrát nové kategorie zbraní v ozbrojených konfliktech. Viditelnou inovací je stále masovější nasazování právě různých malých létajících prostředků. Ať už jde o zařízení nesoucí spouštěnou či odpalovanou munici, či „kamikaze“ drony s hlavicí přímo zabudovanou do stroje.

Zatím jde prakticky vždy o zbraně, které řídí – a o jejichž nasazení tedy rozhodují – lidé. Ale ze dvou dobrých důvodů lze předpokládat, že to tak v blízké budoucnosti vůbec být nemusí.

Tím prvním je rychlý rozvoj „umělé inteligence“. Z našeho současného postavení stále nemůžeme dohlédnout, jak veliký potenciál vlastně má a kde přesně leží hranice možností současných řešení.

Dnešní systémy umělé inteligence už ovládají všechny potřebné schopnosti, aby si na bojišti počínaly do velké míry autonomně. Zvládají plánování misí, navigaci, 3D mapování, rozpoznávání cílů, průlety městy a budovami a koordinaci útoků. Nelze pochybovat o tom, že budou stále propracovanější, dostupnější, levnější a tedy používanější.

Druhým faktorem je skutečnost, že pro vojenské využití mají tyto systémy nad lidmi své přednosti. Nejdůležitější je fakt, že sedí přímo „v kokpitu“.

Drony dnes vyžadují svého pilota. Ale spojení mezi ním a strojem je jedním za slabých míst celého systému – pokud spojení přerušíte, celá zbraň ztrácí své schopnosti. Vzhledem k tomu, jak velkou roli už dnes drony ve válce hrají, je jasné, že „elektronický boj“, primárně rušení protivníkových signálů, bude do budoucna jen důležitějším aspektem válek.

Všechny strany konfliktu tedy mají velkou motivaci zavádět účinnější rušící postupy. A jakmile se tak stane, bude ovládání těchto zbraní na dálku obtížnější a autonomní zbraně budou o to atraktivnější.

Nevyhnutelná logika zavádění stále lepších elektronických protiopatření proti dálkově ovládaným zbraním nezbytně povede obě strany ke zvyšování úrovně autonomie těchto systémů.

Autonomní systémy si v takovém prostředí stále mohou vést dobře a dál plnit svoje úkoly bez ohledu na to, čím nepřítel zahltil elektromagnetické spektrum. Dokážete si představit, že by se armády nechaly o takovou výhodu připravit? Z mého hlediska není nijak překvapivé, že se Russell a další odborníci obávají, že by se zbraně mohly stávat stále samostatnějšími.

Skeptici jistě mohou namítnout, že jde o malování čerta na zeď. Účastníci ukrajinského konfliktu a armády dalších velkých států se zatím použití takových zbraní vyhýbají.

Na druhou stranu: Jak daleko jsou od autonomie již dnes používané zbraně? Podle některých informací jsou například nové bezpilotní letouny Šáhid vybaveny infračervenými detektory, které jim umožňují zaměřit se na zdroje tepla v blízkosti zadaného cíle, aniž by vyžadovaly potvrzení zaměření cíle od operátora. To už je určitá míra autonomie.

Od roku 2017 prodává turecký státní výrobce STM dron Kargu, který je velký jako jídelní talíř a nese 1 kg výbušniny. Podle webových stránek společnosti z roku 2019 (od té doby upravených) je dron schopen „autonomních a přesných“ zásahů proti vozidlům a osobám, přičemž „cíle jsou vybírány na základě analýzy obrazu“ a s možností „sledování pohyblivých cílů“.

Jak uvedla OSN, i přes platné zbrojní embargo drony Kargu v roce 2020 možná použila libyjská vláda „národního porozumění“ k autonomnímu „lovu“ ustupujících nepřátelských vojáků.

Jistou formu autonomie vykazují i další létající formy střel. Izraelský bezpilotní letoun Harpy může několik hodin létat nad oblastí a hledat cíle, které odpovídají vizuální nebo radarové signatuře uložené v jeho operační paměti, a pak je napadnout.

Podobné schopnosti má mít údajně i ruský prostředek Lancet, hojně používaný na Ukrajině. Čínský Ziyan Blowfish A3 je autonomní vrtulník vybavený kulometem a několika neřízenými gravitačními bombami.

Všechny tyto systémy mají jak režim ovládání na dálku, tak i režim autonomní. V praxi je tedy prakticky nemožné zjistit, zda útok provedl lidský operátor, nebo o něm rozhodl software.

A jsou tu i další výhody: Autonomní letadla, tanky a ponorky mohou plnit úkoly, které by pro lidi byly sebevražedné. Jsou levnější, rychlejší, obratnější a mají delší dolet než jejich protějšky s lidskou posádkou. Vydrží vyšší přetížení za letu a fungují pod vodou bez systémů podpory života. Výhod je tolik, že odborník na umělou inteligenci Kai-Fu Lee označil v článku pro The Atlantic autonomní zbraně za „třetí revoluci ve válčení“ (po střelném prachu a jaderných zbraních).

O tématu už se mezi politiky debatuje. Ale zatím je debata spíše na začátku. Naznačuje to i existence (někdy snad předstíraných) nejasností v technických otázkách.

Státy se například přou o význam slova „autonomní“. Například Německo absurdně prohlásilo, že zbraň je autonomní pouze tehdy, pokud má „schopnost učit se a rozvíjet sebeuvědomění“. Čína, která údajně podporuje zákaz autonomních zbraní, tvrdí, že jakmile se zbraně stanou schopnými autonomně rozlišovat mezi civilisty a vojáky, přestanou se považovat za autonomní, a tudíž by neměly být zakázány.

Velká Británie se zavázala, že nikdy nebude vyvíjet ani používat smrtící autonomní zbraně, ale neustále je nově definuje, takže její závazek fakticky ztrácí smysl. Například v roce 2011 britské ministerstvo obrany napsalo, že „určitý stupeň autonomního fungování je pravděpodobně dosažitelný již nyní“. Ovšem v roce 2017 uvedlo, že „autonomní systém je schopen pochopit složitější záměr“.

Michael Fallon, tehdejší státní tajemník pro obranu, v roce 2016 napsal, že „plně autonomní systémy zatím neexistují a pravděpodobně nebudou existovat ještě mnoho let, pokud vůbec“, a dospěl k závěru, že „je příliš brzy na to, abychom zakazovali něco, co prostě nedokážeme definovat“.

Další pokrok v Ženevě je v brzké době nepravděpodobný. Spojené státy a Rusko odmítají připustit jednání o právně závazné dohodě. Američané se obávají, že dodržování smlouvy by nebylo možné smysluplně kontrolovat, což by vedlo ostatní strany k obcházení zákazu a vytvořilo by riziko strategického překvapení. Rusko nyní namítá, že je kvůli své invazi na Ukrajinu diskriminováno.

Možná jsou to jenom porodní bolesti, možná se skutečně shodu nepodaří najít – i takových příkladů bylo v historii více než dost. Před 155 lety v Petrohradě byla také přijata deklarace o zákazu „vrhání střel a výbušných látek z balonů“. V roce 1868 se tedy tehdejší evropští politici pokusili de facto zakázat letecké bombardování…

V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.