Umělá inteligence nad bojištěm. Firma chce, aby technologie odradily nepřátele

Rozhovor si také můžete poslechnout v audioverzi.

Vklad amerických investorů Accel, Lightspeed Venture Partners a General Catalyst zvedl hodnotu Helsingu na téměř 105 miliard korun. Německá firma se tak stala jedním z nejhodnotnějších evropských startupů zaměřených na umělou inteligenci.

Na vývoji umělé inteligence ve zbraňových systémech spolupracuje Helsing například se společnostmi Airbus a Saab a jeho software se používá také pro řízení ukrajinských dronů v bojích proti ruským agresorům.

Na pražské bezpečnostní konferenci Globsec toto popsal zakladatel a šéf Helsingu Gundbert Scherf SZ Byznys, který v rozhovoru prozradil, jak německý startup hledá partnery i v Česku.

Jak se evropské země a jejich armády poučily z konfliktu na Ukrajině?

Myslím, že se zatím do praxe nic nepřenáší. Učení podle mě zahrnuje také aktivní činnost a řekl bych, že se neučíme dostatečně. Řada ministrů, se kterými mluvím, vždycky říká, že Ukrajina je schopna jednat v řádu týdnů a měsíců. U jejich vlastních ozbrojených sil toho ale schopni nejsou. Tato frustrace je společná pro celou Evropu.

Co k té frustraci vede?

Nejde jen o rychlost, ale také o to, co vlastně kupujeme. Myslím si, že hlavním úkolem demokratických zemí je nepřítele odstrašit. V takzvané opotřebovávací válce budou autokratické režimy vždycky ve výhodě, protože mohou vynaložit více peněz, více techniky a také více lidských životů, což pro demokratické země není z dobrých důvodů tak snadné. Proto si myslím, že naším klíčovým úkolem je takové režimy odstrašit. To může fungovat jen tehdy, pokud máte skutečně asymetrickou technologickou výhodu.

Co tedy válka na Ukrajině evropským zemím ukázala?

Napadení Ukrajiny nám ukázalo, jak důležitá je technologie při získávání informací o situaci na bojišti v reálném čase, při vývoji precizních systémů, pro použití dronů, softwaru a umělé inteligence a také při spolupráci těchto systémů s tradičními zbraněmi, když se dělostřelecké systémy staré 40 nebo 50 let sladí s novými technologiemi.

To už se na Ukrajině děje, že?

Ano, ale myslím, že Evropa se z toho může poučit mnohem aktivněji. Zatímco první fáze zapojení Evropy do konfliktu, například dodávky dělostřeleckých granátů, byla produktivní, nyní je třeba přejít do druhé fáze. Mohli a měli bychom vyvíjet nové technologie a pracovat na odstrašení.

Nedávno jste oznámili spuštění projektu Centaur, který se týká bezpilotních letadel. V čem tento projekt spočívá?

Název Centaur jsme zvolili záměrně, protože tato mytická bytost je v podstatě metaforou lidské kontroly něčeho, co lidské není, v tomto případě robotického systému. Z etického hlediska je pro nás důležité, že technologie rozšiřuje lidské schopnosti, takže vždy rozhoduje člověk.

Čeho se tedy projekt týká?

Tento projekt využívá moderní poznatky v oblasti strojového učení, tzv. reinforcement learning (zpětnovazební učení, pozn. red.), který systému umožňuje se naučit operovat na vyšší než lidské úrovni. Centaur se v podstatě zabývá otázkou, zda můžeme v určitém okamžiku použít umělou inteligenci k pilotování, zda ji můžeme nejprve použít jako pomocný program nebo systém pro výcvik pilotů a zda ji ve chvíli, kdy dosáhneme úrovně přesahující lidské schopnosti, bude možné použít k vývoji poloautonomních systémů, které sice budou pod lidskou kontrolou, ale budou lidi doplňovat například při nebezpečných misích.

Už se takový systém někde používá?

Jeden z nich se nazývá Loyal Wingman, na kterém spolupracujeme se společností Airbus. Myslím, že letečtí velitelé v různých armádách si uvědomují, že jejich stíhací letouny by měly mít doprovod levnějších bezpilotních strojů řízených na principu umělé inteligence. Takové systémy by představovaly velkou asymetrickou výhodu. To je pro nás klíčová oblast, do které chceme investovat peníze získané od našich partnerů.

Kdy budou tyto systémy připraveny k nasazení?

Myslíme si, že vzhledem k dosavadnímu vývoji v této oblasti – v oboru umělé inteligence – zásadního průlomu dosáhneme v následujícím roce až dvou. Potřebujeme samozřejmě partnery, kteří vyvíjejí samotné platformy pro tyto systémy, protože tyto součásti musí fungovat dohromady. A skutečně si myslíme, že zmíněné systémy by měly být hotové ještě v této dekádě.

Podle částek, které se společnosti Helsing podařilo získat, to vypadá, že vám investoři věří.

Ano. Když jsme společnost zakládali, mnoho lidí nám říkalo, že do firmy v obranném průmyslu v Evropě nebude možné investovat. Rizikový kapitál se této oblasti obvykle vyhýbá a Evropská unie navíc zavedla určitá pravidla, která investování do obrany ztěžují. My jsme ale našli způsob, jak to obejít. Našli jsme evropské investory, kteří nám věřili.

Kdo to byl?

Většinou to byli jednotlivci. Měli jsme velké štěstí, že nám věřil Daniel Ek, zakladatel společnosti Spotify, se svým investičním fondem Prima Materia. V dalších investičních kolech se nám pak podařilo získat financování například od společnosti Saab a dalších partnerů. Jsou to investoři, kteří dříve do obrany neinvestovali, ale nyní věří, že obrana našich hodnot a demokracie je klíčová.

Hodně technologických startupů se z Evropy přesouvá do Spojených států, kde je pro ně stabilnější a tradičnější prostředí. Proč Helsing zůstává v Evropě?

Je to tím, jak chápeme své poslání, kterým je vývoj a výroba technologií potřebných k ochraně našich demokratických zemí. My jsme se vlastně zachovali opačně, do Evropy se kvůli nám vrátilo několik lidí z velkých amerických technologických firem, kteří své bohaté zkušenosti využívají při práci na evropských misích. V nejnovějších investičních kolech jsme také získali americký kapitál.

Proč se zaměřujete na Evropu?

V tom máme jasno. Vznikli jsme zde, poměrně brzy po napadení Ukrajiny jsme tam začali pomáhat a některé z poznatků, které jsme tam získali, teď přenášíme zpět. Jsme přesvědčeni, že nyní je třeba se zaměřit na východní křídlo NATO, které podle nás čelí nejvážnějším výzvám. Je dvakrát větší než v dobách studené války, na svou obranu má ale ve srovnání s minulostí jen třetinu prostředků. V jeho obraně proto musejí hrát velkou roli technologie a je to docela naléhavé, podle mého názoru k tomu musí dojít už v příštích dvou letech.

Používají se vaše technologie v bojích na Ukrajině?

Ano, Ukrajině jsme naše technologie dodali a zapojíme se tam ještě mnohem víc. S ukrajinskou vládou jsme letos podepsali memorandum o porozumění, v němž jsme se zavázali k zapojení dalších technologií i k posílení tamního průmyslu. Ukrajina je velmi silná ve výrobě dronů i v dalších oblastech, což jí umožňuje využívat evropské technologie a budovat vlastní průmyslovou základnu.

Spolupracujete se společností Airbus, nedávno jste podepsali dohodu s estonskou vládou. Chystáte něco podobného s českými partnery?

Jak jsem řekl, zaměřujeme se na východní křídlo NATO a střední Evropa v něm hraje klíčovou roli. V Praze jsme hlavně proto, že chceme vyslat signál. Odezva od představitelů různých vlád, s nimiž jsme tady mluvili, je celkem pozitivní.

Se zbrojaři jste nejednali?

Jak jste zmínil, spolupracujeme s dalšími firmami obranného průmyslu a český trh je v tomto ohledu velmi zajímavý. Česká vláda chápe význam odstrašení i roli technologií a zdejší průmysl je velmi konkurenční a nezaměřuje se jen na národní trh. To by mohl být velmi dobrý základ spolupráce. A v neposlední řadě zde působí spousta technicky vzdělaných lidí. Na Globsec jsme přijeli i proto, abychom zjistili, jaký je tady potenciál.

Díváte se hlavně na český letecký průmysl, nebo i na firmy v jiných oborech?

Jsme na začátku, ale z prvních signálů to vypadá, že zájem je hlavně od aktérů působících v oboru pozemních sil, což je vzhledem k umístění tohoto regionu a jeho východní hranici logické. Středoevropské země musejí hrát při odrazování od možné invaze svou roli a musejí k tomu disponovat příslušnou technologií.

Které z vašich technologií se při tom mohou uplatnit?

Znovu říkám, že jsme na začátku, ale první signály se týkají hlavně využití našich bezpilotních schopností a umělé inteligence k průzkumu i jako odstrašující prostředek. Naše společnost se ale věnuje všem doménám, tedy i vzduchu a moři, takže bychom se zapojili i do těchto oblastí.

Vaše společnost o sobě tvrdí, že vyvíjí softwarová řešení k ochraně demokratických zemí. To je celkem neobvyklé a zní to hezky, ale technologie je přece neutrální. Co když vaše firma změní vlastníka, který bude toho názoru, že liberální demokracie není ten nejlepší možný systém?

O tom hodně přemýšlíme, protože to souvisí s naším hodnotovým založením, a díky němu se nám daří získávat špičkové spolupracovníky. Řekl bych, že technologie není nikdy neutrální. Je buď pozitivní, nebo negativní a záleží na tom, jak ji použijete.

To jistě, ale jaká je záruka, že tyto technologie někdo nepoužije proti evropským demokraciím?

Zaprvé je nutné zajistit, aby se technologie vyvíjela zde v Evropě. Jsme velmi regulovaná firma, u níž podléhá kontrole i to, kdo do nás investuje. Vývoz našich technologií je také velmi transparentní. V oblasti umělé inteligence jsme asi nejvíce regulovanou firmou, protože jsme se sami identifikovali jako součást obranného průmyslu.

Zadruhé jde o princip, podle kterého technologie vyvíjíme. Už jsem zmínil lidskou kontrolu, takže jde například o to, jak nejlépe navrhnout ovládací prvky, aby člověk i v časové tísni mohl systém efektivně řídit a nemačkal pouze tlačítka.

Jak přistupujete k potenciálním uživatelům vašich technologií?

Velmi zvažujeme, komu a za jakým účelem naše technologie zpřístupníme. Tvrzení, že chráníme demokracie a mezinárodní řád pro nás není prázdným heslem, protože v tomto uspořádání jsme vyrostli a těžili jsme z něj. Většina lidí v naší firmě vyrostla ve třicetiletém období globalizace, kdy se zdálo, že nastal konec dějin. Ukázalo se ale, že to byla jen přestávka a vracet tomuto systému něco z toho, co mi dal, je pro mě velkou motivací. Myslím, že totéž platí pro všech 300 lidí, kteří s námi pracují.