RoboCop přejel batole aneb Příběhy selhání umělé inteligence u policie

Nejprominentnějším výrobcem, o kterém magazín informuje, je firma Knightscope, která má ve Spojených státech přes padesát policejních robotů vejcovitého tvaru. Jednoho pronajímá za sedm dolarů, tedy téměř 160 korun na hodinu. Za roční výpůjčku to dělá okolo 60 až 70 tisíc dolarů, což je částka údajně srovnatelná s platem samotného strážníka.

Podle webu Crunchbase už společnost na financování získala příspěvky ve výši více než 46 milionů dolarů.

Roboti od Knightscope jsou vybaveni umělou inteligencí, kamerami, GPS navigací, lasery k zaměřování a termálními senzory, aby mohli sledovat své okolí a hlásit případné narušení veřejného pořádku.

S první nevolí veřejnosti se společnost setkala už v roce 2017, když si „chytré“ stroje pronajala skupina ochránců zvířecích práv k tomu, aby bránila bezdomovcům spát před budovou s jejich ústředím.

Větší výhrady ovšem začaly provázet Knightscope poté, co se začaly množit případy, ve kterých lidé jejich policejní roboty přistihli při činnostech opačných, než k jakým byli určeni. Tedy ignorování ženy volající o pomoc, přejíždění batolete nebo fatální konfrontaci s fontánou v nákupním centru.

Americká firma malfunkce svých strojů v minulosti řešila tak, že je označila jako odchylky od běžného chování nebo přisoudila vinu nevhodnému používání či zařazení do špatného prostředí soukromými společnostmi, které si je od ní pronajaly.

Například v říjnu loňského roku měl policejní robot údajně ignorovat ženu, která se u něj snažila dovolat pomoci. Chtěla nahlásit rvačku ve veřejném parku tím, že opakovaně mačkala nouzové tlačítko, jež stroj s nálepkou POLICE na předku svého těla má. Namísto toho, aby „chytrý“ pomocník vytočil tísňovou linku 911, jak měl být naprogramovaný, podle serveru NBC News dotyčné nakázal: „Ustupte z cesty.”

Zatímco potyčka v parku pokračovala, stroj měl následně pokračovat ve své „obchůzce”, přičemž z jeho reproduktorů hrála znělka, do které občas řekl: „Prosím, udržujte park v čistotě.“ Žena pak musela vytočit číslo na vlastním mobilu. K obraně robota se tehdy připojilo i vedení oddělení kalifornského okrsku Huntington, které si ho pronajalo. Policisté ho v té době prý testovali a po incidentu změnili vytáčení nouzového tlačítka raději na vlastní ústředí.

Policejní robot z hlavního města Washingtonu, kterému policisté přezdívali Steve, si vysloužil i pomník. Stroj se při patrole v obchodním středisku v roce 2017 dostal k fontáně pod úrovní podlahy. V momentě, kdy najel na první schod, se překulil a dovalil se až do vody. Podle webu CNBC není jisté, zda ho poškození vodou skutečně vyřadilo z provozu, Business Insider ovšem píše, že se při své službě „utopil”.

Knightscope se k této události oficiálně vyjádřil i na Twitteru, kde napsal, že stroj se poučil: „Lidé se mohou při horku zchladit ve vodě, ale roboti ne.“

O rok dříve se podle magazínu udály dva incidenty policejních robotů, oba v Kalifornii. V jednom z nich figurovalo ublížení na zdraví batoleti, zatímco ve druhém poškození stroje opilým mužem.

„Chytrý“ pomocník vážící přes 130 kilo srazil v nákupním centru ve městě Palo Alto 16měsíčního chlapce a přejel mu podle serveru ABC 7 News pravou nohu. Knightscope tehdy zareagoval omluvou rodině dítěte. K tomu ale přidal vysvětlení, že robot se zřejmě snažil batoleti vyhnout, ale to se muselo „pozpátku“ vydat ke stroji, který mu tak na nohu najel.

V kalifornském Mountain View se nachází ústředí společnosti Knightscope. A právě v jejím kampusu se odehrál poslední případ, při kterém podle Business Insideru stroj „prohrál rvačku s opilcem“. Zpravodajský web CNET dodal, že muž bezpečnostního robota převrátil, než přiběhli policisté. Ti ale dotyčného dopadli, zatkli a později obvinili z pití alkoholu na veřejnosti. Jejich robotický kolega údajně vyvázl jen se škrábanci.

Knightscope se zatím k výčtu pochybení strojů, které koncem víkendu shrnul Business Insider, nevyjdářil.