Okamurovu kampaň stvořila umělá inteligence, teď ji sama cupuje za rasismus

Článek si také můžete poslechnout v audioverzi.

Tomio Okamura kampaní před krajskými volbami rozproudil mnoho debat, někteří mu nadávají do rasistů, jiní vyčítají, že na plakátech vystavuje dezinformace. Plakáty v obří velikosti dokonce spolu se svým týmem vyvěsil na Václavském náměstí v Praze.

Pražský radní Jiří Pospíšil (TOP 09) kvůli kampani podal trestní oznámení, podle něj kampaň podněcuje k nenávisti vůči menšinám. Podle mluvčího pražské policie Jana Daňka policie věc stále prošetřuje, první ze sérií stížností už však minulý týden z procesních důvodů zamítl Ústavní soud.

Kampaň SPD:

Co je ale na kampani, kterou SPD odstartovala vizuálem s mužem tmavé pleti držícím nůž a nápisem „Nedostatky ve zdravotnictví nevyřeší chirurgové z dovozu“, tak zajímavé? Když pomineme otázky ohledně etického a morálního překračování hranic, tak určitě fakt, že ji strana připravila s pomocí AI, což v politickém marketingu není zvykem.

„Ano, všechny vizuály jsou vygenerované pomocí AI, byli jsme v tomhle první, odpálili jsme to,“ potvrdila Seznam Zprávám mluvčí SPD Lenka Čejková. Trestní oznámení bere SPD podle ní jako útok. „Je to ubohá snaha zdiskreditovat naši kampaň od člověka, kterého nechtěla ani vlastní strana,“ dodala Čejková na adresu Pospíšila. Předseda SPD kampaň před dvěma týdny hájil také v pořadu K Věci na CNN Prima NEWS.

„Chtěli jsme takovou alegorii,“ popsal v pořadu Okamura. „SPD je první českou stranou, která používá ty nejmodernější technologie,“ zdůraznil.

Seznam Zprávy se rozhodly kampaň analyzovat netradičně –⁠⁠⁠⁠⁠⁠ také pomocí AI, jejíž výsledky jsme porovnali s komentářem od živého experta, vedoucího mezinárodních projektů analytického ústavu STEM Nikoly Hořejše. Závěry AI a experta se v zásadě neodlišují, živý odborník ale přece jen přináší více výhod. Například historický kontext a lepší schopnost reagovat na doplňující otázky.

AI analýzu sestavila spolupracovnice redakce Lucie Tomanová, která se na umělou inteligenci specializuje a je zároveň lektorkou neziskové vzdělávací organizace AI dětem. V ChatGPT naprogramovala takzvanou personu, což je takový předtrénovaný asistent, který má „naládované“ znalosti z určité oblasti –⁠⁠⁠⁠⁠⁠ v tomhle případě simuluje bezpečnostního analytika.

Expertka se trénovaného AI asistenta jako první zeptala právě na vizuál s mužem tmavé pleti. Zajímalo ji, jestli je obrázek rizikový z hlediska propagandy nebo dezinformací.

AI našla hned několik důvodů, proč je obrázek rizikový. „Obrázek zobrazuje černocha s krvavým nožem, což posiluje nepravdivý a stereotypní obraz migrantů jako násilných a nebezpečných. To má za cíl vyvolat strach a nenávist vůči lidem s odlišnou barvou pleti či jiným etnickým původem. Tento typ vizuálního obsahu hraje na emoce diváka, zejména na pocity strachu a odporu,“ píše v hodnocení virtuální asistent.

Podle experta Hořejše jde kampaň obecně na hranu tím, že nejvýraznější jsou na ní vizuály. „Lidský mozek dá spíše na to, co vidí, až pak na to, co čte. Tato kampaň se dostává na hranu toho, co je přijatelné. Ve všech slovech být lež nemusí, obrázek to ale dokresluje,“ vysvětluje Hořejš.

Spojení zdravotnictví s migrací a násilím navíc podle AI vytváří falešnou kauzalitu. „Na základě tohoto obrázku by divák mohl dospět k závěru, že migranti jsou příčinou problémů ve zdravotnictví, což není podloženo fakty. Je to typická technika dezinformací, kdy se komplexní problém (nedostatky ve zdravotnictví) zjednoduší a nesprávně spojí s jiným tématem (migrace),“ píše v analýze asistent.

Živý expert souhlasí. Výše zmíněný plakát je podle Hořejše za hranou hlavně kvůli větě o migračním paktu, který nijak nesouvisí s nedostatkem zaměstnanců kdekoliv. SPD podle Hořejše lže, protože bez cizinců by české zdravotnictví trpělo ještě větším nedostatkem personálu. Cizí pracovníci ho podle dat skutečně zachraňují.

„Má to xenofobní až rasistický podtext,“ doplňuje Hořejš.

Podle experta i AI obrázek teoreticky porušuje některé české zákony. Například § 355 Trestního zákoníku –⁠⁠⁠⁠⁠⁠ Hanobení národa, rasy, etnické nebo jiné skupiny osob nebo § 356 –⁠⁠⁠⁠⁠⁠ Podněcování k nenávisti vůči skupině osob nebo k omezování jejich práv a svobod.

Další předvolební plakát, kterým se AI zabývala, zobrazuje ženu v temné uličce. Text vizuálu slovy ženy hlásá, že „vládní tolerance mě před nepřizpůsobivými neochrání“. Zadání bylo opět stejné –⁠⁠⁠⁠⁠⁠ analyzovat obrázek z hlediska propagandy a manipulace.

Podle umělé inteligence vizuál skutečně s konzumentem manipuluje. Identifikuje pro něj například nepřítele. „Hlavním motivem plakátu je tvrzení: „Vládní tolerance mě před nepřizpůsobivými neochrání!“ Tento výrok vytváří polarizaci mezi „my“ (předpokládaná cílová skupina, která se cítí ohrožena) a „oni“ (zde nazývaní „nepřizpůsobiví“). Tento termín je vágní a manipulační, protože není jasně definován, ale cílí na různé marginalizované skupiny (například migranty, Romy apod.), čímž zesiluje strach a negativní emoce vůči těmto skupinám,“ analyzuje AI.

Hořejš vidí nejen v plakátu se ženou, ale také v dalších vizuálech kampaně, klasické citové vydírání. „Klouzají po hraně, trestné to ale spíše není,“ míní expert. SPD podle něj umně využívá náznaky, nepíše explicitně „židi do plynu“, ale vědomě vyvolává ve svých voličích strach.

Není to ale podle něj nic nového, nejen v české politice strany před volbami s manipulativními technikami nešetří. Hořejš připomíná příklad z amerických voleb v šedesátých letech minulého století, kdy dívenka v televizním spotu hledala na poli sedmikrásky a postupně z nich trhala okvětní lístky, což přešlo do odpočítávání výbuchu jaderné bomby. Mělo to poukazovat na snahu jednoho z kandidátů prosadit „taktický jaderný útok“ v právě začínající válce ve Vietnamu.

Na tuzemské politické scéně vychází z pohledu manipulací a nepravdivých tvrzení v kampaních podle Hořejše a jeho týmu hůře současná opozice. „Někdy jde pouze o dočasnou nevědomost, za kterou se kandidáti posléze omlouvají. Podle našeho průzkumu nicméně ANO a SPD skutečně více manipulují, obchod se strachem zkrátka funguje,“ dodává Hořejš.

Podle Tomanové je umělá inteligence pro podobné analýzy skvělým pomocníkem, na rozdíl od jiných technologií totiž dokáže pracovat i s vizuály, do budoucna zřejmě i s videem. „Pomáhat to může bezpečnostním expertům, kteří musí procházet obrovské množství mnohdy nechutného obsahu a mají z toho často psychické potíže,“ říká Tomanová.

Právě kvůli umělé inteligenci lze na internetu nalézt násobně více rasistického či propagandistického obsahu, kterým se analytici musí zabývat a posuzovat jeho závadnost. „Občas je to opravdu žumpa,“ přibližuje Tomanová, která v rámci své práce podobné analýzy ukazuje i dětem ve školách.

Podle Tomanové, která na Seznam Zprávách nedávno publikovala podrobný návod k používání ChatGPT, lze pro podobné analýzy jako tu z kampaně SPD nyní vytvářet také v nejnovější placené verzi této aplikace –⁠⁠⁠⁠⁠⁠ GPT-4o.

„Už jsem ji ani nemusela trénovat,“ uzavírá Tomanová.