Článek
Na sociálních sítích firmy Meta, Instagramu a Facebooku, se v prosinci začala ukazovat falešná reklama lákající na zázračné výdělky za použití obličeje a hlasu opozičního lídra Andreje Babiše. Obojí je ovšem zfalšované.
„Pro vydělávání na této platformě stačí mít telefon nebo počítač a vložit minimálně 6000 korun,“ radí uživatelům „politik“.
Na rozdíl od předchozích případů falešných reklam nejde pouze o fotomontáž nebo neprofesionálně provedenou grafiku, ale o video s tzv. deepfake technologií. Jeho tvůrce si za pomoci umělé inteligence „naklonoval“ Babišův hlas a skrze softwarový příkaz může politika, který u mnoha lidí vyvolává důvěru a záruku úspěchu, přinutit říct naprosto cokoliv.
Nejen Babiš, ale i Pavel
Ze zkušenosti kriminalistů se zdaleka nejedná o ojedinělý případ.
„Princip je takový, že vidíte placenou reklamu, většinou jde o sponzorovaný odkaz, který vede na nějaký článek. Součástí toho článku je formulář, jsou tam recenze nebo třeba video nějaké další osoby, která už je reálná. Je to obvykle česky mluvící člověk, který o tom produktu mluví a utvrzuje uživatele v jeho pravosti,“ popisuje podvodné praktiky policista, který se na oblast kyberkriminality specializuje (redakce jeho jméno zná, z důvodu ochrany jeho profesní identity ale respektuje přání zůstat v anonymitě, pozn. red.).
Po prokliku na webovou stránku se následně člověk zaregistruje, uvede do formuláře své jméno, telefonní číslo a e-mail a podvodníci ho následně sami kontaktují.
Obličej Andreje Babiše přitom není zdaleka jediným, který podvodníci na sociálních sítích při tvorbě deepfakes lákajících na investice zneužívají. Volí i další známé – a pro mnohé důvěryhodné – tváře, například prezidenta Petra Pavla.
Konkrétní případ podvodu jsme popisovali zde:
Podle Reného Szotkowskiho, jednoho z autorů projektu E-Bezpečí, zaznamenali v internetové poradně takových případů již desítky. „Ozývají se nejenom senioři, i když se dá říct, že valnou většinu případů podvedených lidí tvoří právě oni. Nicméně čím dál tím častěji se nám v poradně objevují i lidé středního věku,“ líčí expert z Univerzity Palackého v Olomouci.
Velká část lidí navíc podle něj svou zkušenost s nikým nesdílí, protože se za ni stydí. „Ale jsou to opravdu škody, stoprocentně milionové, o možná jde už o desítky milionů. A jak říkám, je to problém, u kterého je pro mě záhadou, že se neřeší,“ dodává.
Seznam Zprávy požádaly o vyjádření i zástupce hnutí ANO, které by mohlo falešné spojení tváře jeho lídra s podvodnou investiční firmou poškodit.
„Ano, víme o tom a na sociálních sítích na to opakovaně upozorňujeme. Pan Babiš natočil už několik videí, kde varuje, že se jedná o podvodná videa. Zároveň samozřejmě reagujeme na veškeré e-mailové dotazy a podvodné příspěvky nahlašujeme provozovatelům sítí,“ uvedl mluvčí hnutí Martin Vodička.
Facebook to neřeší
Právě nahlášení příspěvku správcům platforem ale není podle osloveného policejního experta v současné době příliš efektivní cesta.
„Když uživatel daný článek nebo video nahlásí, tak automaticky nezmizí. To hlášení je bohužel úplně k ničemu, pokud nejde o obsah, který by v sobě nesl znaky extremismu, radikalismu nebo dětské pornografie, tak Facebook to neřeší. Navíc podobných videí jsou tisíce, desetitisíce, statisíce,“ vysvětluje policista, proč je v tuto chvíli komplikované podobné podvodné praktiky jakkoliv brzdit.
Vytvoření falešného videa navíc podle něj není nikterak komplikované. Díky dostupnosti nástrojů pro manipulaci obsahu je to otázka několika minut. Jen letos tak podle České asociace umělé inteligence došlo v Česku k nárůstu útoků využívajících deepfakes o 660 %. V Evropě pak dokonce o 780 %.
„Vezmete zhruba minutový zvukový záznam, nahrajete ho do aplikace umělé inteligence, kde stačí úplně běžná registrace. Zaplatíte poplatek, který je v řádu třeba desítek dolarů na měsíc. A z toho záznamu vám to už samo vygeneruje hlas. Vy už pak jenom vezmete video, které vložíte do další aplikace, a ta přizpůsobí obraz zvuku,“ popisuje kriminalista.
Za rok video nerozpoznáte od reality
Jak odhalit, že se jedná o internetový podvod?
„Úplně jednoduše. Nic takového v reálném životě zkrátka nefunguje a neexistuje. Takhle se přece investovat nedá, ten systém takhle nefunguje. Samozřejmě vidíte, že ten hlas zní jinak, pusa se nehýbe tak, jak by správně měla… ale to se bavíme teď, po roce, kdy nám tady tyhle technologie fungují. Za další rok už to video bude působit zcela autenticky a bude nerozpoznatelné,“ předpovídá policista.
Podle Lukáše Benzla, šéfa České asociace umělé inteligence, je pro provozovatele platforem identifikace závadného obsahu tématem už dlouho.
„A rozvoj AI taktéž umožňuje deepfake podvody lépe detekovat. Výraznější legislativní a bezpečnostní opatření jsou jednoznačně namístě, nicméně prvním a dost možná nejefektivnějším krokem je obezřetnost uživatelů a důraz na kritické myšlení,“ apeluje Benzl.
Prevenci zdůrazňuje i zástupce policie. Pro tu je navíc ve většině případů nemožné jednání jakkoliv podrobně vyšetřit, jelikož útoky jsou zpravidla organizovány ze zahraničí a pro policisty je obtížné dohledat, kdo za nimi stojí.
„Covid všechno změnil a změnil i pachatele. Prostě nemohli za oběťmi jít, tak si je vyhledali jinak a zjistili, že je to výhodnější než sem vozit drogy, pašovat lidi nebo krást auta, protože tady jsou peníze rychle a dopředu a lidé jim je dávají sami,“ uzavírá kriminalista.
