Článek
Článek si také můžete poslechnout v audioverzi.
Naklonovat lidský hlas je čím dál jednodušší. Jakmile si podvodník stáhne krátkou ukázku zvukového klipu z něčí zprávy na sociálních sítích nebo z hlasové schránky, stačí klidně jen 30 sekund, může použít nástroje pro syntézu hlasu umělou inteligencí. Ty jsou lehce přístupné na internetu a během chvíle má šejdíř vše potřebné.
Na videokonferenci se objevila moje deep fake kopie, spolu s další osobou, která se vydávala za našeho externího právníka.
Veřejné účty na sociálních sítích navíc poskytují o lidech spoustu informací. Není tak vůbec složité zjistit, s kým je člověk příbuzný, jaké má přátele nebo kde bydlí a pracuje. Šéfové bank podle Bloombergu zdůrazňují, že podvodníci, kteří provozují své operace jako firmy, jsou trpěliví a někdy plánují útoky celé měsíce.
Některé podvody navíc dovedou být obzvlášť zákeřné, umělá inteligence totiž dovede naklonovat také například dětský hlas. Rodičům či prarodičům pak najednou zazvoní telefon, ze kterého se ozve dokonale napodobený hlas jejich syna či vnučky. Tyto triky, známé jako podvody sociálního inženýrství, mají obvykle největší míru úspěšnosti a podvodníkům přináší nejrychlejší zisky.
„Potřebuju tvou pomoc, skoč rychle na call“
Když vám napíše šéf na mobil, že s vámi něco rychle potřebuje probrat přes videokonferenci, nejspíše budete mít tendenci vyhovět. To udělal i zaměstnanec slovenské firmy GymBeam.
Jenže šéf o tomto hovoru vůbec nevěděl. „Na videokonferenci byla moje deepfake kopie, spolu s další osobou,“ popsal Dalibor Cicman, šéf společnosti GymBeam. Druhý člověk se vydával za externího právníka firmy a většinu hovoru moderoval právě on. To zřejmě útočníkům usnadnilo práci – nemuseli klonovat velké množství textu, stačilo jen několik předem připravených hlášek.
Cílem podvodného hovoru zřejmě bylo zjistit podrobnosti o firemních účtech, včetně konkrétních zůstatků. Během hovoru ale naklonovaná kopie řekla, že je už dva týdny mimo kancelář. „Protože ten den jsme se s tím daným kolegou viděli v kanceláři, kolega mi během videohovoru napsal přes firemní kanál,“ vzpomíná Cicman na šťastnou náhodu, která útočníkům zhatila plány. „Okamžitě jsem mu odpověděl, že na videohovoru to nejsem já.“
Klonování hlasu i videa pomocí AI už není sci-fi
Nástroje pro napodobení cizího hlasu jsou dostupné na internetu prakticky komukoli. Například uživatelé telefonu iPhone mohou naklonovat svůj hlas na základě 15 minut nahraných ukázek. Zatímco Apple se snaží, aby tuto možnost nebylo možné zneužít, jiné služby takové pojistky nenabízejí.
Podvodníci zneužívají klonování hlasů například k vydírání rodičů, kterým přehrávají zfalšované volání jejich dítěte o pomoc. Útočníci také zkoušejí pomocí falešného hlasu a videa zvýšit svou důvěryhodnost v očích příjemců. Známý je případ, kdy útočníci ve falešném videu napodobovali bankéře:
Celý útok probíhal anglicky, což nebylo nijak divné, protože s daným zaměstnancem – manažerem rumunské pobočky – byl šéf zvyklý komunikovat anglicky. Nástroje na klonování hlasu jsou v angličtině dostupnější, ale existují i verze pro další jazyky, včetně češtiny.
Útočníci se snažili vyvolat dojem urgence, aby tak zaměstnance přiměli připojit se přes komunikační platformu, kterou ve firmě běžně nepoužívají. Odkaz přišel z podvrženého čísla na WhatsAppu, profil napodoboval vzhled profilu Dalibora Cicmana.
„Máme směrnici, která stanoví, že pracovní záležitosti nesmějí být komunikovány mimo platformy, které interně používáme,“ popsal Cicman pro Seznam Zprávy. „Usoudili jsme, že bude prospěšné směrnici znovu interně zdůraznit, což jsme následně udělali. Zaměstnanci finančního oddělení absolvovali školení, aby věděli, na co konkrétně si dát pozor při platbě na nový IBAN. Máme proces, ve kterém manažeři novou platbu před odesláním zkontrolují.“
Jak se bránit podvodům, které kopírují hlas a podobu?
Podvodníci mohou relativně snadno zneužít vaši podobu nebo hlas na základě videa, nahrávek a fotek, které jste publikovali na internetu. S použitím speciálních – ale čím dál dostupnějších – nástrojů mohou vytvořit nahrávku, nebo dokonce živou „deep fake loutku“, která bude na první pohled k nerozeznání od vás.
Firmy by tedy měly zdůraznit svým zaměstnancům nutnost používat k oficiální komunikaci pouze schválené firemní kanály: „Útočníci se v obětech obvykle snaží vyvolat pocit urgence, aby je přiměli k uspěchaným nebo neobvyklým rozhodnutím, většinou k porušení zavedených firemních procesů,“ popisuje častou taktiku Luis Corrons, bezpečnostní expert Avastu. V takové situace je důležité se nenechat zmást a osobu kontaktovat jiným kanálem, abyste si ověřili, že je to skutečně ona.
„U schvalování finančních operací nebo poskytování citlivých informací je důležité mít nastavené procesy, komunikační kanály a odpovědné osoby, které mohou takové informace poskytovat,“ radí Vladimíra Žáčková, specialistka kybernetické bezpečnosti společnosti ESET. „Riziko prozrazení důvěrných informací nebo schválení neoprávněných operací se tak značně snižuje.“ Připomíná také, že firmy by si měly dávat pozor, co všechno o sobě na webu zveřejňují. Zejména organizační struktura společnosti může být útočníky snadno zneužitelná, protože jim umožní věrohodněji napodobit něčí vystupování.
Ani jednotlivci nejsou v bezpečí. S tím, jak se cena sofistikovaných útoků snižuje, mohou se s nimi setkat i soukromé osoby. „Nevěřte hlasu,“ varuje americká Federální obchodní komise. „Kontaktujte tu osobu jiným způsobem a ověřte, že je to skutečně ona.“ Můžete si také s blízkými předem domluvit heslo pro podobné případy. Nebo se alespoň zeptat na otázku, na kterou vy i dotyčný určitě znáte odpověď, ale která nejde dohledat na internetu.
Technologie podobná „deep fake“ je známá už od roku 2016. Výzkumníci z Německa a Velké Británie tehdy ukázali prototyp falšování videa. Jako loutku tehdy zvolili mimo jiných i prezidenta Putina:
Vědci ukázali základy strojové náhrady obličeje ve videu už v roce 2016.Video: Face2Face, Thies at al 2016, sestřih Pavel Kasík
Nové verze dostupných nástrojů zvládají to samé, a navíc umí i falšovat hlas napodobované osoby. Pořád nejde o dokonalé zobrazení, ale pro ošálení třeba v rámci komunikace přes videokonferenci to může stačit.
Kvůli umělé inteligenci podvodů přibývá
Podvody využívající strojového učení jsou pro útočníky zatím z mnoha důvodů snazší v anglickém jazyce. Jen ve Spojených státech přišli kvůli podvodům spotřebitelé vloni o téměř 8,8 miliardy dolarů. To je o asi 44 procent víc než v roce 2021. Podfukářům se navíc daří i přesto, že se v USA rekordně investuje do technologií, které by podvody měly odhalit a eventuálně jim také předcházet.
Odborníci ze světových bank, jako je Deutsche Bank nebo Wells Fargo, pokládají tento druh podvodů za jednu z největších hrozeb finančního sektoru, píše Bloomberg. Riziko totiž nepředstavují pouze vysoké náklady, které musí banky vynaložit na boj s podvodníky, ale také ztráta důvěry oklamaných zákazníků.
S novými technologiemi se navíc snižuje cena podvodů, což zločincům umožňuje zasáhnout mnohem větší skupinu lidí. A nejde už pouze o e-maily od princů, kteří nutně potřebují vaši pomoc, nebo zprávy od amerických vojáků.
Hlavní rady, jak se bránit on-line podvodům
- Obezřetně zacházet s přihlašovacím jménem a heslem, nejlépe všude zapnout dvoufázové ověření.
- Neposkytovat citlivé údaje bez dobrého důvodu.
- Nezadávat platební údaje mimo důvěryhodné weby.
- Nevěřit telefonátům, SMS nebo e-mailům (lze podvrhnout). Ověřovat si, s kým komunikujeme.
- Nevěřit odkazům v textových zprávách a e-mailech.
- Nedávat cizím lidem přístup na svůj počítač/mobil.
- Nevěřit nabídkám „zaručeného výdělku“ nebo snadného zisku.
- Nekupovat jakékoli produkty či nástroje, kterým zcela nerozumím (kryptoměny, kupony, předplacené karty apod.).
- Neinstalovat software na základě doporučení neznámého člověka.
- V případě podezření se nebojte říci si o pomoc, kontaktujte svou banku, policii apod.
Celosvětové náklady na kyber zločiny, a to jak na podvody, tak na jejich prevenci, dosáhnou v letošním roce asi osm bilionů dolarů. To je víc než hospodářský výkon Japonska, třetí největší ekonomiky světa. Vyplývá to ze statistik společnosti Cybersecurity Ventures.
Ta do budoucna očekává, že náklady na kybernetickou kriminalitu porostou v příštích třech letech o 15 procent ročně. Pro porovnání, v roce 2015 činily tyto náklady tři biliony dolarů.
Za poslední tři roky vzrostly také průměrné celosvětové náklady spojené s jedním únikem dat, a to asi o 15 procent. Jen za rok 2023 byl celosvětový průměr nákladů, včetně ušlého zisku, řešení problému a právních nákladů, asi 4,45 milionů dolarů.
Se zločinci je třeba držet krok
„Dá se předpokládat, že v příštích dvou až třech letech uvidíme více kriminálních útoků generovaných umělou inteligencí,“ sdělil Bloombergu Rob Pope, ředitel novozélandské vládní agentury pro kybernetickou bezpečnost CERT NZ.
To, co zatím vidí jeho týmu zabývající se podvody, je podle něj pouze malou ochutnávkou toho, co umělá inteligence umí.
„Umělá inteligence zrychluje míru rafinovanosti a schopnost těchto zlých lidí,“dodává Pope.
Thomas Roberts, vedoucí oddělení řízení podvodů v Commonwealth Bank of Australia (CBA) uvádí, že banka nyní sleduje prostřednictvím sítě dohledových nástrojů přibližně 85 milionů událostí denně. A to v zemi s pouhými 26 miliony obyvatel.
Banky chtějí podvodům čelit především osvětou spotřebitelů. Nový software tak umožňuje CBA zjistit, kdy zákazníci během transakce používají počítačovou myš neobvyklým způsobem, což je varovný signál pro možný podvod. Cokoli podezřelého, včetně místa určení objednávky a způsobu zpracování nákupu, může upozornit zaměstnance během pouhých 30 milisekund, což jim umožní transakci zablokovat, píše Bloomberg.
Jak útočníci vydělávají na online podvodech?
- Krádež platebních karet – Podvodník může trikem získat čísla k vaší platební kartě. Ta pak využije k nákupu zboží nebo k dalšímu prodeji.
- Vzdálený přístup na počítač – Podvodník vás pod nějakou záminkou vyzve k instalaci programu pro vzdálený přístup. Pak může ovládat váš počítač a například vás sledovat, když se přihlásíte do svého internetového bankovnictví.
- Platba skrze kryptoměny – Podvodníci často využívají bitcoin nebo další kryptoměny k získání finančních prostředků od svých obětí. Může jít například o vydírání (ransomware) nebo další tipy podvodů.
- Falešné investice – Útočník nabídne výhodné investice, ve skutečnosti se ale jedná o tzv. Ponziho schéma (systém tzv. letadla, či pyramidy), kde jsou výnosy pouze virtuální.
- Falešná výhra, falešné dědictví – Podvodník oběti slíbí zaslání velké finanční částky. Ta je, jak se později ukáže, podmíněna zasláním menší částky na pokrytí nákladů spojených s transakcí.
- Platba skrze alternativní platební systémy – Útočník může požadovat platbu prostřednictvím kreditů, kuponů nebo služeb pro posílání peněz do ciziny (Western Union, Moneygram apod.).
- Přeposlání kódů – Útočník může obejít dvoufaktorové ověření tak, že vás pod nějakou záminkou požádá o přeposlání SMS s potvrzovacími kódy.
- Prodej osobních údajů – Útočník může získat osobní údaje, přihlašovací jména nebo hesla, která pak dále přeprodává jiným podvodníkům k dalšímu využití.
- Instalace škodlivého softwaru – Útočník může na počítač nebo mobil oběti nainstalovat skrytou aplikaci, která umožní nepřetržité sledování oběti.
Kdykoli po vás někdo na internetu požaduje cokoli z uvedeného, je čas zbystřit. A to i v případě, že jde o člověka, kterého dobře znáte. Je totiž možné, že se jeho profilu zmocnil útočník, který se za vašeho známého pouze vydává.
Podle Thomase Grafa, vedoucího inženýra pro strojové učení, v Deutsche Bank vývojáři nedávno přestavěli systém pro detekci podezřelých transakcí - Black Forest - s využitím nejnovějších modelů zpracování přirozeného jazyka. Nástroj zkoumá kritéria transakcí, jako je objem, měna a cílová destinace, a na základě množství dat se automaticky učí, které vzorce naznačují podvod. Model lze použít pro maloobchodní i firemní transakce a již odhalil několik případů, včetně jednoho, který se týkal organizovaného zločinu, praní špinavých peněz a daňových úniků.
Své systémy přepracovala také společnost Wells Fargo. Slibuje si od nich, že budou umět čelit rizikům spojeným s naklonovanými hlasy a tvářemi.
Útočníci si podle fotek mohou vytvořit i fyzickou masku. Ta může vypadat jak z obchodu s kostýmy, ale ty lepší jsou na úrovni Hollywoodu.
„Školíme náš software a naše zaměstnance, aby byli schopni tyto podvrhy rozpoznat,“ komentuje pro Bloomberg Chintan Mehta, vedoucí digitálních technologií společnosti Wells Fargo.
Problém ovšem je, že jakmile společnosti zpřísní svou obranu, začnou podvodníci hledat nový způsob, jak ji obejít. Systémy se tak musí neustále vyvíjet, aby se zločinci držely krok, což přirozeně stojí spoustu peněz.
Obejít se dají i otisky prstů nebo občanka
Některé banky při zakládání účtu vyžadují, aby jí zákazníci poskytli fotku svých dokladů, občanky, pasu, případně řidičského průkazu. Jiným dnes stačí, aby se člověk přihlásil pomocí své bankovní identity. Podvodníci proto na „temném webu“ skupují citlivé informace a ze sociálních médií pak vytahují fotky svých obětí. Posléze si vytisknou 3D masky jejich obličejů, aby vytvořili falešné doklady s ukradenými údaji.
„Ty mohou vypadat jako cokoli. Jako něco, co dostanete v obchodě s kostýmy, až po extrémně realistickou silikonovou masku hollywoodských standardů,“ uvedl pro Bloomberg Alain Meier, vedoucí oddělení identit ve společnosti Plaid.
Ta pomáhá bankám, finančním technologickým společnostem a dalším podnikům bojovat proti podvodům pomocí speciálního softwaru pro ověřování totožnosti. Plaid analyzuje strukturu a průsvitnost kůže, čímž potvrdí nebo vyvrátí, jestli osoba na fotografii vypadá skutečně.
Nejrychleji rostoucí kategorií podvodů jsou pak podle Bloombergu investiční podvody, které se obětem často nabízejí prostřednictvím internetových vyhledávačů, kde si podvodníci mohou snadno koupit sponzorované reklamní plochy. Když na ně potenciální investoři kliknou, zobrazí se jim realistické prospekty a další finanční data. Jakmile převedou podvodníkovi peníze, může trvat měsíce až roky, než si uvědomí, že byli podvedeni. Většinou to zjistí až v moment, kdy se pokusí svou investici zpeněžit.
Kdo ztráty zaplatí?
Podvedení lidé přirozeně požadují odškodnění. S tím, jak podvodů přibývá, je ale čím dál méně jasné, kdo by měl za ztráty nést odpovědnost. Pokud vám někdo vyčistí účet, banka peníze pravděpodobně vrátí. Situace se však mění ve chvíli, kdy se napálíte a peníze podvodníkům pošlete dobrovolně.
I to se ovšem v některých zemích rychle mění. Velká Británie má v plánu po bankách vyžadovat, aby obětem podvodu nahradily škodu, pokud byly peníze převedeny prostřednictvím systému rychlých plateb, který slouží k posílání peněz mezi britskými bankami. Politici a obhájci spotřebitelských v dalších zemích prosazují podobné změny také. Je podle nich totiž naivní očekávat, že lidé tyto stále sofistikovanější podvody rozpoznají, píše Bloomberg.
Banky se ovšem obávají, že by změna pravidel podvodníkům pouze usnadnila práci. Vedoucí představitelé finančního průmyslu po celém světě se také snaží přenést část odpovědnosti na technologické firmy.
Deep Fake videa: prezident, komedie i porno
Videomontáž zvaná „deep fake“ využívá strojového učení. Odtud také pochází její název, slovo deep odkazuje na tzv. hluboké strojové učení využívající umělé neuronové sítě. Od běžných videomontáží se deep fake liší především svou dostupností a rychlostí.
Zatímco dříve by věrohodná montáž vyžadovala práci celého týmu schopných grafiků a odborníků na filmové efekty, dnes zvládne „přelepit jeden obličej druhým“ téměř kdokoli. Stačí k tomu zdrojové video a co nejvíce fotek cílového herce. Třeba v této ukázce z produkce HBO natočil herec Jan Vlasák zdrojové video, na které pak schopný grafik nalepil podobu prezidenta Miloše Zemana.
Deep Fake montáž Miloše Zemana pro reklamu na seriál Bez vědomí z produkce HBOVideo: video: HBO, sestřih: Pavel Kasík
Oprava: Opravili jsme překlep v názvu firmy.
