Článek
Článek si také můžete poslechnout v audioverzi.
„Je důležité, abyste si svůj hlas schovali do listopadových voleb,“ slyšely tisíce lidí v americkém státě New Hampshire v telefonním sluchátku. Bylo to 21. ledna, těsně před primárkami, a hlas na druhé straně připomínal prezidenta Bidena.
Šlo však o klon jeho hlasu zhotovený pravděpodobně pomocí nějakého AI nástroje. Vyšetřovatelé se domnívají, že za tímto podvodem stojí dvě americké firmy, které dostaly zákaz v pokračování této činnosti.
Nová pravidla amerického Federálního úřadu pro dozor nad komunikačními kanály (FCC) mají za cíl předejít tomu, aby se z podobných podvodů stala běžná taktika. Rada úřadu jednomyslně schválila nová pravidla, která jednoznačně zakazují využívání klonovaných hlasů v automatických telefonátech.
„Vypadá to jako něco z daleké budoucnosti, ale už je to tady. Zločinci využívají hlasy generované umělou inteligencí v nevyžádaných robotických hovorech k vydírání zranitelných rodinných příslušníků, napodobování celebrit a dezinformování voličů. Podvodníky, kteří stojí za těmito robotickými hovory, varujeme,“ uvedla předsedkyně FCC Jessica Rosenworcelová.
„Státní zastupitelství budou mít nyní k dispozici nové nástroje k potírání těchto podvodů a k zajištění ochrany veřejnosti před podvody a dezinformacemi.“
Klonování hlasu pomocí AI
Napodobení hlasu pomocí různých nástrojů využívající umělou inteligenci je čím dál jednodušší. Tady si můžete poslechnout naše pokusy:
Naše experimenty samozřejmě probíhaly se svolením všech zúčastněných. Podvodníci ale mohou klonované hlasy využít k novému typu útoků. Pokud tedy uslyšíte v telefonu hlas osoby, kterou znáte, raději si ověřte, že je to skutečně ona. Zvláště pokud bude chtít, abyste něco potvrdili nebo poslali peníze.
Zatímco dosud mohla státní zastupitelství stíhat pachatele pouze na základě škody způsobené těmito robo-telefonáty, nově bude protizákonné už samotné využití této technologie. Úřad v současnosti na potírání robo-telefonátů spolupracuje s 48 z padesáti amerických států.
Stačí pár sekund
Klonování hlasu může být podvodníky využito jak v hromadné kampani – jako v případě napodobení hlasu amerického prezidenta – tak k cílené manipulaci konkrétní, předem vybrané oběti.
Příkladem je více než rok starý případ vydírání. Rodiče devětatřicetiletého Benjamina Perkinse poslali tisíce dolarů údajnému právníkovi. Ten jim zavolal s naléhavou zprávou: jejich syna zastupuje u soudu a potřebuje peníze co nejrychleji.
Rodiče si poslechli žadonícího syna a uvěřili, že jde o pravý hovor. „Hlas zněl dostatečně věrně, a tak rodiče mysleli, že mluví se mnou,“ řekl Perkins. V panice se rozběhli do několika bank pro hotovost a „právníkovi“ následně poslali peníze přes bitcoinový automat.
Každý měsíc je přitom naklonování cizího hlasu jednodušší. Zatímco dříve bylo potřeba nahrát velké množství nahrávek hlasu kopírované osoby, nyní stačí pár sekund. Podvodníci tak nemají problém získat ukázku třeba z krátkého telefonátu nebo videa na sociálních sítích.
Pokud máte podezření, že vás osoba na druhé straně telefonu přemlouvá nebo tlačí do nějakého rozhodnutí – na základě časové nebo jiné tísně – pokuste se ověřit, zda nejde o podvod. Klonování hlasu už je možné i v češtině, a to dostatečně kvalitně na to, aby to ošálilo i lidi, kteří daného člověka důvěrně znají.
Takovýmto podvodům samozřejmě nové americké pravidlo nezabrání. Pokud však dojde k odhalení, bude jednodušší pachatele stíhat. Zároveň ale nové pravidlo omezí i firmy, které využívají robotického hlasu k tomu, aby se mohly ozvat více lidem bez nutnosti zapojit velké množství telefonistů. To však úřad považuje za výhodu, protože to omezí počet nevyžádaných hovorů.
