Článek
Rozhovor si také můžete poslechnout v audioverzi.
Jazykové modely umělé inteligence, které řada lidí začíná používat místo vyhledávačů, v uplynulých měsících šířily řadu lží. Například, že USA provozují na Ukrajině tajné laboratoře na výrobu biologických zbraní, až po výmysl, že ukrajinský prezident Volodymyr Zelenskyj zneužil vojenskou pomoc, například k nákupu německého venkovského sídla, které často navštěvoval Adolf Hitler.
Zmanipulovat AI nástroje se podařilo díky velkému množství na první pohled věrohodných článků, do kterých propagandisté z ruské sítě Pravda„propašovali“ několik dezinformací.
Jak lze infiltrovat AI jsme popisovali v nedávném textu:
„Pro AI může být pravda jak ji známe, matoucí. Vy nebo já zřejmě vnímáme pravdu podobně, z ruské perspektivy je ale pravda něco úplně jiného,“ vysvětluje v rozhovoru pro Seznam Zprávy Sergey Shykevich, výzkumník hrozeb kyberbezpečnostní společnosti Check Point.
Odborník mimo jiné na mezinárodní kyberhrozby, který má zkušenosti také z izraelské armády, přibližuje i život ruských hackerů, kteří takové operace provádí. „Žijí v absurdním luxusu, mají zlatá auta, stejně jako ostatní Rusové ale nemohou legálně vycestovat ze země,“ říká Shykevich.
Jakým způsobem se podařilo zmanipulovat AI nástroje, aby odpovídaly na vybrané otázky ruskou propagandou?
Byla to kreativní operace. V bezpečnostní komunitě se dlouho mluví o tom, jak „otrávit“ velké jazykové modely – jestli je hacknout, mít uvnitř společnosti špiona a tak podobně. Tady na to ale šli jinak, vytvořili obrovskou síť článků, kterými modely zahltili. Zároveň investovali mnoho prostředků do toho, aby tyto články působily věrohodně a AI je akceptovala. A to se jim podařilo.
Pravda může být matoucí
To, o čem mluvíte, je poměrně čerstvá záležitost, společnost NewsGuard, která zkoumá a sleduje online dezinformace, zjistila, že Pravda takto loni rozšířila celkem 207 prokazatelně nepravdivých tvrzení. Zdokonalují se podobné kyberhrozby v době válek?
Určitě. Když se podíváte na všechny z těch stovek webů, které byly vytvořeny vyloženě proto, aby je četla AI, jsou prokazatelně propojené s Pravdou. Není to jako dřív, kdy se některé weby snažily kopírovat vzhled zahraničních zpravodajských webů, jako třeba CNN, a publikovat na nich dezinformace. Tady to bylo jinak. Tyto nové weby přebíraly články, často i ze západních médií, a v některých případech do nich propašovaly různé polopravdy a manipulace. Byly to jen malé změny, z 90 procent zůstal článek stejný. Ale AI to dokázalo ovlivnit.
Sergey Shykevich
- Narodil se v Kyjevě, již přes 25 let žije v Izraeli. Momentálně pracuje jako vedoucí výzkumník hrozeb kyberbezpečnostní společnosti Check Point.
- Specializuje se na monitorování, analýzu a výzkum globálních kybernetických hrozeb na taktické, strategické a operativní úrovni. Mezi jeho práci patří také poskytování informací o kybernetických hrozbách zpravodajským službám.
- Před nástupem do firmy Check Point pracoval také v elitní izraelské jednotce 8200 jako vedoucí kybernetického týmu, kdy armádě poskytoval zpravodajství o hrozbách a kybernetické obraně.
Můžeme tedy stoprocentně věřit AI nástrojům? Spousta lidí je už dnes začíná používat místo vyhledávačů…
Je to stejné, jako byste se mě zeptal, jestli můžu vždy věřit prvním odkazům, které mi vyjedou na Googlu, zvláště těm propagovaným. Ne, nemůžeme jim věřit na sto procent, vždy bychom se měli AI ptát, z jakého zdroje informaci má, a ten zdroj si pak sami ověřit. Pro AI může být pravda, jak ji známe, matoucí. Vy nebo já zřejmě vnímáme pravdu podobně, z ruské perspektivy je ale pravda něco úplně jiného.
Kdo jiný kromě Rusů se snaží AI zmanipulovat?
Může se o to pokusit v podstatě každý, bude ale potřebovat obrovské prostředky a mít dobré technické zázemí. Nepředstavujte si to tak, že se jeden hacker rozhodne podpořit například jednoho ze dvou vašich současných politických lídrů - Petra Fialu nebo Andreje Babiše - a od stolu se mu podaří přesvědčit AI, aby o nich psala nesmysly. Takhle to nefunguje, musíte mít za sebou rozsáhlou infrastrukturu.
Sergey Shykevich, výzkumník hrozeb kyberbezpečnostní společnosti Check Point.
Česko na podzim čekají volby, dosáhli jsme už vrcholu v oblasti dezinformací?
Myslím, že jsme nyní přesně na vrcholu. Před rokem jsme na toto téma dělali výzkum, sledovali jsme volby v přibližně 40 zemích, minimálně třetinu z nich se útočníci nějak pokusili ovlivnit pomocí AI, tedy něco na ten způsob, co jsme viděli v Rumunsku. Případ přímého ovlivnění voleb jsme ale viděli i na Slovensku, kdy jsme pár hodin před volbami zaznamenali deepfake audionahrávku jednoho z kandidátů. Mimochodem, většina úspěšných politických dezinformací se stane do 48 hodin před volbami, kandidáti totiž nemají šanci efektivně zareagovat a vyvrátit je.
Hackeři chtějí cestovat
Vy se specializujete mimo jiné na Rusko. Ruský režim zahraniční působení kyberkriminálníků často podporuje či tiše ignoruje. Je to jeden z důvodů, proč se jim daří takové operace, jako ta s ovlivněním AI nástrojů?
Ruští kybernetičtí škůdci v mnoha případech žijí se svým státem v jakési symbióze. Tamní stát některé skupiny přímo provozuje nebo podporuje, protože pomocí nich vede akce vůči jiným zemím. Když ruští hackeři operují mimo Rusko, případně mimo spřízněné země bývalého Sovětského svazu, často mají od státu volnou ruku. Mezinárodní složky je v Rusku nemají šanci zatknout a tamní policie to neudělá.
Jak vypadá život úspěšného ruského hackera?
Jsou to bez přehánění milionáři, žijí v absurdním luxusu, mají zlatá auta, Lamborghini. Stejně jako ostatní Rusové ale často nemohou legálně vycestovat ze země a to je štve, takhle bohatí lidé chtějí lepší život než jim nabízí Rusko, chtějí cestovat, poznávat svět. Často si tak obstarávají falešné doklady a pokouší se cestovat například do Thajska, kde hodně utrácí.
Tam by je mohly zatknout bezpečnostní složky.
Určitě, je to příležitost pro vymáhání spravedlnosti.
