Za tři roky bude skoro celý internet umělý. Češi proti tomu chystají zbraň

Rozhovor si můžete poslechnout i v audioverzi.

Před rokem se z českého Avastu stal nadnárodní Gen Digital a z Ondřeje Vlčka prezident společnosti, která zaměstnává 3500 lidí a má tržby 3,85 miliardy dolarů. „Změnilo se toho docela dost. Celý koncept byl, že stavíme novou firmu, není to tak, že by jedna firma pohltila druhou. Změn je spousta, ať už procesních, nebo týmových. Řekl bych, že jsme s integrací hotoví zhruba z 80 procent,“ říká v rozhovoru pro pořad Agenda SZ Byznys Ondřej Vlček.

Před firmou teď stojí velké výzvy. „Podle nejrůznějších předpokladů bude už kolem roku 2026 až 90 procent všeho obsahu na internetu generováno. Jenom 10 procent negenerováno. To je už za tři roky, proto je potřeba mít mechanizmus, který prokáže původ autora. Umělá inteligence je totiž schopna za pár minut udělat věrohodně vypadající video, které ale neodpovídá realitě,“ říká Vlček.

Jak se po fúzi změnila vaše role a náplň práce?

Náplň práce je svým způsobem podobná té, kterou jsem měl v Avastu před 6–8 lety. Jen na mnohem větší a globálnější pozici. Dnes mám na starosti všechen produkt, technologie, inovace i zákaznickou podporu – tedy tu technickou část firmy. Protože jsem duší stále technolog, je to práce, která mě nesmírně baví.

Jste více v Česku, nebo v Americe?

Jsem víc v Česku, ale zpravidla jednou měsíčně cestuji do Ameriky.

Už na začátku spojení jste oznamovali, že propustíte kolem 25 % lidí. Už k tomu došlo?

Ano. Tato část integrace je hotová. Překryvy, které tyto dvě firmy měly se řešily v loňském roce. Aktuálně máme asi 3500 lidí na třech kontinentech. Severní Amerika, Evropa a Asie. V Česku máme 1000 lidí – to je sice trochu nižší číslo, než měl Avast, na druhou stranu Česko je největší země ze všech, kde působíme.

S ročním odstupem. Šlo při spojení s Norton LifeLock něco udělat jinak? Lépe? Třeba aby vám na začátku roku neklesl počet platících uživatelů?

Ten pokles nesouvisel s fúzí, ale spíš s makroekonomickým výhledem. Velké věci se dají vždy udělat lépe a po bitvě je každý generál, ale celkově si myslím, že to, co jsme udělali, bylo správné.

Z pohledu hospodářských výsledků se vám teď daří. Kdy vyroste i cena akcií, které po spojení ztratily pětinu hodnoty?

Snažíme se dodávat co nejlepší produkty, růst v počtu zákazníků a dalších metrikách, které investory zajímají, a doufáme, že si ten zájem postupem času vybudujeme.

Tím důvodem je velká zadluženost?

Rozhodně. Vnímáme, že klasická hranice i na Nasdaq je trojnásobek EBITDA. My teď máme 3,8násobek. Zadlužení bylo ale nutnou podmínkou k tomu, aby se celý obchod mohl uskutečnit. Do fiskálního roku 2027 máme závazek, že to snížíme pod hranici tří.

Jak moc trh změnila umělá inteligence?

Zásadně. My často říkáme, že naším největším konkurentem nejsou jiné firmy, které se zabývají kyberbezpečností, ale útočníci. Každý den se snaží přicházet s nápady, jak nás obejít. Vytvořit svá dílka tak, abychom je nezachytili. Neustále nás udržují v pohotovosti. V posledním roce to s příchodem generativní umělé inteligence výrazným způsobem zesílilo. Je obrovský nárůst útoků na lidi.

My jsme dříve útoky tradičně rozlišovali na binární útoky – tedy viry a různé ransomware, které útočí na zařízení, a právě na útoky na lidi, které se je snaží nějakým způsobem zmást a okrást. Této druhé kategorii teď AI výrazně pomáhá. Umožňuje útočníkovi mnohem věrohodněji vytvořit podvodné zprávy, SMS a e-maily.

V jakém poměru jsou teď tyto dva druhy útoků?

Dnes zhruba jedna ku třem. A my očekáváme, že to číslo bude ještě růst. Útoky na zařízení jsou a budou v ústupu. Člověk je dnes tím nejslabším článkem řetězce. Když to řeknu optikou útočníka, člověk je schopen nejspolehlivěji selhat.

Vždycky se říkalo, že útočníci jsou o krok napřed. Nejsou dnes ale díky AI napřed o několik kroků?

Já nevím, o kolik kroků jsou dnes napřed. Rozhodně ale platí, že dnes můžete díky AI udělat levně útok, který byl ještě před pár lety vyhrazený profesionálním hackerským skupinám a vysoce trénovaným útočníkům.

Zásadní zvrat vznikl, když se začaly vytvářet nástroje, který umožní tomu útočníkovi stáhnout data ze sociálních sítí v nějakém blokovém módu. Z milionu účtů jsou schopni o vás získat informace – kde se pohybujete, kolik máte dětí – a tato data pak použít pro podvodné zprávy.

Takže zatímco v minulosti musel být hacker zdatný profík, dnes to zvládne každý a počet kyberzločinců roste?

Dá se to tak říct. V minulosti se sofistikovaný phistingový útok používal jen na investory – byl drahý, provedení trvalo týdny až měsíce. Dneska je to díky datům ze sociálních sítí proveditelné i na širokou populaci. Právě díky generativní umělé inteligenci.

Jak se bránit? Na SZ jsme upozorňovali i na případ deepfake videopodvodu, kdy falešná kopie šéfa volala zaměstnanci…

To jsou přesně ty věci, které jsou dnes hůř řešitelné. Efektivní řešení moc neexistují. Detekovat, jestli je daný obsah podvod, je dnes obtížné. Aby se tento problém dlouhodobě vyřešil, bude potřeba změnit celou infrastrukturu. Konkrétně v audiovizuálním obsahu to znamená, že za nějakou dobu bude zcela normální, že každý legitimní a autorizovaný kus obsahu bude nějakým způsobem podepsaný.

Podle nejrůznějších předpokladů bude totiž už kolem roku 2026 až 90 procent všeho obsahu na internetu generováno. Jenom 10 procent negenerováno. To je už za tři roky, proto je potřeba mít mechanizmus, který prokáže původ autora. Umělá inteligence je totiž schopna za pár minut udělat věrohodně vypadající video, které ale neodpovídá realitě.

Jak se z toho všeho nestat paranoidním?

Přemýšlíme, co by se s tím dalo dělat. Vnímáme to jako byznysovou příležitost. Myslím, že je to obrovský problém pro celou společnost a její stabilitu i pro nějaké vazby mezi lidmi. Tomu se budeme muset postavit. Jednou z možností je právě ta autorizace obsahu. Už dnes je sestaveno konsorcium, ve kterém je zhruba 200 společností, které řeší jak autentický obsah opatřit nějakým podpisem, aby se to nedalo zfalšovat. Doufám, že se to bude používat dříve než v roce 2026.

Změnilo tohle všechno, co popisujeme, náplň vaší práce?

Není rozdíl v tom, co děláme, ale spíš v tom, jak to děláme. Tři čtvrtě útoků dnes spočívají ve zmatení uživatele. Už to není jen o tom odhalovat kusy viru, i když to je stále ta zmiňovaná čtvrtina práce. Ty zbývající tři čtvrtiny jsou trošku psychologie, protože do toho vstupují i neurovědy, jak toho uživatele v daném okamžiku nejvíc ochránit. Máme tak mnohem multidisciplinárnější týmy než před 10 lety.

A co nového chystáte?

Máme 6–7 stěžejních bloků, kterým se chceme věnovat. Začíná to ochranou před útoky vedenými AI přes sítě digitálních identit a původy obsahu. V USA máme v betaverzi nový produkt. Aplikaci, která uživateli umožňuje ověřit, zda je daný kus obsahu scam, nebo ne. Může se to týkat jakékoliv SMS, e-mailu nebo postu na sociálních sítích. Do budoucna si myslím, že to bude použitelné i v reálném světě. Vezmu si kus papíru, který mi přišel, ten vyfotím a zeptám se aplikace.