Po sítích kolovaly explicitní fotky Taylor Swift. Vytvořila je AI

Článek si také můžete poslechnout v audioverzi

Na sociální síti X začaly kolovat skandální fotky Taylor Swift. Zpěvačka je na nich zobrazena v sexuálně vyzývavých a explicitních pózách. Nejde ale o reálné fotky, za snímky totiž stojí umělá inteligence (AI). Podle CNN měly fotky desítky milionů zobrazení, než byly ze sociálních sítích odstraněny. I tak se ale mohou na internetu stále objevovat, třeba na méně regulovaných kanálech.

Případ tak posvítil na škodlivý potenciál rychle se vyvíjející technologie umělé inteligence. AI je dnes totiž schopna vytvořit velice přesvědčivé obrázky, které mohou mít ale špatný dopad na životy jednotlivců, kterých se případné „koláže“ týkají. Incident navíc přišel v době, kdy Spojené státy vstupují do roku prezidentských voleb, a rostou obavy z toho, jak by mohly být zavádějící obrázky a videa generovaná umělou inteligencí použity k vedení dezinformačních snah a nakonec k narušení hlasování.

Ben Decker, šéf agentury Memetica zabývající se digitálními vyšetřováními, řekl pro CNN, že využívání generativních nástrojů umělé inteligence k vytváření potenciálně škodlivého obsahu zaměřeného na všechny typy veřejných osobností rychle narůstá a šíří se v sociálních médiích rychleji než kdy jindy.

„Společnosti provozující sociální média ve skutečnosti nemají účinné plány, jak tento obsah nutně monitorovat,“ podotkl. Například společnost X do značné míry „vykuchala“ svůj tým pro moderování obsahu a spoléhá se na automatizované systémy a hlášení uživatelů. V Evropské unii je společnost X v současné době vyšetřována kvůli praktikám moderování obsahu.

Swift by však podle Deckera mohla přitáhnout větší pozornost k rostoucím problémům kolem snímků vytvářených umělou inteligencí a jejich řešení. „Když máte osobnost jako Taylor Swift, která je terčem takového útoku, může to možná podnítit zákonodárce a technologické společnosti k akci. Nemohou si totiž dovolit, aby proti nim miláček Ameriky vedl veřejnou kampaň,“ řekl s tím, že má Swift velký vliv.

To potvrzuje i incident z roku 2022, kdy web společnosti Ticketmaster nezvládl nápor fanoušků, kteří si chtěli koupit lístek na koncert Swift. To následně vedlo k vyšetřování mateřské společnosti Ticketmaster Live Nation Entertainment ze strany amerického ministerstva spravedlnosti a několika legislativním snahám o potlačení spotřebitelsky nepříznivé politiky prodeje vstupenek.