Článek
Článek si také můžete poslechnout v audioverzi.
Sociální síť X, dříve známá jako Twitter, omezila vyhledávání pro heslo „Taylor Swift“, píše server Variety. Reaguje tak na incident z tohoto týdne, kdy se na síti začaly objevovat explicitní fotky Taylor Swift, které byly vytvořené pomocí nástrojů umělé inteligence. Snímky měly na sociální platformě desítky milionů zhlédnutí, následně se šířily i jinde.
Od sobotního rána se při vyhledávání výrazu „Taylor Swift“ na sociální síti X objevovala chybová zpráva: „Něco se pokazilo. Zkuste znovu načíst.“ Jak však upozornili uživatelé, zdá se, že X blokuje pouze tento konkrétní textový řetězec. Hledání jiných hesel, jako třeba „Taylor AI Swift“, je na X stále povoleno.
Podvržené porno kritizuje i Bílý dům
Joe Benarroch, vedoucí obchodních operací společnosti X, k blokování uvedl: „Jedná se o dočasné opatření, které bylo provedeno s velkou opatrností, protože v této otázce dáváme přednost bezpečnosti.“
Incident kritizovalo mnoho osob a institucí, včetně Bílého domu. Na otázku, zda by prezident Joe Biden podpořil legislativu, která by takové porno generované umělou inteligencí učinila nezákonným, tisková mluvčí Bílého domu Karine Jean-Pierreová odpověděla, že zprávy o snímcích jsou znepokojující. Dodala, že by „měla samozřejmě existovat legislativa, která by se touto problematikou zabývala.“
Generální ředitel společnosti Microsoft Satya Nadella v rozhovoru pro NBC News označil falešné pornografické snímky Swift za „znepokojivé a hrozné“ a zdůraznil, že je potřeba jednat. „Myslím, že nám všem prospěje, když bude online svět bezpečný,“ dodal.
Sexuálně explicitní deepfakes Swift se staly virálními na X ve středu 24. ledna a vygenerovaly více než 27 milionů zhlédnutí za 19 hodin před pozastavením účtu, který původně obrázky zveřejnil, uvedla NBC News .
V příspěvku z 25. ledna pozdě večer bezpečnostní tým X uvedl, že společnost „aktivně odstraňuje“ všechny identifikované obrázky nedobrovolné nahoty, která je podle něj na platformě „přísně zakázána“.
„Zveřejňování obrázků s nesouhlasnou nahotou je na X přísně zakázáno a vůči takovému obsahu máme zásadu nulové tolerance,“ napsal v příspěvku účet Safety on X. „Naše týmy aktivně odstraňují všechny identifikované obrázky a podnikají příslušná opatření proti účtům odpovědným za jejich zveřejnění. Situaci pečlivě sledujeme, abychom zajistili, že jakákoli další porušení budou okamžitě vyřešena a obsah bude odstraněn. Zavázali jsme se udržovat bezpečné a respektující prostředí pro všechny uživatele.“
Deepfake má kořeny v pornu
Za deepfake je obecně považován zmanipulovaný audiovizuální materiál vytvořený s pomocí umělé inteligence, která, „nakrmena“ množstvím vstupních dat v podobě autentických fotografií, videí či hlasových záznamů, dokáže vyprodukovat falešný obsah působící dost realisticky na to, abychom mu byli ochotni uvěřit.
„Deepfake je v zásadě typ dezinformace,“ uvádí Petra Mlejnková z Katedry politologie Fakulty sociálních studií Masarykovy univerzity v Brně, která se dlouhodobě zaobírá dezinformacemi a propagandou.
