Článek
Videa, obrázky a jiná sdělení vygenerovaná umělou inteligencí (AI) budou čím dál tím méně k rozeznání od pravých a jejich šíření nenarazí na limity lidských zdrojů. Po vypuštění do virtuálního prostoru mohou rozsévat dezinformace ještě efektivněji než dřív, vyvolávat paniku či hýbat s cenami akcií. Nebo rovnou ovlivňovat volby – jak se například obávají experti v USA v souvislosti s výběrem prezidenta v příštím roce.
Na nebezpečí umělé inteligence se začíná připravovat i český stát. Na Ministerstvu vnitra vznikla podle zjištění Seznam Zpráv speciální skupina, která se má tímto fenoménem zabývat. Za úkol má definovat hrozby pro českou bezpečnost, které s rozvojem umělé inteligence přicházejí.
Na starosti má skupinu nedávno jmenovaný vrchní ředitel pro vnitřní bezpečnost Jan Paďourek, dlouholetý zpravodajec, který v minulosti působil také jako náměstek ředitele české rozvědky – Úřadu pro zahraniční styky a informace.
Evropský parlament zároveň tuto středu odsouhlasil první podobu regulace umělé inteligence, první svého druhu na světě. Jejím klíčovým bodem je povinnost označovat produkty umělé inteligence tak, aby uživatel poznal, že jde o systém AI.
Jako ze sci-fi
Na vnitru se kvůli hrozbám, které dříve patřily do sci-fi románů, scházejí experti například na kybernetickou bezpečnost nebo na bezpečnostně-právní oblast.
„Vznikla neformální pracovní skupina. Silným impulzem pro její vytvoření byly mimo jiné stále častější signály a varování z expertní komunity, která se umělé inteligenci věnuje,“ řekl Seznam Zprávám Paďourek. Cílem je podle něj „definovat hrozby pro vnitřní bezpečnost České republiky, stejně jako příležitosti pro její posílení“.
Co je umělá inteligence
Umělá inteligence (anglicky Artificial Intelligence = AI) je souhrnné označení pro technologie, které umožňují strojům vnímat, chápat, rozhodovat se, jednat a učit se, a to buď samostatně, nebo s podporou člověka. Běžným pojmem v této souvislosti je také strojové učení.
Potíž s umělou inteligencí je, že se musí najít hranice, aby lidstvu pomáhala, ale zároveň aby se nevymkla kontrole a aby bylo možné čelit jejímu zneužití. „Hodná“ umělá inteligence najde uplatnění i v bezpečnostní oblasti spadající pod vnitro.
„Ministerstvo vnitra dosud akcentovalo zejména tu pozitivní stranu AI, tedy vývoj a nasazení takových systémů, které by posilovaly kapacity například Policie ČR či Hasičského záchranného sboru ČR. Bohužel ta negativní, odvrácená strana umělé inteligence je mnohem větší,“ připouští Paďourek.
O pokusech s umělou inteligencí jsme psali také zde:
Výzkumníci dokázali v reálném čase číst text na cestě lidským mozkem. Očekávaný průlom přišel díky dvojitému zapojení umělé inteligence. Dekodér ale bylo potřeba intenzivně trénovat. Univerzální „čtečka myšlenek“ to tak není.
Proti „deepfakes“
Podle expertů může umělá inteligence fungovat například jako doping pro dezinformace.
„Může převzít politický diskurz tak, jak ho známe, když se baví lidé mezi sebou a hledají politické řešení, zejména na sociálních sítích. Nás lidí je konečný počet, umělá inteligence proto může zaplavit informační prostor a lidé nebudou vědět, že to je umělý obsah,“ říká František Vrabel, zakladatel společnosti Semantic Visions a expert na dezinformace.
Zároveň podle expertů rostoucí kvalita tzv. deepfakes (realisticky upravená videa, pozn. redakce) dramaticky snižuje možnost jejich odhalení nejen běžnými uživateli sociálních sítí, ale už i experty.
Výhody a rizika používání AI
Výhody:
- Rozšíření slovní zásoby
- Zlepšení gramatiky a stylu psaní
- Úsporné rešeršování
- Generování inspirace
Rizika:
- Nekritické přijímání generovaného obsahu bez kontroly a s tím spojené neporozumění
- Závislost na technologiích AI
- Plagiátorství
- Chyby AI ve formě falešných výsledků a další formy problematického využití
Zdroj: Univerzita Karlova
Rizika se snaží regulací snížit evropské instituce i řada evropských zemí. Evropský parlament (EP) ve středu souhlasil s návrhem první regulace umělé dezinformace, jeho ladění se dál odehrává mezi EP, Evropskou komisí a členskými zeměmi sedmadvacítky.
„Uživatelé by měli být informováni o tom, že interagují s AI. To zahrnuje systémy umělé inteligence, které generují nebo manipulují s obrazovým, zvukovým nebo video obsahem (např. deepfakes),“ stojí například v popisu regulace na stránkách europarlamentu.
Vrabel ale vyzývá k co nejpřísnější regulaci. „Myslím, že se podceňuje riziko, které hrozí při zneužití AI ze strany hostile actors (nepřátelští aktéři, pozn. redakce). Rusové, Číňané nebo nějaké zločinecké skupiny tuto legislativu nebudou dodržovat. Myslím, že by se legislativa měla co nejvíce uplatňovat prostřednictvím on-line platforem, které mají mnohem větší význam v zabránění negativního, zločinného či společnost poškozujícího působení AI,“ dodává Vrabel.
