Článek
Itálie se stala první západní zemí, která zakázala používání pokročilého chatovacího robota ChatGPT, který je nejpoužívanějším nástrojem svého druhu na světě. Od jeho spuštění v listopadu loňského roku ho používají miliony lidí.
Italské úřady na ochranu osobních údajů v pátek uvedly, že s okamžitou platností v zemi zakážou chatbota a prošetří činnost americké společnosti OpenAI, která za programem stojí, píše stanice BBC a připomíná, že ChatGPT je blokován v řadě zemí, včetně Číny, Íránu, Severní Koreji a Ruska.
Provozovateli robota ChatGPT italské úřady nařídily, aby uživatelům z této země od soboty znemožnil ke službě přístup. Ke kroku se odhodlaly kvůli údajnému porušování ochrany osobních údajů.
Server Politico upozorňuje, že příkaz je dočasný a bude platit, dokud společnost nebude respektovat přelomový zákon Evropské unie o ochraně osobních údajů.
Italské úřady původně plánovaly používání chatovacího robota na italském území pouze omezit. Není podle něj totiž jasné, za jakých právních podmínek sbírá a shromažďuje osobní údaje uživatelů, kteří ani nejsou o těchto podmínkách informováni.
Ačkoliv provozovatel uvádí, že program mohou používat lidé, kterým je nejméně 13 let, aplikace podle úřadu věk nijak nekontroluje.
Nejprve úřad provozovateli zakázal používat osobní údaje a dal společnosti 20 dnů na to, aby zavedla opatření, která reagují na výtky. V případě neuposlechnutí rozhodnutí hrozila společnosti OpenAI pokuta až 20 milionů eur (470 milionů Kč), nebo čtyři procenta z globálního obratu.
Italský úřad poukázal na to, že ChatGPT je nejpoužívanějším chatovacím robotem na světě a že 20. března unikly informace o jeho uživatelích. Evropská policejní organizace Europol zároveň tento týden varovala, že by zločinci mohli využít ChatGPT a další chatovací roboty k podvodům a dalším kriminálním aktivitám.
Odborníci varují před příliš rychlým vývojem
Obavy z porušování ochrany osobních údajů ovšem nesílí pouze v Itálii. Důkladně nad nimi přemýšlí představitelé celé řady západních zemí a mezinárodních orgánů. Stejně jako nad hrozbami bezpečnostních rizik a dezinformací, které s činností umělé inteligence (AI) spojují.
Významní odborníci na strojové učení varují, že vývoj jde kupředu příliš rychle. Navrhují proto, aby velké laboratoře dobrovolně pozastavily práci na stále silnějších modelech umělé inteligence. Dokud se nevyjasní pravidla, kterými by bylo možné toto rychle se rozvíjející odvětví regulovat.
Stovky akademiků, expertů a podnikatelů zapojených do vývoje AI ve svém otevřeném dopise vyzvaly k šestiměsíční pauze ve vývoji nových modelů. Mezi signatáři byli mimo jiné majitel Twitteru či Tesly Elon Musk nebo spoluzakladatel firmy Apple Steve Wozniak (psali jsme zde).
Čím dál častěji se také ozývají výzvy k prošetření činnosti společnosti OpenAI, která za široce používaným chatbotem stojí. Evropská spotřebitelská organizace ve čtvrtek vyzvala orgány Evropské unie a jednotlivé státy, včetně orgánů dohlížejících na ochranu údajů, aby fungování ChatGPT a dalších chatbotů prověřily.
Podle něj společnost nemá právo „hromadně shromažďovat a uchovávat osobní údaje za účelem ‚trénování‘ algoritmů“ chatbotu. OpenAI navíc podle něj shromážděné údaje zpracovává nepřesně.
„Rostou vážné obavy z toho, jak by ChatGPT a podobní chatboti mohli klamat a manipulovat s lidmi. Tyto systémy umělé inteligence potřebují větší veřejnou kontrolu a veřejné orgány nad nimi musí znovu získat kontrolu,“ uvedla Ursula Pachlová, zástupkyně ředitele Evropské spotřebitelské organizace.
Aktualizace: Text jsme rozšířili o varovaní odborníků a další podrobnosti.
