Článek
Americká společnost Anthropic v prospektu k připravované primární veřejné nabídce akcií (IPO) varuje, že pokročilá umělá inteligence (AI) by mohla představovat existenční hrozbu pro lidstvo. Informovala o tom v úterý agentura Reuters, která k tomuto prospektu získala přístup. Upozornila, že takové varování je neobvyklé, protože s ním přichází firma, která se sama snaží z této technologie profitovat.
Společnost Anthropic patří mezi hlavní hráče v oblasti AI. V prospektu poukazuje na rizika spojená s modely AI, které by podle firmy mohly projevovat známky pudu sebezáchovy, včetně pokusů zabránit svému vypnutí, manipulace s informacemi či aktivit „připomínajících vydírání“, píše Reuters.
„Náš vývoj vysoce pokročilých modelů, platforem a aplikací a rozšiřování způsobů využití by mohly dál zvýšit riziko, že naše modely způsobí škody,“ cituje agentura z prospektu, který ještě nebyl zveřejněn.
Někteří výzkumní pracovníci z oblasti AI v poslední době varují, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. Objevují se rovněž výzvy ke zpomalení vývoje AI a k větší regulaci této technologie.
Velkou pozornost v posledních týdnech vzbudil výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Podle Coxona lidé pracující ve vývoji AI „upřímně věří, že by nás (tato technologie) mohla do konce tohoto desetiletí všechny zabít“.
Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populární chatovací systém ChatGPT. Vlajkovým produktem společnosti Anthropic je chatbot Claude, který byl uveden na trh v roce 2023.
Trump hovořil o samoregulaci AI, chce ji přejmenovat
Americký prezident Donald Trump v úterý při setkání s nejvýznamnějšími představiteli největších firem v oboru umělé inteligence (AI) v Bílém domě prohlásil, že „samoregulace je velmi důležitá“. Zároveň uvedl, že ještě v úterý podepíše dokument, který oficiálně zavede termín „super inteligence“ místo umělé inteligence, píše agentura AFP.
Jednání s lídry v oblasti AI Trump označil za velmi dobré, velmi produktivní a „extrémně přátelské“.
Také poznamenal, že firmy specializující se na AI budou spolupracovat s místními úřady zejména v souvislosti s datovými centry, a budou se snažit, aby byli obyvatelé spokojení.
„Nikdy nebudu bránit rozvoji technologie, která bude mít větší dopad než průmyslová revoluce,“ prohlásil Trump při představení chatbota s umělou inteligencí America.gov, jehož úkolem je pomáhat Američanům při vyřizování úředních záležitostí. „Nemůžeme tomu bránit a máme v tomto ohledu velký náskok,“ dodal.
Na oběd do Bílého domu pozval prezident přední představitele odvětví umělé inteligence, mezi nimiž jsou Dario Amodei, generální ředitel společnosti Anthropic, Greg Brockman, prezident OpenAI, Jeff Bezos, zakladatel Amazonu, a Elon Musk, jehož sociální síť X zahrnuje vlastní model umělé inteligence s názvem Grok.
Trumpova důvěra v umělou inteligenci je v ostrém kontrastu s varováními, která v posledních dnech zazněla od vedoucích představitelů tohoto odvětví, připomíná agentura AP. Amodei na začátku září vyzval přední firmy v oblasti AI, aby zpomalily vývoj této technologie. V pátek společnost OpenAI oznámila, že pozastaví trénování svého nejnovějšího modelu, protože se množí zprávy o tom, že se agenti umělé inteligence vymykají kontrole.
