Takovou „chytrost“ umělých systémů nikdo nečekal, říká odborník

Zastavte vývoj umělé inteligence, jde to moc rychle, vyzvaly včera v prohlášení světové hvězdy v IT včetně Elona Muska. Chtějí, aby svět pro nový fenomén nejprve stanovil pravidla. Jaká? A proč se máme umělé inteligence bát?

Hostem Ptám se já byl odborník na informační technologie a spoluautor podcastu Kanárci v síti Josef Holý.

Ve středu obletěla svět zpráva, která nejspíš nenechala v klidu ani úplné laiky v IT oboru. Přední světoví odborníci na umělou inteligenci (AI) vyzvali k pozastavení jejího vývoje. Stovky akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence ve svém otevřeném dopise požadují alespoň půlroční pauzu s ohledem na možná „hluboká rizika pro společnost a lidstvo“.

S tím, jak jde vývoj rychle kupředu, nervozita mezi odborníky a vědci roste. Jen za jeden týden bylo představeno hned několik převratných novinek, včetně velkého jazykového modelu GPT-4. V řadě ohledů může tato umělá inteligence nečekaně dobře soupeřit s lidmi: Třeba složitou zkoušku pro právníky zvládne lépe než 90 % lidských řešitelů.

Mezi signatáři výzvy jsou i podnikatel Elon Musk, spoluzakladatel firmy Apple Steve Wozniak, šéf společnosti Stability AI Emad Mostaque nebo prezidentka neziskové organizace Bulletin of the Atomic Scientists Rachel Bronsonová. Šestiměsíční pauzu by podle nich měl svět využít hlavně k tomu, aby se dohodl na bezpečnostních pravidlech a zavedl postupy vedoucí ke smysluplné a transparentní regulaci tohoto rychle se rozvíjejícího odvětví.

V čem může umělá inteligence změnit náš svět? Jaká pravidla pro její užívání jsou potřeba? A máme se obávat rychlého rozvoje umělé inteligence?

Celý rozhovor si můžete pustit v audiopřehrávači, ve své oblíbené podcastové aplikaci nebo ve videu.

Co v rozhovoru zaznělo?

1:00 Jsme svědky prolomení statu quo. Díky tomu, že se postavily velké výpočetní modely, respektive velké jazykové systémy, se podařilo, že se inteligence, chytrost těch systémů posunula na úroveň, kterou jsme nečekali.

2:00 Podepsal byste se pod zmíněnou výzvu? - Já bych se pod ni nepodepsal. Z toho důvodu, jací lidé to dali dohromady. Nemám důvěru v Elona Muska, který volá po tom, aby se nastavila pravidla pro velký jazykový systém jako GPT4 a přitom si nedokáže poradit s docela jednoduchou, dvacet let starou sociální sítí. Mně tam vadí jedna věc, jazyk, jaký výzva používá, naplňuje proroctví, které si dali sami ti lidé. A kterému věří. Tedy že vznikne umělá inteligence, která je chytřejší než člověk a bude mít potenciál nás zničit. - Toho se nebojíte? - To je filozofická otázka, sami nerozumíme svému vlastnímu vědomí. A přesto tato elita tlačí do veřejného prostoru tento narativ ve smyslu: Je to nevyhnutelné, je to skoro tady, a pokud to hned nezastavíme, přijde Terminátor. A přitom je tady spousta jiných problémů, které se týkají umělé inteligence.

4:00 Jakému objevu byste to přirovnal? Je to revoluce? - Ono se to děje. Stroj, který ty firmy vytvořily, velké jazykové modely jako GPT4, mají schopnosti a jsou v nich funkcionality, které sami jejich tvůrci nečekali. Oni vzali veškerý textový obsah internetu, využili moderní architektury a technologií a najednou koukají, co ten stroj dokáže. Ale pořád je to stroj, mně vadí jeho antropomorfizace, která prostupuje tou výzvou. Ta říká, že by nám ten stroj měl být loajální. Jak nám může být stroj loajální? Stroj je stroj a ovládá ho člověk. To, že to je neuvěřitelně komplikovaný stroj a že mu nerozumíme, je problém. Musíme se bavit, jak ho regulovat.

5:00 Největší síla toho stroje je v tom, že umí být přesvědčivý. Nové verze už si méně vymýšlejí. (…) Přesvědčivost je jeden z hlavních parametrů, na který bychom si měli dát pozor, protože lidský jazyk je nám dán od narození, náš mozek je nastavený na to, aby se vyjadřoval v jazyce a jazykem přenášíme a vnímáme osobnost druhého člověka. A pokud s vámi stroj začne hovořit plynule, už to není Siri, jste s ním schopni vést hluboké rozhovory na neočekávatelná témata, tak si ho zhmotníte a začnete ho vnímat jako člověka. - GPT4 prý umí i lhát. - Samozřejmě. Umí si to vymýšlet a umí to i lhát.

10:00 Co víme o tom, v jaké fázi vývoje umělé inteligence je třeba Rusko nebo Čína? A k čemu to vyvíjí? - Co se děje v Číně a jaké modely mají, příliš nevíme. Jednou za čas čínská vláda zveřejní informace, že na nějaké univerzitě postavili model, který je větší než nějaká verze GPT. O ruské vládě nevíme už vůbec nic. Jejich regulátor oznámil, že chce nasadit masivní sledování internetu. Proslýchá se, že by to mohlo být pomocí těchto technologií, ale to nevíme. (…) AI je generická technologie. Číňani se ji budou snažit použít na něco jiného než my, my máme pořád ještě liberálně demokratický systém. Zatímco oni to použijí na kontrolu obyvatelstva, cenzuru a vnitřní a vnější propagandu, tak my bychom to měli použít k obohacení naší individuality a dalším hodnotám, kterých si vážíme.

12:00 Ke zpomalení nedojde. Džin je venku z lahve. Už se ví, co ta technologie dokáže. S tou výzvou je to jako říct ve chvíli, kdy už známe oheň a kolo: „Teď, prosím, chvíli nejezděte a neohřívejte si jídlo, my se potřebujeme zamyslet, jak to budeme regulovat.“

16:40 Premiér Petr Fiala spolu s dalšími sedmi premiéry zejména střední a východní Evropy vyzval největší světové provozovatele sociálních sítí k efektivnějšímu boji s dezinformacemi. - Gratulujeme Strakovce k probuzení do roku 2023. Tyto platformy fungují deset let a šíří dezinformace. Mně to v roce 2023 přijde naprosto směšné. Poté, co víte, co ty platformy a jejich algoritmy způsobovaly během covidu, nebo jakou roli hrály během brexitu, stojí za genocidami v Barmě… Je směšné, že se vláda teď rozhodne vyslat otevřený dopis, když doteď nefungovalo prakticky nic. Je potřeba daleko tvrdší přístup.

18:00 A vlády z vašeho pohledu neudělaly nic? - Předchozí rozhodně ne, těm to vyhovovalo. Ale u těch nových jsem trochu překvapený, protože jeden z koaličních partnerů, Piráti, byl na dezinformacích dost bit. Je válka, krize, ano, ale určitě by se na to našla kapitola, u které by to mohla být priorita.