Rozmyslete si, kam AI pustíte, varuje Moravec

„Začni zhluboka dýchat, Pavle. Každý nějak začínal,“ uklidňoval mne konverzační režim ChatGPT těsně před rozhovorem. „Tvá vášeň a příprava tě dostanou tam, kam potřebuješ. Máš na to, Pavle.“

Docela dobré povzbuzení. Ochotné, okamžité a věcné. Ale když jsem po umělé inteligenci chtěl pomoci s přípravou na rozhovor se známým moderátorem Václavem Moravcem, narazil jsem na zajímavý problém. Moravcův paradox.

Nemá nic společného s mým dnešním hostem… Pro počítače jsou totiž některé věci složité a jiné jednoduché. A není vždycky jasné, jak to předem odhadnout. Málokterý AI nástroj vám totiž řekne, že neví.

Umělá inteligence je trochu jako mikrovlnná trouba. Co do ní strčíte, s tím si nějak poradí. Výsledek možná nebude nejlepší, ale bude rychlý. A každý teď bude muset řešit otázku, k čemu umělou inteligenci pustí a k čemu ne.

Lidé v různých odvětvích – od novinářů přes grafiky nebo překladatele až po programátory – nyní zjišťují, na co mohou tyto nástroje použít. Jedno z nebezpečí, na které Václav Moravec v dnešní epizodě podcastu upozorňuje, je ale ztráta profesní autonomie.

„Pokud předáme těm technologickým nástrojům většinu svých dovedností, své kreativity, tak jsme úplně zúžili svou profesní autonomii, a to ve všech profesích,“ varuje Moravec. Podle něj je důležité, aby lidé mohli za to, co vytvoří, ručit. „Musíme si podle mého názoru říct, kam ty nástroje, které v některých ohledech agresivně pronikají do našich profesí, pustíme.“

Moravec také připomíná stinnou stránku generativní umělé inteligence: „Ty nástroje umělé inteligence budou přispívat k rozvratu důvěry,“ obává se Moravec, který působí jako hlavní koordinátor ve Středoevropské observatoři digitálních médií (CEDMO) . „A ve společnosti nedůvěry se žije těžko.“

Nejde jen o to, že nám občas chatbot bude tvrdit nějaký nesmysl. Horší je, že jsou zde lidé, kteří pomocí umělé inteligence už nyní ve velkém produkují podvody, manipulace, dezinformace nebo falešné reklamy.

Máme tu hromadu nových nástrojů a každý týden přibývají další. Vypadá lákavě začít si pomocí nich usnadňovat práci a postupně jim předávat víc a víc z toho, co děláme. Ale budeme pak schopni za takové výsledky ručit?

Třetina Čechů má v roce 2024 zkušenosti s ChatGPT. Z nich 75 procent tento nástroj považuje za rozhodně užitečný nebo spíše užitečný. Tak to alespoň bylo v dubnu tohoto roku, kdy probíhal výzkum Ipsos na reprezentativním vzorku populace. Nejčastěji mají zkušenost lidé s vysokoškolským vzděláním (48 procent). Deset procent lidí pak ChatGPT používá několikrát denně.

Očekávání Čechů ohledně umělé inteligence jsou spíše negativní (47 procent populace) než pozitivní (22 procent populace). Mladší lidé vyjadřovali ohledně AI pozitivnější očekávání než starší.

„Ta skepse patří k práci s jakýmikoli nástroji,“ souhlasí Moravec. „Používat ty nástroje generativní umělé inteligence jako pomocníka a nenechat se jimi ovládat. Mít zdravý postoj k těmto nástrojům je podle mě zlatá střední aristotelovská cesta.“