Každý vědec dostal tým asistentů. Bez expertizy si ale koledujeme o katastrofu

Tlak na publikování nových a nových studií je ve vědeckém prostředí ohromný. Není proto divu, že když se na scéně objevil generátor textů ChatGTP, pro hodně vědců byl první instinkt: konečně nemusím ty texty psát sám. Občas je zapojení chatbotu tak nápadné, že po něm zůstanou jasné stopy.

Neexistuje způsob, jak se 100% jistotou odhalit texty vytvořené umělou inteligencí. Ale stačí se podívat na výskyt slov jako delve (ponořit se do tématu) nebo significant (signifikantní), které se v generovaných textech často vyskytují. Samozřejmě, že tato slova nejsou důkazem zapojení ChatGPT, ale jejich významný nárůst je indikací toho, že zapojení textových generátorů je častější, než samotní vědci přiznávají.

AI asistence s psaním vědeckých studií a textů je stále poměrně kontroverzní téma. Všechny univerzity musely v roce 2023 řešit, jak se k němu postaví. „Člověka okamžitě napadnou i ty možné negativní stránky,“ vzpomíná Michaela Liegertová, bioložka a proděkanka Přírodovědecké fakulty Univerzity Jana Evangelisty Purkyně v Ústí nad Labem. „Umělá inteligence může generovat texty, které jsou k nerozeznání od člověka. A u studentů je často tím nejdůležitějším výstupem právě závěrečná textová práce.“

Proděkanka Liegertová vzpomíná na to, jak na fakultě řešili, jak se k novým nástrojům postaví: „Objevovaly se tam i názory typu hlavně o tom neříkejte studentům,“ usmívá se. „Ale nakonec jsme se rozhodli přistoupit k tomu tak, že nebudeme řešit, jak text vznikl. Ale o to přísněji se zaměříme na to, jak student rozumí tomu, co napsal, a jak si dokáže odargumentovat, co v práci uvádí.“

(V textu článku uvádíme jen stručný výběr z probíraných témat. Celou epizodu najdete ve videu v úvodu článku nebo v audioverzi ve svých podcastových aplikacích.)

Generátory textu jako ChatGPT ale zdaleka nejsou jediným způsobem, jak umělá inteligence mění vědeckou disciplínu. Nejviditelnější ukázkou – čerstvě oceněnou Nobelovou cenou – je třeba nástroj AlphaFold, neuronová síť, která umí simulovat strukturu proteinů. To, co dříve trvalo roky, lze nyní vyřešit rychlým vyhledáním v databázi „spočítaných“ bílkovin, což šetří čas i peníze.

„Konkrétně AlphaFold je hezká ukázka toho, že AI vede nejenom k urychlení vědeckého pokroku, ale také k demokratizaci vědy,“ domnívá se Liegertová. Nástroj je totiž bezplatně k dispozici a kdokoli si může v databázi vyhledat některý z 200 milionů proteinů.

Další méně nápadné, ale významné pokroky se odehrávají už více než deset let v počítačovém vidění: pokročilé nástroje už nyní umí detekovat rakovinu. Zvyšují tak šanci, že dojde ke včasnému odhalení nádoru.

Kromě toho mohou nyní vědci (a nejen vědci) využít schopnosti jazykových modelů psát zdrojový kód, což urychluje psaní skriptů vhodných například pro provádění experimentů nebo analýzu velkého množství dat.

V obecných rysech lze nástup umělé inteligence – nejen nejnovější vlnu generativní AI, ale celého spektra strojového učení – přirovnat k vynálezu mikroskopu. V různých vědeckých oborech umožní tato technologie otevřít nové oblasti, nebo tyto oblasti zpřístupnit k bádání více vědcům.

Neexistuje žádný vyčerpávající návod na to, co všechno lze pomocí AI zkusit vylepšit. Výzkumníci po celém světě nyní zjišťují, jak mohou právě ve své oblasti nové nástroje uplatnit. Liegertová tomu říká „vlastní tým výzkumných expertů“.

„Jakmile teď vědec začne řešit nějaké téma nebo nový projekt, bude si moci celkem jednoduše vytvořit celý tým AI expertů a agentů,“ domnívá se proděkanka. „Ti mu mohou pomoci optimalizovat a plánovat experimenty, asistovat při literárních rešerších… Ráda bych viděla, že se to stane něčím naprosto běžným.“

Současné školství nyní stojí před výzvou, jak uchopit nástup generativní umělé inteligence. Je to příležitost promyslet si, co je skutečně důležité učit. A co se naopak opakuje jen ze setrvačnosti.

Typickou ukázkou jsou již zmíněné závěrečné práce. Jejich cílem bylo naučit studenty uspořádat a dotáhnout projekt, včetně hypotéz, výzkumu, rešerší, citací, smysluplné struktury a závěrečné obhajoby. Pokud ale budou moci skoro vše z toho „hodit“ na nějaký nástroj, taková práce už neplní původní smysl.

Liegertová si myslí, že novou podobu by měli pedagogové najít se studenty společně: „Myslím, že bychom tam měli dát povinnou kapitolu práce s umělou inteligencí, kde studenti popíšou, jaké nástroje použili, jakým způsobem je použili, dodali by k tomu nějakou etickou sebereflexi. Co jim to přineslo, na jaké problémy narazili.“

Pro vyučující je těžké být o krok napřed před studenty. Vždyť ani výrobci AI nástrojů netuší, k čemu všemu je možné generativní umělou inteligenci použít v kontextu různých oborů.

Idealisticky optimistický scénář dalšího vývoje vědy zní nádherně: všichni vědci budou mít pomocníky, výzkum půjde rychleji kupředu, experimenty bude možné dělat rychleji… Ale takovéto naivní představy měli lidé i o dopadech jiných převratných technologií, třeba o telegrafu nebo internetu.

„Při nesprávném použití té technologie může docházet k akumulaci chyb,“ varuje ohledně nesprávného zapojení AI proděkanka Liegertová. „Může to vlastně vést k erozi těch vědeckých domén nebo úplně ke zničení integrity těch jednotlivých vědců, kteří budou kopírovat výstupy z chatbotu.“

Podle mého je hrozba vyprázdnění expertizy ještě obecnější. V roce 1995 Carl Sagan, americký astronom a popularizátor vědy, toto riziko velmi přesně popsal: „Vytvořili jsme globální civilizaci, která hluboce závisí na vědě a technologiích. Zároveň jsme však dospěli do fáze, že téměř nikdo nerozumí vědě ani technologiím. Koledujeme si o katastrofu. Možná se nám to chvíli podaří zvládnout, ale dříve nebo později nám tato výbušná směs moci a ignorantství exploduje v rukou.“

Svět je složitý, nikdo nemůže rozumět všemu, ale opravdu se nechceme dostat do situace, kdy nějakým oblastem nerozumí vůbec žádný člověk. Všichni bychom pak museli spoléhat na nějakou černou skříňku, aby nám to vysvětlila.

„Ta lidská expertiza bude stále kritická, zdůrazňuje Liegertová. „Protože pokud nemáte expertizu v daném oboru, tak nemůžete posoudit ten výstup, nepoznáte, jestli to dává smysl.“

(V textu článku uvádíme jen stručný výběr z probíraných témat. Celou epizodu najdete ve videu v úvodu článku nebo v audioverzi ve svých podcastových aplikacích.)