S pomocí AI svlékli spolužačky. Patří umělá inteligence do škol?

Překotný vývoj na poli umělé inteligence se snaží dohnat byznys, zdravotnictví, média - a s novou intenzitou i školy. „Musí si stanovit pravidla, a pak přemýšlet nad tím, co by nově mělo být výstupem žákovské práce,“ vysvětluje zakladatelka organizace AI dětem Eva Nečasová.

Případ z jihošpanělského městečka Almendralejo opět rozproudil diskuzi o výhodách a nevýhodách využívání umělé inteligence mezi dětmi. Chlapci z jedné z tamních škol vytvořili v aplikaci využívající AI nahé fotografie svých spolužaček, a poté je rozeslali přes WhatsApp a Telegram. Využili k tomu snímky, které dívky měly na svých sociálních sítích.

Na případ upozornila na sociálních sítích jedna z matek. Pro BBC uvedla, že některé z dívek kvůli incidentu odmítají opouštět své domovy a že s rodiči 28 dotčených dětí utvořili podpůrnou skupinu. O případ už se zajímá i policie. Prozatím uvedla, že se prošetřování dotýká jedenácti chlapců.

„Samozřejmě je to hrozný příklad. (…) Ale pro mě to je zejména příběh o komunikaci a o tom, jak jsou lidé schopni se domluvit mezi sebou,“ říká v podcastu 5:59 zakladatelka iniciativy AI dětem Eva Nečasová. Podobné možnosti - i když složitější jako Photoshop - navíc podle ní existovaly už před masivním rozvojem umělé inteligence.

Expertka zároveň podotýká, že by se debata neměla zacyklit na používání konkrétních aplikací. Spíše by rodiče a další měli s dětmi mluvit o tom, že takové možnosti existují a že není například správné generovat revenge porno, tedy šikanovat druhé skrz ať už uměle vygenerovné, nebo skutečné sexuálně explicitní fotografie.

I tato zkušenost tak poukázala na to, že umělá inteligence může nejen pomáhat v některých profesích a zefektivnit práci například grafikům nebo korektorům, ale také postupně dělat z online prostoru místo, kde podle Nečasové „už lidem nebude úplně dobře“. Bude tak muset docházet k regulacím.

S tím ale paradoxně mohou pomáhat právě nástroje AI. Například do obrázků, které budou vygenerované, je možné zabudovat určitý „rozpoznávač“, díky kterému sociální sítě zjistí, že nejde o reálnou fotografii. „Jinými slovy, kočka honí myš a naopak,“ říká expertka. A dodává, že u textů zatím podobné možnosti nejsou.

Dalším klíčovým krokem pak podle Nečasové je vzdělávání společnosti. I proto prý založila iniciativu AI dětem, která pomáhá školám i veřejnosti představit téma umělé inteligence dětem do 12 let. „Myslím, že když budeme rozumět tomu, co tyhle technologie přináší do našeho světa, tak zároveň budeme i resilientní vůči tomu, když se objeví negativní dopady,“ vysvětluje.

Osvícenější školy podle Nečasové zatím hledají způsoby, jak se k umělé inteligenci a jejím možnostem postavit systémově. Další pak prý ještě nevědí, jak s problematikou naložit, nebo se ji dokonce rozhodly ignorovat. Obecně se ale podle Nečasové nejvíce na školách řeší, jak zabránit podvádění. Jednoduchý příklad: děti si například pomocí nástrojů jako ChatGPT mohou nechat napsat referát, zkopírovat ho a odevzdat.

„Z mého pohledu bychom měli ve školách děti edukovat o tom, že tohle není správné využití toho nástroje a že je potřeba opravdu vždycky všechno kontrolovat, kriticky posuzovat a s tím textem ideálně dál pracovat, k tomu ten nástroj slouží,“ podotýká.

Nečasová zároveň vysvětluje, že by si školy měly vytvořit pravidla týkající se toho, jak děti mohou umělou inteligenci využívat. Podpůrné materiály například vydal Národní pedagogický institut. „A ve chvíli, kdy jsou stanovená pravidla, tak je potřeba přemýšlet nad tím, co by nově mělo být výstupem žákovské práce. Protože jestli to byl předtím text, tak v tuhle chvíli je to pravděpodobně spíš kritické posouzení textu,“ myslí si.

Postupně budeme muset podle expertky přijmout fakt, že s umělou inteligencí se začne pracovat nejen ve školách naprosto běžně. Uplatní se například v běžných internetových vyhledávačích a bude tak těžké se jí vůbec vyhnout. Teď jsme podle Nečasové v určité „mezifázi“.

V podcastu 5:59 se také dozvíte, proč by rodiče i učitelé měli s dětmi o umělé inteligenci diskutovat už od útlého věku a do jakého světa dnešní mladí vyrůstají. Poslechněte si v přehrávači na začátku článku.