Článek
„Nacházíme se ve skutečně hrozné situaci, pokud jde o to, co umělá inteligence dělá s dětmi,“ varuje Tom Siegel, který v Googlu pracoval mezi roky 2004 a 2019 a vedl tam oblast bezpečnosti a důvěry uživatelů. Podle něj už existují věrohodné důkazy, že AI na lidi nemá jen pozitivní dopad.
„Neříkám, že je na AI všechno špatně, nejsem z těch, kteří předpovídají zkázu,“ zdůrazňuje zároveň. Pokud ale technologické firmy nezmění současný přístup k bezpečnosti, obává se „velmi, velmi závažných scénářů“.
Problematická je podle něj především rychlost, s jakou firmy nasazují AI do služeb, které děti běžně používají, a přidávají další funkce bez dostatečně prověřených pojistek.
„To nejdůležitější, co mohu říct, je: Zpomalte,“ vzkazuje především Googlu, který má podle něj kvůli své silné pozici ve vzdělávání mimořádnou odpovědnost. „Jednoduše zatím nevíme dost o negativních dopadech na děti. Ochranné mechanismy jsou příliš slabé, nebo jim dostatečně nerozumíme,“ dodává.
Rizika přitom podle něj mají několik podob. Vedle problémů spojených s psychickými krizemi upozorňuje například na méně nápadný jev označovaný jako kognitivní offloading, tedy přenášení přemýšlení na technologie. Dítě místo hledání vlastní odpovědi stále častěji nechává úkol vyřešit chatbota, což může oslabovat samostatné uvažování a kritické myšlení.
Dalším problémem jsou silné citové vazby, které si zejména mladí uživatelé mohou k chatbotům vytvořit. AI je k dispozici nepřetržitě, okamžitě reaguje a dokáže působit jako stále dostupný konverzační partner - na rozdíl od rodiny a kamarádů.
Siegel proto volá například po důslednějším ověřování věku nebo možnosti některé AI funkce dětem jednoduše vypnout. Google by podle něj třeba mohl umožnit deaktivovat AI odpovědi ve vyhledávání podobně snadno, jako dnes nabízí filtrování sexuálně explicitního obsahu.
Nevěří přitom, že problém vyřeší samy technologické firmy. „Představa, že si s tím poradí samy bez pomoci zvenčí, je nerealistická,“ říká.
Siegel tento týden nastoupil do neziskové organizace Common Sense Media, kde vede její nový Youth AI Safety Institute. Ten má vytvářet nezávislé standardy pro posuzování rizik AI pro děti a tlačit technologické firmy k větší odpovědnosti. Pokud se spolupráce nepodaří, přijdou podle něj regulace a žaloby.
