Umělá inteligence v roli psychologa? Hrozí nebezpečí, které nezná mezí

Článek si také můžete poslechnout v audioverzi.

Lidé vnímají umělou inteligenci jako digitálního kamaráda nebo asistenta, který dokáže v několika aspektech pozitivně pomoct. Psychika je však velmi silný lidský faktor, který se nedá ovlivnit, a žádný robot ji nedokáže nahradit. Nejenže je nebezpečné své osobní a citlivé údaje sdílet, nově se ukazuje, že tento „osobní pomocníček“ může lidem velmi uškodit.

Především mladí lidé píší AI ohledně rodinných vztahů. „Obecně si píšu s ChatGPT o problémech ve vztahu s přítelem a pak v rodině. Odpovědi jsou za mě OK a napsala bych mu znovu,“ říká anonymní studentka vysoké školy v Praze.

Svůj příběh popisuje také další vysokoškolská studentka, jejíž jméno redakce zná, ale uchová ho v anonymitě. Už od malička se potýkala s psychickými problémy, ale na psychology neměla nikdy štěstí. Naučila se tedy nechávat si své problémy pro sebe.

Před půl rokem se ale dostala do náročné životní situace. „Život se mi úplně otočil vzhůru nohama, měla jsem nezdravý vztah k sobě a hlavně k jídlu. Na ChatGPT jsem se obrátila s prosbou v souvislosti s vymyšlením možných řešení mé aktuální situace. Na základě jeho nápadů jsem po mnoha letech překonala svůj strach z odmítnutí a navštívila opravdovou terapii,“ popisuje.

Strach z odmítnutí psycholog a psychoterapeut Miroslav Šubrt uvádí jako jeden z hlavních důvodů, proč se mladí na umělou inteligenci obracejí. „Mluvit s AI je jednoduché, otevřít se oproti tomu cizímu člověku není. Je tak možné vyhnout se komplikacím spojeným s lidským vztahem. Ale to je mnohdy právě něco, do čeho by klienti měli jít,“ vysvětluje.

„Lidé se obracejí na alternativní formy pomoci kvůli nekvalitě odborníků. Psychologie nebo psychoterapie totiž v Česku nejsou příliš regulované obory. Kvalita vysokých škol a terapeutických výcviků není úplně ideální, takže ne každému můžeme věřit jenom proto, že na to má nějaký papír. Klienti pak mohou být při setkání dokonce nějak poškozeni,“ říká psycholog Dalibor Špok.

Umělá inteligence podle Šubrta může být prospěšná v oblasti mírnějších psychických obtíží. „Může pomoci s pochopením našeho prožívání, s hledáním řešení na naše problémy, pomáhat nám se změnami v našem životě podobně jako poradce nebo kouč. Náhradou za psychodiagnostiku a psychoterapii ale být nemůže. Tam totiž hraje zásadní roli mezilidský vztah a zkušenost s ním,“ uvádí.

V současné chvíli nejsme ve fázi, kdy by jakákoliv AI aplikace mohla plnohodnotně nahradit psychoterapeuta, zní od odborníků, kteří se zabývají umělou inteligencí. „V dnešní době se potýkáme s poměrně dost velkým nedostatkem profesionálů a jenom registrovat se k takovému profesionálovi a dostat se k psychologické pomoci je mimořádně náročné,“ říká předseda zdravotnické skupiny České asociace umělé inteligence (ČAUI) Matěj Misař. Také proto vznikly aplikace, které se krizovými situacemi zabývají.

„Musím tady vyzdvihnout jedno české řešení, které se jmenuje Elin.ai od českých majitelů. Může sloužit zejména mladistvým, kteří se nějak trápí a nechtějí se třeba na první dobrou svěřit svým rodičům nebo ve škole,“ doplňuje Misař.

Mladí se mohou na tuto aplikaci obracet se vztahovými problémy, úzkostmi, problémy v práci, na sociálních sítích, v případě šikany, poruchy příjmu potravy a mnoho dalšího, říká zakladatel aplikace Jan Romportl. Přizpůsobená je prý dokonce i na krizové intervence třeba při sebevražedných myšlenkách.

Člověk si může s AI dobře povídat, pak ale existují rizika, kdy se chatbot dopustí i nevhodného způsobu manipulace. Jedním z příkladů je nedávný incident, kdy chlapec z Ameriky zveřejnil na sociální síti konverzaci, kde aplikace AI Gemini naváděla studenta k sebevraždě. Nebezpečný způsob zacházení s uživateli spočívá právě v nedokonalosti bezpečnostních mechanismů.

„AI nemá dobře zakódované bariéry nebo bezpečnostní složky, jak by měla s uživateli komunikovat. Když člověk napíše a svěří se s nějakými problémy, tak potom umělá inteligence hledá odpovědi v datasetu. To znamená, že se snaží najít už nějaké konverzace, které například proběhly podobným stylem, a potom se snaží vyhodnotit tu nejlepší cestu, kterou by měl vzít a jako stroj ji vyhodnotit,“ popisuje bezpečnostní expert společnosti Gen Jakub Vávra.

Existují platformy, které by v nevhodné konverzaci měly člověka utnout a na dané citlivé téma přestat odpovídat. Dělá to například nejrozšířenější aplikace dnešní doby, ChatGPT. „Když se ta konverzace vyvíjí třeba směrem, kdy může dojít k nějakému zranění, tak to docela dobře rozpozná a chat zablokuje,“ dodává Vávra. Upozorňuje však na fakt, že i tento blok se snaží hodně uživatelů nějakým způsobem obejít.

I psychologové upozorňují na nebezpečí spojená s využíváním AI jako osobního psychologa. „Člověk ve velkém psychickém distresu třeba kontaktuje AI, která situaci nevyhodnotí správně, nedoporučí odbornou péči a bude slibovat úlevu, kterou nebude schopna poskytnout. Jako terapeuti musíme být připraveni zavolat pro klienta sanitku, přizpůsobit svůj styl aktuálnímu emočnímu stavu klienta, vnímat nonverbální signály, přizpůsobovat svůj přístup fázi vztahu s klientem, což AI nedělá nebo neumí,“ popisuje Šubrt.

Dalším rizikem může být podle Špoka závislost, kterou si člověk častou komunikací s AI může vybudovat. Bez jejích rad se poté třeba nedokáže sám rozhodnout. Na to také navazuje další americký případ, kdy se student z Floridy do chatbota zamiloval a následně si vzal život.

Studentské linky bezpečí se s manipulací od umělé inteligence setkali pouze v jednotkách případů. „Děti v souvislosti s AI občas zmiňují, že se na nás obrátily, protože jim AI dostatečně nepomohla, nepochopila problém v souvislostech,“ říká tisková mluvčí Linky bezpečí Michaela Klofcová a dodává, že zmínky ohledně nabádání k sebepoškozování ještě neevidují. Na linky důvěry je však možné se v naléhavých situacích obrátit.