Článek
Řada firem na své stránky v posledním roce umístila chatbota, tedy virtuálního asistenta, který má lidem pomoci zorientovat se v nabídce. Někdy jde o primitivní prográmek, který pouze opakuje některou z předem nastavených frází a řídí se jasně daným rozvětveným scénářem. Jindy má ale umělá inteligence otěže povolené a dostane možnost si s lidmi povídat skoro o čemkoli.
Čtete ukázku z newsletteru TechMIX, ve kterém Pavel Kasík a Matouš Lázňovský každou středu přinášejí hned několik komentářů a postřehů ze světa vědy a nových technologií. Pokud vás TechMIX zaujme, přihlaste se k jeho odběru!
Článek si také můžete poslechnout v audioverzi.
Cílem zavádění povídací funkce je samozřejmě návštěvníka stránek nejen potěšit a pobavit, ale především z něj udělat platícího zákazníka. A tam nastává problém: Co když chatbot lidem nabídne cenu, která neodpovídá realitě? Víme, že velké jazykové modely mají sklon „halucinovat“, tedy vymýšlet si důvěryhodně znějící, leč zcela nepravdivé odpovědi.
Nevěřte všemu, co AI vytvoří
ChatGPT a podobní chatboti chtějí být užiteční. A někdy to znamená, že si vymyslí odpovědi přesně na míru. Texty působí důvěryhodně, ale to neznamená, že mají jakýkoli vztah s realitou.
Navíc existuje řada triků, jak mohou uživatelé model „překecat“ a donutit jej ignorovat některá výchozí nastavení. Jak pak řešit případy, kdy chatbot „uzavře smlouvu“ a zákazník ji bude chtít vymáhat?
Sleva pro truchlící by byla skvělá, kdyby existovala
V Kanadě proběhl zřejmě jeden z prvních soudů na toto téma. Co se konkrétně stalo: V listopadu 2023 si Jake Moffat otevřel stránku aerolinek Air Canada a objednal si letenky. Odlétal na pohřeb a chatbot mu sdělil, že pro takové případy má aerolinka speciální slevu. Moffat si koupil letenku za asi 600 dolarů, chatbot jej totiž ujistil, že aerolinky mu následně značnou část tohoto obnosu vrátí.
„Pokud potřebujete okamžitě odcestovat, nebo jste již odcestovali a chcete na svou letenku uplatnit slevu pro pozůstalé, učiňte tak laskavě do 90 dnů od data vystavení letenky vyplněním našeho formuláře se žádostí o refundaci peněz,“ odpověděl ochotný chatbot.
Jenže později, když se Moffat této kompenzace domáhal, mu zástupce Air Canada (tentokrát už člověk) sdělil, že žádné takové pravidlo neexistuje a neexistovalo. Moffat se rozhodl bránit soudní cestou. Z jeho pohledu totiž nebyl žádný rozdíl mezi tím, zda si o slevě přečetl u oficiálního chatbota, nebo v sekci Podmínky. Obojí jsou přece oficiální webové stránky společnosti.
Před soudem zástupci Air Canada argumentovali docela zvláštně. Navrhli, že „chatbot je nezávislá právnická osoba a je zodpovědná za své činy“. To ale rozsudek odmítl.
„Chatbot má sice interaktivní složku, ale stále je jen součástí webových stránek společnosti Air Canada,“ napsal ve svém rozhodnutí člen tribunálu Christopher Rivers. „Společnosti Air Canada by mělo být zřejmé, že je odpovědná za všechny informace na svých webových stránkách. Nezáleží na tom, zda tyto informace pocházejí ze statické stránky, nebo z chatbota.“
Soud uložil společnosti zaplatit odškodné (převyšující cenu jedné původní letenky, Moffat koupil celkem dvě) a firma tento rozsudek přijala. Ostatně šlo o malou částku. Interně určitě firma utratí více peněz na to, aby svého robota zkrotila. To samé budou muset udělat i ostatní firmy. Lekce je myslím jasná: AI není za své činy zodpovědná a nelze čekat, že zákazníci budou zkoumat, zda mohou odpovědím věřit.
Pokud něco brzdí masové nasazení umělé inteligence, je to právě tato nejistota. A je to myslím brzda velmi pragmatická a užitečná.
V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.
