Článek
Článek si také můžete poslechnout v audioverzi.
„Tak jako obvykle?“ zeptá se číšník štamgasta. Podobně by si nově měl i nejpopulárnější chatbot současnosti pamatovat, kdo jste a co po něm nejčastěji chcete.
OpenAI spouští experimentální novinku: jejich chatbot ChatGPT si na vás povede „složku“. Konkrétně jde o funkci „Paměť“. Do této interní paměti si chatbot bude ukládat informace o vás. Nová funkce se postupně začne objevovat platícím uživatelům ChatGPT.
Ukázka „složky“ v ChatGPT: zde si asistent vytvořil třeba poznámku, že uživatel má dvouletou dceru, poznámky z porady chce mít shrnuté do odrážek nebo že při psaní příspěvku na blog preferuje stručnější text bez přehnaných emocí.
Pokud třeba v rámci konverzace s ChatGPT poznamenáte, že trpíte celiakií, příště už by vám mohl chatbot sám od sebe nabídnout bezlepkovou variantu receptů. A když uživatel zmíní, že pracuje v marketingu, třeba si to asistent „poznamená“ a bude nabízet nápady na reklamy, aniž jej o to přímo požádáte.
Proč o mně nic neví?
Chatboti jako ChatGPT mají velmi omezenou pozornost. Pokud vedete konverzaci dlouho, snadno se dostanete mimo tzv. kontextové okno. Když bude textu velké množství, robotovi začátek rozhovoru jaksi zmizí z dohledu.
Co je kontextové okno?
Konverzační nástroje používající modely umělé inteligence pracují na principu doplňování slov. Model dostane jako zadání „kontext“, což jsou texty veškerých otázek i odpovědí v dané konverzaci nebo třeba nahrané textové dokumenty.
Kromě toho je tu ale ještě mnohem zásadnější omezení, které je pro uživatele těžko pochopitelné: Pokaždé když se s chatbotem začnou bavit, dělá, jako kdyby je neznal. „Včera jsem mu to konečně vysvětlil. Dnes zase neví, která bije,“ napsal třeba překvapený čtenář ve stížnosti na zapomnětlivost ChatGPT.
Lidem bychom takovouto zapomnětlivost netolerovali, respektive bychom to považovali za závažný a kuriózní problém. Třeba ve filmu Memento hlavní hrdina kvůli úrazu nedokáže vytvářet a ukládat nové vzpomínky, a tak neustále žije jen v přítomných 15 minutách. Znamená to, že neví, co se děje, kam šel nebo proč. Musí podle kontextu odhadnout, jestli někoho pronásleduje, nebo je naopak on pronásledován.
Poznámky pro sebe
Takto fungují i populární chatboti. Skutečně když s ChatGPT, Gemini nebo Copilotem začnete nový rozhovor, začínáte s čistým štítem. Tato funkce je vlastně docela užitečná. Jazykové modely generují text na základě toho, co zatím zaznělo. Kdybyste s chatbotem vedli jednu dlouhou nepřerušenou konverzaci, byly by odpovědi „ušpiněné“ tématy, o kterých jste se bavili dříve.
Nově si ale bude ChatGPT vytvářet jakési „lístečky“, tedy krátké postřehy a poznámky, které mu přijdou důležité a které by bylo užitečné si zapamatovat i pro příští konverzace.
Podobně, jako si v prohlížeči aktivujete „anonymní okno“, budete moci s ChatGPT aktivovat „dočasný chat“, ve kterém bude funkce paměti vypnutá. Konverzace v takovém režimu nebude čerpat z uložených „lístečků“ a nebude ani nové lístečky do vaší osobní složky vytvářet.
Je třeba pochválit OpenAI za to, že se snaží tuto funkci implementovat transparentně. Uživatel může paměť prohlížet a jednotlivé „poznámky“ mazat.
Jako příklad OpenAI uvádí: „Vysvětlili jste, že dáváte přednost tomu, aby poznámky ze schůzek obsahovaly nadpisy, odrážky a body opatření shrnuté na konci. ChatGPT si to pamatuje a rekapituluje schůzky tímto způsobem.“ Jinými slovy, bude se chovat trochu více jako schopný zaměstnanec, bude si pamatovat, co jste po něm chtěli v minulosti nebo co vám naopak vadilo.
Nejasné výhody a nevýhody
Za zmínku stojí, že ukládání poznámek bude mít chatbot na starosti sám. ChatGPT zjevně dostal v systémovém promptu (základní úvodní instrukci) pokyn: „Máš k dispozici nástroj zvaný bio. Kdykoli můžeš zavolat tento nástroj a uložit si pomocí něj informace, které si chceš zapamatovat pro pozdější konverzace.“
Určitě se bude tento nástroj časem ladit. Jaké poznámky jsou užitečné a jaké ne? Co lidem usnadní komunikaci, a co je bude spíše štvát? A co budou považovat za nepříjemný zásah do soukromí? To zatím neví ani OpenAI. Právě tím, že funkci pustí mezi lidi, ji teprve otestuje.
Nevěřte všemu, co AI vytvoří
ChatGPT a podobní chatboti chtějí být užiteční. A někdy to znamená, že si vymyslí odpovědi přesně na míru. Texty působí důvěryhodně, ale to neznamená, že mají jakýkoli vztah s realitou.
Asi to není – jak někteří spekulovali – první krok na cestě k obecné inteligenci. Podobá se to spíše funkci „vlastní instrukce“, kterou má ChatGPT už dlouho. Nová funkce ale přiblíží fungování ChatGPT běžným uživatelům. Ti nechtějí přemýšlet, co by si měl ChatGPT pamatovat napříště. A tak dává smysl, aby se tohoto úkolu ujala umělá inteligence sama.
„Paměti ChatGPT se vyvíjejí spolu s vašimi interakcemi a nejsou vázány na konkrétní konverzace,“ připomíná OpenAI. „Odstraněním konverzace se jeho vzpomínky nevymažou. Musíte odstranit konkrétní vzpomínku z paměti.“ Kromě kliknutí na ikonku koše prý můžete ChatGPT požádat o zapomenutí také během konverzace.
Určitě tedy bude docházet k legračním omylům a trapným situacím. I proto je dobré, že lze tuto funkci vypnout nebo jednotlivé „poznámky“ smazat. Slouží k tomu nabídka Nastavení – Personalizace – Paměť (Settings – Personalization – Memory).
Funkci mohou uživatelé zcela vypnout v nastavení.
Nemůžu se každopádně dočkat, až se za pár měsíců podívám, co si o mně do složky ChatGPT uložil. Za takovou psychologickou sondu člověk obvykle musí platit více než 20 dolarů měsíčně.
Generativní umělá inteligence na vzestupu
Od listopadu 2022, kdy firma OpenAI představila nástroj ChatGPT, lidé po celém světě experimentují s tím, jak jim generativní umělá inteligence může pomoci.
O tom, co nové nástroje umí, nebo neumí, se diskutuje z mnoha pohledů. Jedná se o skutečnou inteligenci a kreativitu? Výsledky jsou totiž nejen ohromující, ale také bizarní.
Doplnění: Rozšířili jsme článek o podrobnější informace o fungování nové funkce.
