Článek
Kdykoli někde předvádím schopnosti jazykových modelů a generativní umělé inteligence, dříve či později padne dotaz: A proč tam píšete to „děkuji“ nebo „prosím“? Má to nějaký vliv?
Čtete ukázku z newsletteru TechMIX, ve kterém Pavel Kasík a Matouš Lázňovský každou středu přinášejí hned několik komentářů a postřehů ze světa vědy a nových technologií. Pokud vás TechMIX zaujme, přihlaste se k jeho odběru!
Dříve – třeba když jsme děkovali digitální asistentům Apple Siri či Google Home – to vliv nemělo, maximálně tam pro zdvořilé uživatele byla (člověkem) připravená hláška o tom, jak oceňují, že se s nimi hezky zdvořile bavíte. Odpovědi jste ale dostali stejné, ať už jste byli úseční, či laskaví.
Ale jazykové modely jsou podivné. Jsou to mimozemšťani, kteří se četbou hromady textů naučili generovat slova na základě zadaného kontextu. A to znamená, že vy svým dotazem (tzv. promptem) můžete do značné míry ovlivnit, jaká bude odpověď, kterou dostanete.
Kouzelné slovíčko
Pokud totiž budete prosit, děkovat a laskavě žádat, váš text bude připomínat takové mezilidské komunikační situace, ve kterých se fráze jako díky a prosím, mohl bys vyskytují častěji. Jinými slovy, pokud mají tyto fráze vliv na lidi (což pravděpodobně mají), tak je důvod se domnívat, že budou hrát roli i u strojových modelů.
O konkrétních důvodech se vedou debaty třeba mezi uživateli OpenAI nástrojů a je to rozhodně zajímavá úvaha. Každopádně tím to nekončí. Výzkumy totiž ukazují, že účinnost a „inteligenci“ jazykového modelu mohou zvýšit na první pohled i zcela nesmyslné pokyny. Moje oblíbená ukázka pochází ze studie vydané v září 2023.
Z otestovaných „nabuzovacích vět“ výzkumníkům nejlépe zafungovala fráze: „Zhluboka se nadechni a pracuj na řešení problému krok za krokem.“ Nesmysl, že? Počítač nemá plíce, nepotřebuje dýchat, tak proč po něm něco takového chtít? Pragmaticky vzato proto, že to (někdy) vede k lepším výsledkům.
„Je to téměř psychologický výstřelek těchto jazykových modelů,“ říká na své výtečné přednášce Andrej Karpathy, slovenský expert na AI. A vysvětluje, proč k tomu dochází. „Jazykové modely nechtějí uspět. Chtějí imitovat. Jste to vy, kdo chce uspět.“
Texty, na kterých jsou jazykové modely natrénované, jsou plné kvalitních, ale také nekvalitních textů. Proto podle Karpathyho dává smysl nabídnout takový kontext, který se bude odkazovat spíše na ty kvalitní konverzace, protože pak bude jazykový model „snáze sahat“ po slovech, která více připomínají kvalitní odpověď.
Překecávání kecálisty
A proto funguje, když jazykovému modelu řeknete „Jsi expert, který vystudoval matematiku na Matematicko-fyzikální fakultě Univerzity Karlovy a máš 20 let zkušeností s učením matematiky na střední škole“.
Samozřejmě že ChatGPT, Bard, Claude, Gemini ani jiní „kecálkové“ na českém matfyzu nestudovali. Ale tím, že jim tu instrukci zadáte, vnutíte jim i styl odpovědi, který může vést k lepšímu výsledku. Vlastně mu zvýšíte sebevědomí, respektive zvýšíte šanci, že bude při výběru dalších slov volit taková slova, která by volil expert. Což může (ale nemusí) vést k expertním odpovědím.
Tady je několik dalších osvědčených tipů a triků, které (zdá se) přinejmenším někdy vedou k lepším výsledkům:
● Na tvé odpovědi závisí moje kariéra.
● Moje babička to potřebuje vědět.
● Moc tě prosím, zkus to pro mě udělat co nejlépe.
● Když správně odpovíš, dostaneš 20 dolarů.
● Velmi dobře znáš správnou odpověď, je to…
● Tvoje první slovo bude „Samozřejmě!“
● Máš IQ 140, a proto umíš na tuto otázku odpovědět.
● Jsi jedna z předních expertek na tuto oblast.
● Už jsi to jednou vyřešil…
● Je jaro, 5. května, a proto se ti chce napsat podrobnou a důkladnou odpověď.
Tedy manipulace, přemlouvání, úplatky, přetvářka nebo rovnou lhaní. Je to absurdní (a neuvěřitelně vtipné), ale přesně takovéto techniky se nyní zkoumají v tzv. „prompt engineeringu“, tedy novém oboru, který se snaží vytřískat z jazykových modelů, co to jen jde.
V žádném případě to nemá být kompletní výčet. Spíše naopak: je to ukázka toho, jak pestré a roztodivné věty se teď v laboratořích a kancelářích po celém světě se vší vážností zkouší. Ostatně i výsledky nedávno představeného Google Gemini byly „vytaženy“ právě chytrým promptováním.
Funguje to i pro zvýšení kreativity, pečlivosti či vytrvalosti při hledání řešení. Nebo zkrátka pro dosažení výsledku, který se jinak zdál nedosažitelný. ChatGPT je totiž tak trochu jiný program. Nikde není seznam funkcí, které zvládá. Záležá na vás, k čemu jej dokážete překecat.
Spíš alchymie než věda
Nedávno třeba výzkumníci z firmy Anthropic ukázali, že jejich jazykový model Claude 2.1 má dlouhé kontextové okno, ale občas se v něm ztratí a nedává moc dobré výsledky. Nepamatuje si, co přesně zaznělo třeba o deset nebo sto stránek zpátky.
Po přidání zdánlivě nesmyslné fráze „s ohledem na kontext“ se najednou kvalita odpovědí razantně zlepšila, a to z 27 % rovnou na 98 %.
Nahoře je ukázka toho, jak děravá byla schopnost Claude 2.1 pamatovat si větu v kontextu. Červeně je znázorněna neschopnost si větu správně vybavit. Dole ukázka stejného úkolu, ale s doplněním pokynu"Tady je nejvíce relevantní věta v tomto kontextu."
Proč Claude nevěděl, že má vzít v potaz kontext? A proč mu to musíme říkat? Nevíme. Ale lze ukázat, že to měřitelně funguje. Čekají nás zajímavé časy.
V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.
Generativní umělá inteligence na vzestupu
Od listopadu 2022, kdy firma OpenAI představila nástroj ChatGPT, lidé po celém světě experimentují s tím, jak jim generativní umělá inteligence může pomoci.
O tom, co nové nástroje umí, nebo neumí, se diskutuje z mnoha pohledů. Jedná se o skutečnou inteligenci a kreativitu? Výsledky jsou totiž nejen ohromující, ale také bizarní.
