Článek
Čtete ukázku z newsletteru TechMIX, ve kterém Pavel Kasík a Matouš Lázňovský každou středu přinášejí hned několik komentářů a postřehů ze světa vědy a nových technologií. Pokud vás TechMIX zaujme, přihlaste se k jeho odběru!
Své závěry v srpnu zveřejnili na webu arXiv, kam vědci v současné době nahrávají práce, které připravují k vydání v nějakém odborném časopise. Kvalita článků na arXiv je tedy velmi různá. V tomto případě jsou ale pod textem podepsána z velké části známá a osvědčená jména, takže práci se už teď dostalo pozornosti od kolegů i specializovaných novinářů a blogerů.
Výzkumníci se do tohoto úsilí pustili, protože „podrobných, empiricky podložených a promyšlených diskuzí o vědomí umělé inteligence je opravdu málo“, jak uvedl jeden z autorů, filozof Robert Long z Centra pro bezpečnost umělé inteligence (výzkumné neziskovky v kalifornském San Franciscu) pro časopis Nature.
Otázce se rozhodně příliš nevěnují společnosti, které AI vyvíjejí. Nejspíš především z obchodních důvodů se tomu řada z nich spíše vyhýbá. Možná si vzpomínáte na případ vývojáře společnosti Google, který dospěl k názoru, že už současná AI mají vědomí, a dokonce de facto bojoval za jejich práva.
Firma jej propustila, což zřejmě nebyla úplně náhoda, ale spíše výraz firemní politiky směrem k této citlivé otázce. Když se totiž například časopis Nature zeptal vedení Google na jejich stanovisko k otázce AI a vědomí, firma na otázku známého vědeckého periodika vůbec neodpověděla. (OpenAI zase poslalo velmi neurčité vyjádření, podle kterého bude k odpovědi na tuto otázku zapotřebí vyvinout „nové postupy“ a cílem firmy je „plně využít potenciálu AI pro celou společnost“.)
Opatrnost podnikatelů v oboru je pochopitelná. Otázka vědomí umělé inteligence s sebou přináší i otázku práv AI, což by zase mohlo mít zásadní dopad na jejich byznys.
Co to vlastně je?
Manažery AI firem může do značné míry uklidnit, že „vědomí“ dokážeme jen těžko popsat a vysvětlit. Asi nejjednodušší definice říká, že vědomí je „to z naší mysli, co si dokážeme vybavit“. Ale jak si sami na sobě můžete jednoduše ověřit, člověk si uvědomuje opravdu leccos, od svých tělesných pocitů přes vjemy z okolí až třeba po myšlenky o povaze vlastního vědomí, a těžko pro to vše najít společného jmenovatele.
Česká Učebnice obecné psychologie Aleny Plhákové například uvádí, že vědomí je nejhůře vysvětlitelným jevem psychologie. Jen těžko se „vědecky uchopuje“, protože je příliš složité. Věda pochopitelně předpokládá, že vědomí vzniká v našich mozkových buňkách a obecně v mozkových strukturách, ale jak přesně, to nedokáže vysvětlit.
Definice vědomí jsou tedy de facto jen popis toho, co by do něj podle daného autora mělo spadat. Vysvětlují často, jak se projevuje, ale neříkají, o co vlastně jde. A velmi často si pomáhají i negativně, tedy popisují i to, co do vědomí nepatří.
Nejistotu dobře ilustruje skutečnost, že autoři zmiňované studie použili jednu velkou zkratku (a sami na to upozorňují). Pro jednoduchost o vědomí píšou, jako by šlo o „binární“ vlastnost: Organismus či systém je buď vědomý, nebo není. Protože toho ale o vědomí víme tak málo, musíme připustit, že existuje celá řada dalších možností. Vědomí může velmi snadno patřit mezi vlastnosti s neostrými hranicemi.
Například tričko může mít barvu někde na pomezí mezi žlutou a zelenou, takže na tom, zda je žluté, nebo ne, není nic jistého. V zásadě by to tak mohlo být i u vědomí. Minimálně někteří autoři předpokládají, že by mohli existovat tvorové, kteří nejsou ani úplně vědomí, ani úplně nevědomí.
Pokud tomu tak je, mohly by se některé systémy umělé inteligence nacházet na této neostré hranici.
Věda také nemůže vyloučit, že existují různé „stupně vědomí“. Je tedy možné, aby jeden systém byl vědomější než jiný. V takovém případě by mohlo být možné vytvořit systémy umělé inteligence, které jsou vědomé, ale jen ve velmi malé míře – anebo také pochopitelně systémy, které jsou vědomé v mnohem větší míře než lidé.
Stejně tak je možné, že vědomí se nepohybuje na jedné škále od „nevědomí“ k „supervědomí“, ale jedno vědomí se může od druhého lišit v celé řadě vlastností či parametrů. Jedno tak může být „vědomější“ než jiné například jen díky tomu, jak dobře dokáže vnímat a přemýšlet o sobě.
Je také možné, že vědomí může být složené z různých dílů, které fungují dohromady. A každý zvlášť prostě ke vzniku vědomí nevede. I v takovém případě by mohly velmi pravděpodobně existovat i systémy složené z menšího počtu dílů, které jsou vědomé jen částečně.
Kolem celé otázky je řada nejasností a z pestré nabídky si může vybrat každý. I proto autoři navrhují, že bychom měli o případném vědomí u umělé inteligence uvažovat v mezích pravděpodobnosti. Tedy neříkat „tato AI má vědomí“, ale spíše „tato AI by s pravděpodobností 10 procent mohla mít vědomí“.
Podle nich je to rozhodně přesnější. Ale i to, že sami důsledně takový způsob vyjadřování v práci nepoužívají, jen naznačuje, jak obtížné a nepraktické je uvažovat o této otázce takovým způsobem. Je to dobrá poznámka, ale ve veřejné debatě na ni pravděpodobně všichni brzy zapomenou.
Jak to tedy poznat?
Přesto vědci tvrdí, že přes všechny neshody lze alespoň do určité míry vymyslet způsob, jak přítomnost vědomí u umělé inteligence potvrdit (tedy s určitou pravděpodobností, ne zcela definitivně a nezvratně).
Aby jejich otázka dávala vůbec smysl, pochopitelně předpokládají, že vědomí lze napodobit v počítači. Ne všichni odborníci takový názor sdílejí, ale kdyby si autoři této konkrétní práce mysleli, že to možné není, neměli by o čem psát.
V dalším kroků pak zmiňují, co nedělat: Zkoušet AI, zda se chová, jako by měla vědomí. Umělá inteligence se naučila lidské chování a projevy napodobovat do té míry, že nám to mnoho nového neřekne.
Zkuste se nějaké AI zeptat, jestli má vědomí, a pak s ní o tom debatovat. Dozvíte se toho spoustu, ale co z toho je pravda, to ne – a už vůbec z toho přesvědčivě nezjistíte, jestli projev AI vznikl vědomě či nevědomě. Může to vypadat jako projev vědomé inteligence, ale není jisté, že to tak opravdu je.
Mnohem více by se případné zkoumání míry sebeuvědomění dané AI mělo věnovat tomu, jak vnímá svět a do jaké míry si uvědomuje své vlastní subjektivní prožitky (filozofové tomu říkají „fenomenální vědomí“). Nikdo nepochybuje, že lidé takhle svět vnímají. Jak je to u zvířat, na tom se věda ještě neshodne.
Práce pochopitelně naráží na již zmíněný problém, že nemáme obecně přijímanou teorii vědomí. Autoři proto sáhli do šesti hojně diskutovaných a z každé si vzali něco.
Například teorie tzv. vyššího řádu předpokládá, že vědomí vyžaduje schopnost přemýšlet o tom, jak přemýšlíme a jak se učíme (tzv. metakognice). Když je tedy nějaká AI vybavena „modulem“, jenž dělá něco podobného – tedy sleduje a analyzuje dění v jiných částech AI – tak bychom podle autorů měli předpokládat, že u takové umělé inteligence se vědomí vyvine spíše než u jiné, která podobný systém nemá.
Jiná teorie pracuje s představou, že vědomí vyžaduje schopnost odlišit signály vyvolané vnějšími okolnostmi od vjemů, které vznikají v našem mozku, tedy představ. Pokud by AI měla systém, který umožní rozpoznat vnější signály od jejích „halucinací“, šance na získání vědomí by měla být zase vyšší.
Další teorie (tzv. rekurentního zpracování) navrhuje, že vědomí je opakované zpracování informací ve zpětnovazebních smyčkách. Například naše zrakové vjemy „prochází“ různými částmi mozku znovu a znovu. Toto opakování a integrace signálů se zdá být nezbytné pro skutečně bohaté zrakové vjemy. Co z toho plyne? Že systémy, které obsahují podobné prvky, by pravděpodobněji mohly být vědomé.
Závěr si asi dokážete představit sami: Čím více takových vlastností systém vykazuje, tím spíše může být vědomý. Autoři svůj vlastní přístup označují jako „založený na teorii“. Což mimo jiné implikuje, že závěry hodně závisí na tom, jak se budou vyvíjet naše teorie vědomí – a seznam navržených kritérií nelze považovat za definitivní.
Umělá inteligence na vzestupu
Strojové učení není žádnou novinkou. Teprve v posledních letech se ale ke slovu dostaly tzv. velké jazykové modely. Nejznámější ukázkou je populární ChatGPT, jehož fungování podrobně popisujeme v tomto článku:
Důležitým faktorem aktuální popularity systému umělé inteligence je velké množství textů dostupných na internetu. A také rychlý hardware, který umožnil vytrénování řádově výkonnějších modelů. Takových, ve kterých se objevuje „emergentní chování“, jež se v některých ohledech vyrovná lidské inteligenci:
To samozřejmě vyvolává debatu o tom, zda nová vlna automatizace nahradí lidskou práci. V tomto článku shrnujeme současné poznatky a predikce ohledně toho, jak AI změní pracovní trh a kterých profesí se dotkne nejvíce:
Už je to tu?
Pochopitelně se ve studii objevuje i otázka, zda už současné umělé inteligence tyto vlastnosti mají a v jaké míře. Odpověď je zatím negativní: Žádný současný systém, o kterém autoři vědí, nemá dost kýžených vlastností, aby u něj byla vyšší pravděpodobnost výskytu vědomí.
Zároveň ovšem autoři dospěli k názoru, že „uvědomělá AI“ by mohla být relativně blízko. Některé mechanismy, které by údajně měly zvyšovat pravděpodobnost výskytu vědomí u AI, se už dnes běžně používají. A ty zbylé by podle nich s využitím dnešní výpočetní techniky nemělo být nemožné napodobit.
Jestli to považujete za dobrou či špatnou zprávu, to už nechám na vás.
V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.
