Článek
Představte si, že byste někomu řekli určité jméno a on by okamžitě ztuhl, odmítl komunikovat a tvářil se, že vás neslyší. Přesně to se děje ChatGPT, když mu někdo zmíní jméno „David Mayer“. Tato zdánlivě banální technická kuriozita nám možná říká více o budoucnosti umělé inteligence – a o nás samotných – než by se na první pohled mohlo zdát.
Fenomén „zakázaného jména“ se objevil před několika dny na redditu a okamžitě vyvolal lavinu spekulací. Stručně řečeno: nejznámější AI chatbot, který tou samou dobou shodou okolností slaví své druhé narozeniny, zatvrzele odmítá reagovat na dotazy, ve kterých je toto jméno zmíněno. A nejen to, sám ho odmítá byť jen napsat nebo zopakovat.
Proč? To je na tom nejvtipnější. Nikdo neví, nebo to aspoň neví s naprostou jistotou. Je to technická chyba? Záměr? Nebo snad náznak vznikajícího vědomí AI s vlastními psychologickými bloky? A to je jen začátek mnoha ještě divočejších spekulací.
Nabízí se několik vysvětlení, z nichž každé je svým způsobem znepokojivé. Může jít o důsledek evropské legislativy (právo být „zapomenut“), kdy si někdo vyžádal vymazání své digitální stopy. Což by ovšem znamenalo, že jednotlivci mohou efektivně „cenzurovat“ umělou inteligenci, a byl by to začátek asi nekončící série procesů.
Další teorií je tu spojitost s Davidem Mayerem de Rotschildem, který se díky tomu stal jednou z nejgooglovanějších postav těchto dní. Rotschildové, hm, to jméno mají konspirační teoretici moc rádi. Nebo je to prostě jen bug v systému? To taky není moc povzbuzující, protože jestli to chyba je, tak hodně zvláštní a divná.
Bez ohledu na skutečnou příčinu tento případ ilustruje, jak snadno mohou v systémech umělé inteligence vznikat „slepá místa“ – ať už záměrně nebo náhodou. Ve viktoriánské době prý nesměla padnout zmínka o nohách klavíru, protože připomínaly něco nemravného. Ano, dnešní chatboty „zamrznou“ anebo se rovnou „vypnou“, když je požádáte o něco nemravného. Tak to chtějí jejich provozovatelé. Ale proč „David Mayer“?
Za zmínku stojí i reakce internetové komunity. Lidé se okamžitě pustili do experimentování, snažili se ChatGPT různými způsoby přelstít a společně hledali vysvětlení. Je to ukázka kolektivní detektivní práce v digitálním věku, ale také našeho vztahu k AI. Zacházíme s ní jako s podivnou bytostí, která má své vrtochy a záhady, které musíme rozluštit.
Třeba je opravdu má.
Asi nejdůležitější otázkou ale je, co tohle „digitální tabu“ znamená pro budoucnost. Pokud může být jedno jméno vymazáno z „vědomí“ AI, co dalšího může být skryto nebo upraveno? A kdo o tom rozhoduje?
V době, kdy se AI stává stále důležitější součástí našich životů, potřebujeme jasná pravidla a transparentnost ohledně toho, co tyto systémy smí a nesmí říkat. Jinak riskujeme, že vytvoříme digitální obdobu dystopických vizí – ať už z Orwella, anebo seriálu Black Mirror.
Anebo se stačí ohlédnout do historie, i té naší komunistické. Nepohodlné věci i nepohodlní lidé prostě přestali existovat, a připomínaly nám je jen pomyslné stíny. Viz třeba Clementisova čepice na Gottwaldově hlavě, o níž psal Kundera.
David Mayer se tak stává symbolem něčeho mnohem většího – našich obav z kontroly nad AI, našeho práva na soukromí v digitálním věku a možná i našeho sklonu vidět záhady tam, kde jsou možná jen obyčejné technické problémy. AI éra je prostě tady, se svými nadějemi i riziky, pozitivy a negativy, a dnes už i svými vlastními mýty a záhadami.
