Článek
„Je to nebezpečnější než chyba v návrhu auta nebo letadla,“ varuje Elon Musk v rozhovoru pro Fox News. „Umělá inteligence má potenciál zničit civilizaci. Možná je to malá pravděpodobnost, ale je netriviální.“
Ve svém rozhovoru s Tuckerem Carlsonem, kontroverzním moderátorem americké televizní stanice Fox News, rovněž Musk oznámil, že chce vytvořit službu TruthGPT, což má být „maximální pravdu hledající umělá inteligence, která se snaží pochopit podstatu vesmíru“.
Ukázky z rozhovoru Tuckera Carlsona s Elonem Muskem odvysílala televize Fox News jako upoutávku na pořad.
Kromě toho Musk v rozhovoru mluví o tom, že americké bezpečnostní složky měly „překvapivě rozsáhlý“ přístup k tomu, co se ve Twitteru dělo, včetně možnosti číst soukromé zprávy lidí.
ChatGPT kecá a je „liberální“
Pořad Tuckera Carlsona je oblíbený především mezi konzervativními diváky. Právě z konzervativní strany amerického politického spektra zaznívala v poslední době kritika populárního nástroje ChatGPT od OpenAI pro jeho „přílišnou politickou korektnost“ a politickou inklinaci k liberálním myšlenkám. OpenAI tuto kritiku částečně uznalo.
Politická „zaujatost“ se do ChatGPT mohla dostat během procesu „dotrénování a vyladění“ pomocí zpětné vazby od lidských hodnotitelů. Kromě toho však také ChatGPT často píše důvěryhodné texty, které se nezakládají na pravdě. Podle některých odborníků může tento jev (zvaný halucinace) být průvodní vlastností velkých jazykových modelů, jak je dnes známe.
ChatGPT si vymýšlí a kecá
Nástroj ChatGPT je založený na velkém jazykovém modelu (LLM). Je vytrénovaný na velkém množství textů z internetu. Umí tak, slovo po slově, generovat důvěryhodně vypadající text.
Ale to neznamená, že jde o výsledky odpovídající realitě. ChatGPT si vymýšlí, fabuluje a sebejistě vám bude tvrdit naprosté nesmysly. Není to „chyba“, vyplývá to z principu, na kterém služba funguje.
Na to je třeba pamatovat, když uvažujete o použití k něčemu jinému než pro vlastní pobavení. Veškerý výstup z nástrojů založených na LLM berte vždy maximálně jako nápad či návrh, nikoli jako bernou minci. Vygenerovaná fakta ověřujte, než je někde použijete.
Není jasné, jakým „trikem“ by Musk chtěl docílit toho, že jeho služba bude dávat pravdivé výsledky. V současné době však hledá odborníky v oblasti výzkumu umělé inteligence, kteří by mu jeho vizi pomohli naplnit.
Nová firma X.AI
Elon Musk byl na konci března 2023 jedním z předních signatářů výzvy k pozastavení vývoje pokročilých systémů umělé inteligence: „Vyzýváme proto všechny laboratoře umělé inteligence, aby okamžitě alespoň na šest měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4.“ Tato výzva sice získala očekávanou mediální pozornost, avšak velké firmy se k žádné přestávce nezavázaly.
Nyní se Elon Musk sám pustil do výzkumu, k jehož pozastavení nedávno vybídl. Založil k tomu firmu X.AI Corp, která nese podobné jméno jako jeho nová firma nahrazující firmu Twitter.
Muskova sociální síť X
Elon Musk založil novou firmu X Corp., která pohltila firmu Twitter. Vytvořil „aplikaci X“, která nahradila celou řadu funkcí, od sociální sítě přes komunikaci a seznamku až po platby, nákupy nebo taxi.
Více o Muskově vizi ve starším článku SZ:
Firma X.AI byla podle deníku The Wall Street Journal (WSJ) založena v Nevadě a Musk je šéfem této firmy. „V rámci svých ambicí v oblasti umělé inteligence strávil Musk několik posledních měsíců náborem výzkumných pracovníků s cílem vytvořit konkurenční společnost k OpenAI,“ uvádí nejmenovaní experti citovaní WSJ.
Musk v ukázce z rozhovoru pro Fox News mimo jiné uvedl, že „umělá inteligence snad přinese více užitku než škody“.
V roce 2015 se Musk podílel na založení společnosti OpenAI, později však z její správní rady odešel kvůli možnému střetu zájmů. Nyní Musk OpenAI kritizuje za to, že přijímá peníze od investorů a stala se „uzavřenou, nikoli otevřenou“.
Muskova automobilka Tesla rovněž investuje velké prostředky do výzkumu umělé inteligence, konkrétně pro systém autonomního řízení auta, tzv. Tesla Autopilot.
Elon Musk už od roku 2014 opakovaně predikoval, že samořídící auta uvede jeho firma na trh „příští rok“. Teprve v roce 2022 přiznal, že to je složitější, než se zdálo: „Abychom skutečně vyvinuli samořídící auta, potřebujeme napřed vyvinout umělou inteligenci, která rozumí reálnému světu.“
