Článek
Rozhovor si také můžete poslechnout v audioverzi.
„Levná“ čínská umělá inteligence DeepSeek pobláznila svět. Konkuruje technologickým gigantům a zároveň je open-source a zdarma. Pro spoustu firem to zní jako lákavá nabídka. Jenže před ní v pořadu Inside Talks varuje expert na AI Jan Romportl.
„Zásadní u DeepSeek je, že data posíláte do Číny. I ta aplikace je jenom taková slupka nad uživatelským rozhraním. Pokud ale uživatelé používají Temu, nebo mají TikTok, tak je to stejné a asi jim to ani nevadí,“ říká s tím, že u firem už je situace jiná a může být podstatně nebezpečnější.
„Open Source model znamená, že je k dispozici ke stažení, a spousta lidí si proto řekla, že když to nasadí ve vlastním prostředí, na vlastním serveru, nic pak do Číny nepošle. Co by se pak mohlo dít špatného? Už třeba to, že model zrcadlí hodnoty tvůrce. A zatímco Google modely byly hodně inkluzivní, čínský model je prostě autoritativní a má jasný pohled na demokratické hodnoty. Je to nástroj propagandy – trojský kůň pro jiné kultury. Proč by nám to jinak Číňané dávali k dispozici?“ říká Romportl a dodává, že rozhodně není řešením model přetrénovat.
„To se teď objevuje, jenže nikdo neví, jestli jsme ho to skutečně odnaučili, nebo jsme ho jen naučili to zastírat,“ popisuje Jan Romportl snahy uživatelů „přeučit jazykový model“. Podle něj je více pravděpodobnější druhá varianta.
Největší riziko pro firmy ale podle něj spočívá v možnosti takzvaných „spících agentů“. „Do toho modelu můžete zakódovat libovolné množství nepřátelských typů chování za určitých situací. Třeba když bude vyžádaný, aby napsal kus programového kódu, nebo řízení software. Je to jako když naberete programátora, který vám do vašich software produktů začne vkládat bezpečnostní díry,“ vysvětluje Romportl.
Upozorňuje přitom, že tohle je jen ochutnávka toho, co z Číny můžeme čekat. „Budou přicházet další a možná ještě nebezpečnější.“ Velmi matoucí je podle něj i open-source licence, tedy otevřený kód. „Je to 600 miliard čísel. Pak můžu říct, že i Windows je open-source. Tohle je strašná mýlka.“
Obecná umělá inteligence – Evropa už nemá šanci
Čína a USA nyní mezi sebou soupeří v tom, kdo první přijde na trh s tím nejvyšším stupněm umělé inteligence – obecnou AI. A i když do této oblasti chce Evropa poslat miliardy eur, podle Romportla je pozdě a šance na úspěch minimální. „Naše představa, že pomocí slíbených 300 miliard eur nějak doženeme USA a Čínu, je, myslím, mylná. Nám v obecné umělé inteligenci ujel vlak,“ varuje Romportl.
„Tady se řekne – za 300 miliard koupíme ty Nvidie, postavíme továrny. Ale co na nich budeme počítat? Patrně velké jazykové modely, které budou o jednu až dvě generace za těmi top americkými a čínskými. A až je budeme mít, stejně nebudeme mít cesty, jak je reálně natrénovat a nebudeme mít ani distribuční kanály k uživatelům.“
„Microsoft má Teamsy, v tom všude AI agenti budou, Google a ostatní mají také distribuční kanály. Ale je tu nějaký zásadní evropský software? Česká republika má Seznam.cz, což je unikátní věc – to jinde v zahraničí není. A je důležité s tím pracovat. Ale z globálního hlediska tu žádný zásadní evropský software není. AI už nebude trénovaná jen na textech, musí být trénovaná na interakčních datech s uživateli, kteří agenty AI nechají řešit reálné problémy. Tohle všechno musí být v nějakých softwarových řešeních,“ vysvětluje Romportl.
Evropě také podle něj chybí vlastní sociální síť, která by umělé inteligenci pomáhala učit se dělat model reálného světa lidí. „Za situace, kdy z USA přestává být naprosto zásadní spojenec, je důležité mít něco jako sociální síť,“ dodává Romportl.
AI Summit jako propadák
Uplynulý pařížský AI summit, na kterém byly investice oznámené, pak Jan Romportl hodnotí jako absolutně promarněnou příležitost. Podle něj „vykuchal“ bezpečnostní závěry předchozích summitů a nic nepřinesl. „Opakovaně se o tom bavíme. Obecná umělá inteligence musí mít fakt dobré řízení, jinak to bude špatné,“ říká Romportl.
Podle něj měla Evropa nabídnout, že bude investovat peníze právě do bezpečnosti.„Macron měl říct: „Víme, že tu obecná umělá inteligence bude do tří let, my nebudeme ti, kdo to dá, to my nezvládáme, pro Evropu je to odpískané. Vidíme ale, že ti, kteří to dají, tedy USA a Čína, neřeší bezpečnost a to má být úloha Evropy.“ Nemyslím tím regulace, ale technologickou platformu – řídicí systém. Za 300 miliard, které do oblasti mají putovat, bychom tento řídicí systém zvládli vybudovat,“ dodává Romprotl a říká, že metaforou k tomu může být jaderný reaktor.
„Američané a Číňané dělají větší a větší jaderný reaktor, vzájemně se předhánění a u toho zlehčují bezpečnost. Jenže jaderný reaktor bez dokonalého řídicího systému je spíš jaderná bomba. Pro nás byla největší šance právě tady,“ říká Romportl, podle kterého už Evropa nemůže ani s velkou investicí v zádech dotáhnout závod USA a Číny o vytvoření obecné umělé inteligence.
Inside Talks
Pořad, ve kterém bude Zuzana Hodková se stálým týmem expertů rozebírat zákulisí byznysu. Tito insideři popíší, jakými tématy žijí průmysl, potravinářství, reality, startupy, finance, energetika nebo automobilový průmysl, a vysvětlí klíčové momenty a souvislosti.
Insidery je tato skupina šéfů:
- Tomáš Kolář z Linetu
- Petr Palička z realitní divize EP Real Estate
- Petr Novák z divize automotive společnosti JTEKT
- Tomáš Spurný z Moneta Money Bank
- Ondřej Fryc z Reflex Capital
- Martin Durčák z ČEPS
- Karel Pilčík z MP Krásno
- Jan Romportl z Elin.ai
Inside Talks. Každý pátek na SZ Byznys.
„Úplně se promeškala možnost, že Francie mohla zprostředkovat nějakou zásadní strategickou dohodu mezi Evropou a Spojenými státy, nebo alespoň nějakou formu bezpečnostních jednání mezi USA a Čínou. Nic z toho se nestalo,“ dodává Romportl.
Vše pak vygradovalo tím, že závěrečné prohlášení nepodepsaly dvě klíčové země – USA a Velká Británie. „Nepodpis USA je podle něj gesto, jaké teď Američané dělají na všech frontách – ukázka toho, že jsme irelevantní Evropa.“
