Článek
Evropský patentový úřad (EPO) na konci minulého roku v odvolacím řízení zamítl žádosti na udělení dvou patentů, jejichž tvůrcem měl být software DABUS. Umělá inteligence tak v Evropě alespoň zatím neuspěla, na rozdíl od Jižní Afriky či Austrálie. Čím to?
O umělé inteligenci se v posledních letech začalo znovu intenzivně mluvit, ale do značné míry jde o marketingový tah. Obvykle jde o software využívající v nějaké podobě principů hlubokého učení a s architekturou založenou na neuronových sítích.
Výkony těchto systémů v posledních letech exponenciálně rostou a dnes dokážou provádět řadu úkonů bez zásahu člověka. Systém DABUS vznikl v rámci společnosti Imagination Engines, kterou vede jistý Stephen Thaler. Podle něj jeho umělá inteligence bez přičinění člověka udělala dva netriviální objevy, které by se daly snad prakticky využít: Nový typ obalu na potraviny a „zařízení na připoutání pozornosti“, což je velmi hrubě zjednodušeno světlo, které bliká tak, aby připoutalo pozornost jak lidského mozku, tak případného automatického detektoru.
Thaler tyto vynálezy využil jako pokusná morčata. Podal patentové přihlášky v 17 jurisdikcích, mezi nimiž je například USA, Evropa, Austrálie či Jihoafrická republika. Ve všech případech je jako původce vynálezu uveden DABUS, ale jako majitel patentu je uváděn Stephen Thaler. (Ten tedy evidentně své umělé inteligenci přiznává dobré nápady, ale už ne právo na vlastnictví.)
Poprvé jeho žádost uspěla v Jihoafrické republice, kde byly patenty uznány v létě roku 2021. Má to ovšem veliký háček: V Jihoafrické republice úřady nezkoumají merit věci – tedy zda podaný patent naplňuje skutečně definici patentu. Zkoumá se jen a výhradně, zda přihláška splňuje formální náležitost. Pokud ano, patent je automaticky přiznán.
Udělený patent může být napaden, pokud se někdo cítí dotčený, a jeho platnost může být zrušena. Do té doby ale v dané jurisdikci platí. Někteří znalci v oboru se domnívali, že v tomto případě ani formální požadavky nebyly splněny, že došlo k chybě nebo přehlédnutí, že prostě AI nemůže být v jihoafrickém právu původcem vynálezu. Ale rozhodnutí platí.
Zajímavější byl vývoj v Austrálii. Tam nejprve patentový úřad žádost neuznal, protože software nemůže být vynálezce. Ovšem dva dny po udělení jihoafrického patentu, 30. července 2021, rozhodl soudce Jonathan Beach, že úřad se pletl. Upozornil, že dotyčný australský zákon vysloveně neříká, kdo může nebo nemůže být vynálezce – v zákoně není pojem definován. Legislativa tím pádem nezakazuje, že by vynálezcem nemohl být software. Zákon však údajně jasně říká, že žadatelem o patent, nebo jeho majitelem, musí být člověk, takže AI sice může pracovat, ale nemůže nic vlastnit.
Ale to byly jediné dva dosavadní úspěchy Thalerova týmu. Britský, americký i evropský patentový úřad přihlášku zamítly. V Británii i v USA se případ dostal k soudu, který ovšem rozhodl ve shodě s patentovým úřadem. V obou případech soudy rozhodly, že AI není fyzickou osobou, a proto ji podle zákona nelze označit jako vynálezce. Evropský patentový úřad zamítl patentovou přihlášku ze stejného důvodu: Počítače nemají žádná práva.
„Evropská patentová úmluva vyžaduje uvést původce vynálezu, který má primárně právo na patent a který toto právo může někomu postoupit,“ vysvětluje patentový zástupce Roman Hák, který se na patentové právo specializuje. A pokud tedy skutečný vynálezce nemůže být za vynálezce uznán právně, patent nemůže vůbec vzniknout. V jádru věci je tedy právně-filozofický problém, jaký AI může či má mít právní statut, zda může nabývat práva a povinnosti.
Spor o patenty DABUS je pouze ilustrací toho, jak legislativa není na nástup umělé inteligence připravena. Což by nás asi nemělo překvapovat, říká právník Vojtěch Chloupek ze společnosti Bird&Bird, specialista na práva duševního vlastnictví: „Právo na technologický vývoj reaguje vždy z určitým zpožděním. Vždyť i první autorský zákon na světě vznikl v roce 1710 a v podstatě byl reakcí na vynález knihtisku, ke kterému ale došlo skoro 300 let předtím.“
Právníci tedy vědí, že situace se bude muset nějak vyřešit, ale zatím není jasné jak. Problém by mohl být o to komplikovanější, že se od nás „AI“ tak moc odlišují. Neexistuje „obecná umělá inteligence“, která dovedla totéž, co lidská mysl: jen tak „si povídat“, logicky uvažovat i jednat intuitivně.
Existují specializované systémy, které dobře zvládají jednu specifickou dovednost, a to by alespoň teoreticky mohlo být i „vynalézání“. Jak ale k takové entitě přistupovat? Tohle bude složité nejen pro právníky.
Sbohem, milý Watsone
Kdo se už případného uznání alespoň nějakých práv umělé inteligenci určitě nedočká, je zatím asi nejslavnější zástupce této kategorie: systém Watson vyvinutý společností IBM. Ano, ten, který už před 11 lety porazil dva lidské soupeře v televizní znalostní hře Jeopardy.
Společnost IBM se poté rozhodla Watsona změnit na „AI doktora“. Chtěla z něj vytrénovat lékaře na úrovni nejlepších odborníků s dokonalým přehledem o současné odborné literatuře, který nikdy nespí a může pomáhat po celém světě najednou.
Po letech neúspěšných snah ovšem bývalý šampión z obrazovky v IBM definitivně dohrál. Firma se rozhodla prodat velkou část aktiv z projektu, a to hluboce pod cenou. Za zhruba miliardu dolarů část dat a analytických nástrojů, které dohromady tvořily Watsona, odkoupila soukromá investiční společnost Francisco Partners.
To může znít jako dost peněz, ale IBM do projektu vložilo podstatně větší prostředky. Jen za nákupy zdravotnických firem, na jejichž údajích o pacientech se měl Watson trénovat, utratilo více než pět miliard dolarů. Projekt také v jednu dobu měl 7000 zaměstnanců. Kolik přesně IBM na Watsonovi ztratilo, ovšem společnost samozřejmě neuvedla.
Poměrně brzy ale začalo být jasné, že systém neznamená takovou revoluci a mezi lékaři o něj není zájem. V roce 2017 se pak na veřejnost dostaly materiály určené pro management firmy, ve kterých zaujal šťavnatý citát ze „zpětné vazby“ floridského lékaře pro IMB: „Tenhle produkt je na h… Koupili jsme ho kvůli marketingu a v naději, že se vám podaří naplnit, co jsme slibovali. Pro většinu případů je nepoužitelný.“ (Citát se objevil v článku na serveru STAT+, který se věnuje zdravotnictví, ten je ovšem za paywallem.)
Watson měl evidentně příliš mnoho chyb, které nešlo vychytat. Lékařské záznamy se například ukázaly být složitější, než se předpokládalo, a software měl problém se v nich vyznat. Svou roli sehrálo zřejmě to, že se Watson trénoval na omezené sadě údajů (především z New Yorku), a tvůrci nebyli připraveni na to, že podoby zdravotnické dokumentace se třeba i v rámci jednotlivých států USA či různých provozovatelů znatelně liší.
Lékaři, se kterými mluvili novináři, uváděli, že doporučení od Watsonu pro ně obvykle nebyla v péči o daného pacienta relevantní. Často doporučoval totéž, co je v doporučených léčebných postupech, na což lékaři rádce nepotřebují. Jindy naopak mohl doporučovat léčebné postupy, které v daném místě nebyly k dispozici. A někdy se zřejmě jednoduše pletl, když například pacientovi s rakovinou a vážným krvácením doporučil lék, jehož vedlejším účinkem je zhoršení krvácivosti.
Fiasko Watsona neznamená, že by se AI ve zdravotnictví samozřejmě nemohla uplatnit. Zatím se zdá, že v oblasti, kde se chtělo prosadit IBM, budou trendem méně ambiciózní spolupracovníci lékařů, tedy programy specializované na určité činnosti a obory spíše než jeden obecný.
Leckdo také upozornil, že pád Watsona má na první pohled leccos společného s pádem společnosti Theranos (o kterém psal Pavel v nedávném TechMIXu). Technologická firma se rozhodla vyřešit obtížný problém ve zdravotnictví a grandiózně neuspěla. Na rozdíl od Theranosu ovšem v IBM systematicky nelhali, a informace o neúspěších technologie se tak na veřejnost dostávaly rychleji.
Dává to smysl. Theranos byl do jisté míry kult Elizabeth Holmesové a její „vize“. IBM je běžná korporace, která takovou loajalitu těžko může vzbudit.
Jak poznat, že nás AI nepřejede
Zatímco soutěžící v televizních pořadech si po nešťastném konci Watsona mohou oddechnout, ve všech ostatních oblastech si na AI budeme muset začít zvykat. Třeba na silnicích: Samořídící vozy rozhodně nezačnou po ulicích jezdit v příštích několika letech, ale časem se toho dočkáme.
Jednou z otázek je například i to, jak v jejich případě poznáme, jaké mají vlastně úmysly. A to obzvláště v situaci, kdy proti nim budeme coby chodci v nevýhodě a budeme nejzranitelnější. Poznáme, co auto udělá, když za volantem nebude sedět viditelný lidský řidič? Jak nám může nejlépe dát najevo, co chce udělat?
Na tuto otázku se ve svých pokusech pokusila odpovědět i americká společnost Motional, za kterou stojí mimo jiné společnost Hyundai. Ta nechala vytvořit ve virtuální realitě situaci určenou k testování reakcí chodců na různá signalizační schémata.
V rámci studie, jejíž výsledky vyšly v odborném časopise, se 53 účastníků přeneslo na roh čtyřproudé městské křižovatky. Každý z nich pak zhruba třicetkrát čelil jednoduché dopravní situaci: Ke křižovatce, kterou se snažili přejít, se blížilo auto. Vozidlo se ovšem chovalo – a také vypadalo – v různých případech odlišně. Účastníci pokusu se mohli pouze rozhlížet, nemohli se pohybovat. Stisknutím tlačítka na ručním ovladači pak naznačili, kdy je podle nich bezpečné přejít.
Tři základní scénáře napodobovaly způsob, jakým by zastavil lidský řidič. V jednom z nich byl za volantem člověk, ve druhém nikoliv, ovšem na voze byla rozmístěna nápadná signalizační světla. A ve třetím scénáři měl vůz velký LED displej, který ukazoval, kdy vozidlo dává přednost – což je dnes oblíbený přístup mezi výrobci vozů bez řidiče.
Společnost Motional pak ještě programátorům navrhla různé změny chování, kterými by vůz mohl chodcům dát viditelně najevo, že kvůli nim zastavuje. Patřilo k nim například to, že vůz zabrzdil dále od přechodu a také důrazněji. Jindy vůz zastavil několik metrů (zhruba na délku jednoho auta) od přechodu, případně jeho zastavení doprovázely „přehnané“ akustické signály (např. zesílený zvuk brzdění či chodu motoru v nízkých otáčkách).
Poslední možností pak byla kombinace těchto zvuků s viditelným poklesem přídě vozu, tedy jako kdyby vůz velmi silně brzdil. Mimochodem, existoval i kontrolní scénář, ve kterém vůz vůbec nezastavil. Což i ve virtuální realitě dokázalo některé účastníky pokusu dost vytočit.
Tým pak měřil, jak rychle se účastníci rozhodli přejít. Po každém pokusu jim také dal vyplnit krátký dotazník, aby se zjistilo, jak bezpečně se lidé v daném scénáři cítí, jak si jsou jisti svým rozhodnutím přejít a jak jasně chápou záměr auta.
Když auto včas výrazně zabrzdilo, nebo zastavilo několik metrů před přechodem, lidé si byli podstatně jistější: Větší díl účastníků přešel ulici ještě před tím, než vozidlo zůstalo úplně stát. V průzkumech však nejvyšší hodnocení pocitu bezpečí vyvolalo, když auto zastavilo oněch již zmíněných zhruba pět metrů před přechodem.
Zajímavou otázkou bude, jak by se k takovému chování auta stavěli jejich majitelé – nepřijde jim to „moc“? Asi by těžko snášeli, kdyby jejich vůz zabrzdil před přechodem schválně tak razantně, aby mu klesl předek…
Nějak se ovšem s umělou inteligencí na kolech budeme muset naučit žít a dorozumívat. A minimálně v první nedůvěřivé fázi by mohlo být v zájmu výrobců, aby signály vydávané jejich nezvyklými produkty byly co nejzřetelnější a nejprůhlednější.
V plné verzi newsletteru TechMIX toho najdete ještě mnohem víc. Přihlaste se k odběru a budete ho dostávat každou středu přímo do své e-mailové schránky.
