AI v české státní správě? Když zaspíme, ekonomika neporoste, varují experti

Článek si také můžete poslechnout v audioverzi.

Jak by řekl komik Felix Holzmann: „Představte si to!“ Přijdete na úřad a místo klasického přístroje, ze kterého po zmáčknutí správného tlačítka vyjede papírek s pořadovým číslem, vás obsluhuje robot, lépe řečeno umělá inteligence. Ta se po krátkém úvodu seznámí s vaším problémem nebo žádostí, a buď ho sama vyřídí, nebo vás nasměruje na příslušného úředníka, případně domluví schůzku v jeho kanceláři.

Sci-fi? Podle expertů na umělou inteligenci (AI) to může být brzy realita. Seznam Zprávy se v rámci série textů o digitalizaci státu rozhodly zmapovat, jakým způsobem zatím do české státní správy AI proniká. Ve zkratce: někde ještě nezačali, jinde už AI výrazně pomáhá.

Nejdříve ale trochu čísel a predikcí. Potenciál AI ve státní správě ukazuje například studie společnosti Implement Consulting Group, vytvořená na objednávku společnosti Google. AI by mohla do deseti let zvýšit HDP Česka o 14–16 miliard eur. Samozřejmě za podmínky, že se ji podaří zavést opravdu široce.

O nutnosti zabrat mluví nová studie Maria Draghiho, která tvrdí, že konkurenceschopnost starého kontinentu v posledních několika dekádách neustále klesá. Rozdíl v produktivitě lze z větší části přičíst i pomalejšímu tempu technologických inovací. Podobně mluví také studie Deloitte How much money can AI save government.

AI má naší ekonomice pomoci zejména v oblasti navýšení produktivity práce, kterou přinese spolupráce lidí s AI nástroji, a v čase, který pracovníci získají tím, že se určité úkony zautomatizují, a oni se tak budou moci věnovat jiným prioritám a kreativnějším činnostem.

Naopak oddálení zavedení AI o pět let by podle studie znamenalo pouze 1% nárůst HDP.

„Dobrou zprávou je, že umělá inteligence už ve státní správě není žádná teorie, ale reálná praxe,“ říká pro Seznam Zprávy Marek Ženíšek (TOP 09), ministr pro vědu, výzkum a inovace. Zmiňuje například AI v rukou policie, která díky moderní technologii dokáže velmi rychle vypracovat přehledný diagram daného případu včetně propojení jednotlivých činů, finančních toků nebo výpovědí.

„Před pár lety bychom to považovali za sci-fi,“ konstatuje Ženíšek.

Vláda v létě schválila Národní strategii umělé inteligence, kterou představil ministr průmyslu a obchodu Jozef Síkela (STAN). Ta ale samozřejmě úřadům nediktuje, aby začaly ve velkém měnit svou agendu. Jako mnoho jiných strategií určuje klíčové body a obsahuje konkrétní doporučení.

„Národní strategie výslovně zmiňuje oblasti státní správy, kde může AI hrát pozitivní roli. Zaměstnancům může asistovat v tak základních věcech, jako jsou opravy textů, koordinace online meetingů nebo příjem tísňové komunikace. Jsou ale i nástroje, které už dnes dokážou zjednodušit práci při zpracovávání smluv nebo při analýze návrhů legislativy. To vše skýtá potenciál k radikálnímu zefektivnění práce ve státní správě,“ vysvětluje Ženíšek.

Realita je ale zatím na některých úřadech jiná, práce s AI je někde stále ještě na začátku.

Některé resorty zatím AI jednoduše řečeno neřeší. „Ministerstvo financí v současné době při výkonu agend nástroje umělé inteligence nevyužívá,“ informuje Ondřej Macura, mluvčí ministerstva. Resort sice chystá dva pilotní projekty, budou ale stát pouze několik desítek tisíc korun.

Jiné úřady, například Ministerstvo zemědělství nebo Ministerstvo dopravy, od října používají placený systém Microsoft Copilot, což je v podstatě umělá inteligence vyvinutá na základě velkých jazykových modelů, která má pomáhat tvořit dokumenty, prezentace, e-maily, případně analyzovat data v Excelu.

Úřady v anketě Seznam Zpráv uvádí, že práci s umělou inteligencí začínají zkoušet a příští rok si ji vyhodnotí. Některé resorty už delší dobu také „učí“, jak být co nejvíce nápomocní, své chatboty, tedy pomocníky pro veřejnost, která může být na webových stránkách úřadu zmatena. Částky za „digitální pomocníky“ v takových případech nepřesahují milion korun ročně za celý úřad.

Jiné je to s více specializovanými nástroji, tam už jdou výdaje do milionů.

Ministerstvo vnitra například od letošního roku využívá nástroj boje proti hlasovým deepfakes, který pro ně za necelých 36 milionů korun vytvořilo Vysoké učení technické v Brně.

„Cílem projektu je vývoj systému kombinujícího hlasovou biometrii a identifikaci umělého hlasu. Projekt reaguje na aktuální hrozbu, kdy se s rozvojem systémů na modifikaci a syntézu hlasu množí útoky na systémy a osoby pomocí umělé inteligence a cílené úpravy hlasového výstupu text-to-speech na konkrétní hlas. Projekt přispěje k odhalování pokusů o páchání kriminality,“ informuje Adam Rözler z Odboru komunikace Ministerstva vnitra.

Ministerstvo spravedlnosti zase podle mluvčí Markéty Poslušné nakoupilo za více než 23 milionů korun licence na technologii, které by se ve zkratce dalo říkat „přepis hlasu na text“, kterého je v soudních síních opravdu hodně.

„Tato akce byla financována z Národního plánu obnovy a je to jeden z několika úspěšně dokončených projektů,“ doplňuje Poslušná.

Umělá inteligence pomáhá od září poprvé v historii usnadnit také pořizování záznamů z jednání Poslanecké sněmovny, která zažívá rekordní počet obstrukcí a zároveň se potýká s nedostatkem lidí. Nová aplikace nazvaná Beey má dokázat nejen převést hlas na text, ale také rozpoznat jednotlivé mluvčí či usnadnit následné vyhledávání.

„V posledních letech jsme zaznamenali výrazný nedostatek stenografů, protože těsnopis se již dlouhou dobu nevyučuje. Navíc došlo k markantnímu nárůstu v objemu přepisovaných projevů,“ vysvětluje Martin Plíšek, vedoucí Kanceláře Poslanecké sněmovny. Beey používá také Česká národní banka, Policie ČR nebo vysoké školy.

Dalo by se tedy říct, že AI se do české státní správy pomalu, ale jistě „plíží“. Seznam Zprávy oslovily experty s otázkou, jaké problémy a potenciální nebezpečí mohou být s využíváním AI spojené. Na jedné odpovědi panovala shoda – pozor na citlivá data občanů. V této souvislosti padalo velmi často také varování kolem dodržování AI Actu - pravidel Evropské unie, která mají zajistit základní práva, bezpečnost a etické zásady kolem umělé inteligence.

Seznam Zprávy proto oslovily i „velké technologické hráče“, kteří mají na umělé inteligenci postavenou většinu produktů. Google je například toho názoru, že umělá inteligence je příliš důležitá na to, aby nebyla regulována, a zároveň příliš důležitá na to, aby nebyla regulována dobře.

„Podporujeme proto politiku zaměřenou na vytváření příležitostí, podporu odpovědného přístupu k vývoji a implementaci AI a zároveň zaměřenou na posílení mezinárodní bezpečnosti,“ napsala Seznam Zprávám Alžběta Houzarová, manažerka komunikace Google.

Největší „háček“ při využívání AI ve státní správě oproti komerčnímu sektoru spočívá podle jiného velkého hráče - Microsoftu - v nutnosti zajistit vyšší transparentnost a odpovědnost.

„Veřejný sektor musí být obzvláště opatrný při implementaci AI, aby nedošlo k diskriminaci nebo porušení práv občanů. Dále je důležité zajistit, aby AI systémy byly spravedlivé, fungovaly bez zaujatosti a byly přístupné pro všechny bez ohledu na jejich demografické nebo sociální charakteristiky,“ říká Gabriela Holíková ze společnosti Microsoft.

Klíčová bude podle expertů také ochrana dat obyvatel.

„Státní správa bude zacházet s citlivými údaji občanů, je tedy velmi důležité zajistit robustní zabezpečení AI systémů, které budou s daty nakládat. Zároveň je potřeba mít jasně stanovená pravidla kolem používaní těchto dat a trénink pro zaměstnance, kteří budou s daty a AI systémy zacházet,“ doplňuje Jakub Vávra, bezpečnostní expert ve společnosti Gen (dříve Avast).

Právě ve státní správě je podle odborníků potřeba pečlivě zvažovat právní, etické, společenské a technické otázky. Což je přesně oblast, kde se snaží pomoci i zákon o umělé inteligenci, který bude mít přímý i nepřímý dopad na kybernetickou bezpečnost.

„Vývojáři budou muset zajistit, že AI systémy budou bezpečné a zabezpečené, že systémy budu transparentní, aby šlo lépe identifikovat zranitelná místa, a že bude vzhledem k obrovskému množství dat, se kterými AI systémy pracují, zajištěna ochrana zpracovávaných údajů,“ sděluje David Řeháček z kyberbezpečnostní společnosti Check Point Software Technologies.

Experti se shodnou také na tom, že vyvstává i otázka zneužitelnosti AI systémů při sledování občanů, analýze kamerových systémů, sledování internetu a podobně. Ať už úředníky nebo hackery, pokud by do systémů získali přístup.

„Bavíme se o možné bezprecedentní invazi do soukromí,“ míní Řeháček. Jako příklady uvádí různé „zlé“ formy populárního jazykového modelu ChatGPT od společnosti OpenAI.

„FraudGPT, XXXGPT nebo WolfGPT jsou ukázky, jak lze umělou inteligenci zneužít ke škodlivým účelům, k vytváření falešných identit, ke generování phishingových zpráv a malwaru, k vytváření a šíření dezinformací a kompromitujících materiálů. I amatéři bez technických znalostí tak mohou vytvořit poměrně sofistikované hrozby, kterými mohou škodit jednotlivcům, organizacím i státu,“ uzavírá Řeháček.