Článek
Poslanci Evropského parlamentu schválili návrh pravidel pro fungování umělé inteligence, která by se mohla stát první regulací tohoto odvětví na světě. Například generativní systémy, jako je třeba ChatGPT, budou muset být podle nových pravidel označeny tak, aby bylo jasné, že obsah byl vytvořen umělou inteligencí.
Vzniknout má rovněž úřad EU pro AI, který má vedle národních kontrolních úřadů na dodržování nových pravidel dohlížet. Finální verzi regulace nyní dojedná parlament s členskými zeměmi EU.
Asi největší spor se v parlamentu vedl o používání AI k biometrickému sledování v reálném časem, tedy užití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, se obávají zneužití AI v této oblasti autoritářskými režimy.
„Tady se střetává otázka soukromí a bezpečnosti,“ řekla novinářům ve Štrasburku místopředsedkyně europarlamentu Dita Charanzová (ANO). „Systém rozpoznávání obličejů potřebujeme využít například při únosech dětí či při hrozbě teroristických útoků,“ dodala.
Proč je umělá inteligence na vzestupu zrovna teď?
Metody strojového učení nejsou nové, vědci na nich pracovali už minimálně 50 let. Teprve v posledních letech se ale ke slovu dostaly tzv. velké jazykové modely. Jako třeba ChatGPT, jehož fungování podrobně popisujeme v tomto článku:
Důležitým faktorem je velké množství textů dostupných na internetu. A také rychlý hardware, který umožnil vytrénování řádově výkonnějších modelů. Takových, ve kterých se objevuje „emergentní chování“, které se v některých ohledech vyrovná lidské inteligenci.
Pomocí superpočítačů jsou vývojáři schopni zpracovat stovky miliard vět a dát tak počítačové neuronové síti schopnost „pracovat“ se slovy. Přestože jde „jen“ o skládání vět, slovo po slovu, výsledky jsou překvapivě smysluplné a použitelné. Podívejte se, jak této schopnosti můžete využít v praxi:
Podle Charanzové unijní pravidla nastavením mantinelů v AI také dávají „jasné zadání vývojářům, aby cítili také zodpovědnost za to, co vytvářejí“. Podle české místopředsedkyně EP bylo cílem při vytváření těchto pravidel také zvýšit důvěru spotřebitelů v tyto systémy. Unijní pravidla pro regulaci vznikala zhruba dva roky, postupně byla rozšířena například o pravidla pro ChatGPT.
AI dokážou být tak přesvědčivé, že běžný uživatel internetu ani nepozná, že hovoří s umělou inteligencí. Právě proto unijní pravidla zahrnují povinnost transparentnosti, tedy aby uživatel poznal, že jde o systém umělé inteligence.
Návrh pravidel přijatý europoslanci také určuje takzvaně vysoce riziková odvětví, v nichž budou pro AI platit přísnější pravidla, jsou jimi například soudnictví či některé oblasti školství. Ve školství se má podle europoslance Marcela Kolaji (Piráti) omezení týkat například takzvaného e-proctoring, pomocí něhož mohou školy kontrolovat, zda studenti nepodvádějí při zkouškách on-line. Za vysoce rizikové považuje EP i používání umělé inteligence k ovlivňování voličů.
Úplně zakázány mají být nástroje AI k rozpoznávání emocí v případě prosazování práva, správě hranic či na pracovišti a ve školách, zákaz neplatí pro lékařské a výzkumné účely. Nová pravidla také zakazují systémy takzvané prediktivní policejní práce. Ty totiž mohou vést třeba k diskriminaci menšin.
Zakázané budou i programy, které automaticky třídí občany na základě charakteristik, jako jsou pohlaví, zdravotní stav nebo třeba sexuální orientace.
Poskytovatelé základních modelů AI se také budou muset registrovat do databáze EU. Rovněž budou muset zveřejnit souhrn dat chráněných autorským právem, na kterých se jejich systémy učily. EP podporuje i takzvané regulační pískoviště zřízené veřejnými orgány, kde lze AI před jejím uvedením do provozu testovat.
Akt o umělé inteligenci přináší také pravidla pro programy typu ChatGPT. Jejich provozovatelé se budou muset registrovat do databáze, ve které mimo jiné uvedou, odkud čerpají data, ze kterých se program učí.
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, vyjádřila v posledních týdnech řada představitelů tohoto odvětví, včetně Sama Altmana, šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT, či Geoffreyho Hintona, jemuž se přezdívá „kmotr umělé inteligence“. Altman například navrhl, aby na AI dohlížela organizace podobná Mezinárodní agentuře pro atomovou energii.
