AI Akt | Digitální Česko

Ivan Bartoš

místopředseda vlády pro digitalizaci

„Pokud chceme držet krok s rychle se vyvíjejícími technologiemi, musíme si být vědomi všech příležitostí i rizik, která s jejich využíváním vyvstanou. Česko se během svého předsednictví zasloužilo o jednomyslnou podporu členských zemí pro vznik Aktu o umělé inteligenci a sehrálo důležitou roli v navazujících jednáních s Evropským parlamentem za účasti Evropské komise.”

Akt o umělé inteligenci a jeho přínosy

Akt o umělé inteligenci (zkráceně AI Akt) je vůbec první regulatorní nařízení na světě upravující použití systémů umělé inteligence (dále systémy AI). Regulace uplatňuje přístup založený na posouzení míry rizika dopadu na zdraví, bezpečnost, případně zásahu do základních práv občanů EU. Platí tedy, že čím větší riziko daný systém AI představuje, tím přísnější pravidla pro jeho použití musí být dodržena.

Cílem je zajistit, aby systémy AI používané v EU byly bezpečné, důvěryhodné, transparentní, nediskriminační. Dále aby byly v souladu s hodnotami a principy EU, šetrné k životnímu prostředí a používané odpovědným způsobem se zapojením člověka. V neposlední řadě je záměrem podpořit inovace a vytvořit z Evropy lídra v této oblasti. Nařízení zároveň stanovuje, které systémy AI jsou v EU zcela zakázány.

Na koho se AI Akt vztahuje?

Právní rámec nařízení se vztahuje na veřejné i soukromé subjekty v EU i mimo ni, pokud poskytují nebo nasazují daný systém AI na evropský trh. Převážná většina požadavků se vztahuje pouze na vysoce rizikové systémy AI, případně na obecné modely AI, které s ohledem na svou komplexnost (složitost) nebo pro konkrétní využití můžou představovat určité riziko.

Pro běžné uživatele (občany) systémů AI nevyplývají z AI Aktu skoro žádné povinnosti. Nařízení však zaručuje, že systémy, které jsou v souladu s touto legislativou, jsou využívány odpovědným způsobem, jsou nediskriminační a neporušují základní práva. Uživatelé mohou sledovat rizikovost daného systému a případně své obavy nahlásit.

Jak je systém AI definován?

Systémem AI se rozumí strojový systém navržený tak, aby fungoval s různými úrovněmi autonomie, který může po zavedení vykazovat adaptabilitu a který z obdržených vstupů odvozuje pro explicitní nebo implicitní cíle to, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzické nebo virtuální prostředí.

Klasifikace systémů umělé inteligence dle rizik

Nařízení definuje 4 úrovně rizika u systémů AI:

zakázané systémy,
vysoce rizikové systémy,
systémy s omezeným rizikem,
a systémy s minimálním rizikem.

Zakázané praktiky systémů AI

Využívání některých systémů AI je považováno za nepřijatelné z hlediska rizik pro člověka, a tudíž je použití těchto systémů zakázáno. Patří mezi ně např. podprahová manipulace chování a emocí či hodnocení sociálního kreditu (tzv. social scoring).

Vysoce rizikové systémy AI

Tyto systémy AI budou na trhu EU povoleny, ale před uvedením na trh a během jejich celého životního cyklu budou podléhat přísným požadavkům. Jedná se o systémy AI v oblastech klíčových pro fungování společnosti, např. biometrická identifikace.

Systémy s omezeným rizikem

Systémy AI s omezeným rizikem (tedy ty, které slouží pro interakci s člověkem či uměle vytvářejí obsah) by měly splňovat minimální standardy transparentnosti. Tyto systémy tedy musí informovat uživatele, že interaguje s umělou inteligencí.

Systémy s minimálním rizikem

Všechny ostatní systémy umělé inteligence lze uvádět na trh a používat v souladu se stávajícími právními předpisy bez dalších právních povinností. V současné době do této kategorie spadá většina systémů, které se používají nebo budou používat v EU.

Zjistit více o klasifikaci systémů AI dle rizik

Obecné modely AI

Speciální kategorií jsou obecné modely AI, které jsou trénovány na velkém množství dat, aby mohly provádět širokou škálu úkolů a mohly být integrovány do specializovaných systémů AI bez větších změn. Příkladem takového modelu jsou např. různé verze modelu GPT, který je základem pro populární aplikaci ChatGPT.

Specifickou povinností je u obecných modelů AI např. povinnost poskytovatele takového modelu udržovat aktuální dokumentaci o jeho tréninku a rozsahu úkolů, které může vykonávat. Tyto informace pak musí poskytovatel předávat těm, kteří chtějí jeho model integrovat do svých specializovaných systémů.

Další povinností je pro poskytovatele obecných modelů AI ze zahraničí zřídit v EU odpovědného zástupce, který bude odpovídat za dodržování AI Aktu na evropském trhu.

Kdy začne platit Akt o umělé inteligenci

Politická dohoda k Aktu o umělé inteligenci byla formálně potvrzena Výborem stálých zástupců (tedy velvyslanci členských států EU) 2. února 2024 a poté na plénu Evropského parlamentu 13. března 2024. Nařízení ještě projde závěrečnou právnicko-lingvistickou kontrolou a očekává se, že bude definitivně přijato ještě před koncem volebního období, pravděpodobně tedy v dubnu 2024. Nařízení musí být rovněž formálně schváleno Radou EU (tj. ministry členských států EU). Nařízení vstoupí v platnost dvacet dní po zveřejnění v Úředním věstníku Evropské unie a v celém svém rozsahu vstoupí v účinnost po 24 měsících po vstupu v platnost, tj. zahrne nejpodstatnější požadavky na vysoce rizikové systémy AI podle přílohy III. O něco dříve však vstoupí v účinnost kapitoly vztahující se k zakázaným praktikám AI (tj. článek 5), k systému správy, vymáhání a sankcím a k obecným modelům AI. Po 36 měsících se AI Aktu začíná vztahovat také na harmonizovanou sektorovou legislativu EU uvedenou v příloze I.

Podpora inovací

Margrethe Vestager

výkonná místopředsedkyně Evropské komise

„K vývoji umělé inteligence potřebujete výpočetní výkon. Hodně výpočetního výkonu. Proto chceme malým a středním podnikům a start-upům poskytnout privilegovaný přístup k síti evropských superpočítačů. Jsme odhodláni podporovat inovace umělé inteligence a inovace pomocí umělé inteligence. A uděláme vše pro to, abychom v Evropě vybudovali prosperující ekosystém AI.”

Regulatorní sandbox pro AI

Záměrem EU není jen nastavovat pravidla pro AI, ale rovněž podpořit inovační prostředí v této oblasti. Členské státy proto musí zajistit, aby jejich příslušné orgány zřídily na národní úrovni alespoň jeden regulatorní sandbox pro umělou inteligenci, případně se zapojily do společného sandboxu více zemí EU. Cílem je zajistit kontrolované prostředí, které podporuje inovace a usnadňuje vývoj, trénování, testování a ověřování inovativních systémů AI po omezenou dobu před jejich uvedením na trh nebo do provozu.

AI Inovační balíček

Komise vydala 24. ledna 2024 tzv. AI inovační balíček, jehož cílem je podpořit malé a střední podniky (SMEs) a start-upy z EU v oblasti vývoje odpovědné umělé inteligenci. Nová iniciativa obsahuje revizi nařízení EuroHPC, jejímž cílem je spustit tzv. “AI factory” (továrny umělé inteligence), což umožní evropským start-upům využívat superpočítače pro trénování modelů odpovědné umělé inteligence. Balíček také obsahuje sdělení na podporu AI start-upů a inovací, které nastiňuje další činnosti, např. finanční podporu Evropské komise z programů Horizont Evropa a programu Digitální Evropa zaměřených na generativní AI.

Sankce a jak se bránit

Systémy AI, které nesplní požadavky a povinnosti plynoucí z AI Aktu, nemůžou být na trh EU uvedeny. Pokud se tak však stane, hrozí jejich poskytovatelům pokuty.

Pokuty budou maximálně do 35 milionů eur nebo 7 % celosvětového ročního obratu (podle toho, která částka je vyšší) za uvedení na trh zakázaných systémů umělé inteligence; 15 milionů eur nebo 3 % za porušení ostatních povinností a 7,5 milionu eur nebo 1,5 % za poskytnutí nesprávných informací.

V případě malých a středních podniků, včetně start-upů, činí pokutu nižší z výše uvedených částek.

Doporučujeme

Podcast Bruselské chlebíčky

Poslechněte si, jak probíhalo vyjednávání Aktu o umělé inteligenci od diplomatek Veroniky Chvála Vinklárkové a Veroniky Kadlecové. Kromě informací ze zákulisí vyjednávání se např. dozvíte, jak se podařilo nastavit rovnováhu mezi bezpečností a inovací v oblasti umělé inteligence.

Poslechnout podcast

*Disclaimer: Obsah této stránky je platný k 16. 4. 2024. Informace na stránce průběžně aktualizujeme.