AI Act: Umělá inteligence jako významná pomoc, ale i hrozba milionových pokut či ztráty know-how

5 min čtení

12. 2. 2025

Od 2. února 2025 je zakázáno používat systémy umělé inteligence, které představují hrozbu pro člověka. „Firmy a úřady teď mají postupně 1,5 roku na to, aby se připravily na požadavky nařízení zvaného AI Act,“ upozorňuje Simona Kobylková, právnička a odbornice na AI ve společnosti Gordic, a zodpovídá několik důležitých otázek týkajících se AI Actu.

Co přesně znamená AI Act?

AI Act je nařízení Evropského parlamentu a Rady (EU) 2024/1689, které vstoupilo v platnost dne 1. srpna 2024. V podstatě můžeme říct, že se jedná o první ucelenou právní regulaci umělé inteligence, přestože pokusy vznikaly již dříve v několika dalších ekonomicky vyspělých zemích světa. AI Act přináší první legální definici umělé inteligence.

Toto nařízení definuje systém umělé inteligence (systém AI) jako „strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie, který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální prostředí.“

Nařízení má za cíl posílit bezpečnost systémů AI, které se dostanou na trh EU. Stanovuje pravidla pro jejich vývoj, uvedení na trh i samotné užívání a na základě míry rizikovosti je rozděluje do několika kategorií, přičemž některé vyloženě zakazuje. V neposlední řadě vymezuje sankce, které lze za porušení pravidel uložit a které mohou spočívat ve varování a stanovení nepeněžních opatření až po uložení pokut v maximální výši 35 milionů EUR či 7 % celosvětového ročního obratu organizace.

Na koho se AI Act vztahuje?

AI Act dopadá na celou šíři subjektů – od výrobců až po koncové uživatele umělé inteligence. Prakticky se vztahuje na každého, kdo se daný systém AI chystá uvést na trh v Evropské unii nebo jehož užívání ovlivňuje osoby nacházející se na území EU. V takovém případě totiž nezáleží na místě sídla či podnikání osoby. Jinými slovy dopadá i na subjekty z třetích zemí.

Povinnosti vyplývající z nařízení jsou kladeny zejména na poskytovatele, kteří systém AI vyvíjí, nechávají vyvíjet nebo ho implementují do svých provozů. Dále se vztahují i na dovozce, distributory, zavádějící subjekty či zplnomocněné zástupce podílející se na implementaci nebo provozu systému AI.

Od kdy je AI Act účinný?

AI Act nabyl platnosti 1. 8. 2024, 20 dnů po zveřejnění v Úředním věstníku, a účinnosti bude nabývat postupně. První část nařízení v rozsahu obecných ustanovení a zakázaných systémů AI už k 2. únoru 2025, k 2. srpnu 2025 pak část týkající se povinností pro obecné AI modely a určení dozorových orgánů. Od 2. srpna 2026 bude účinný takřka v celém rozsahu, vyjma zbývajících povinností pro vysoce rizikové systémy umělé inteligence, které se začnou uplatňovat od 2. srpna 2027.

Jak AI Act klasifikuje míru rizikovosti systémů?

Rizika spjatá se systémy AI byla rozdělena do čtyř kategorií od nejvyšší po nejnižší stupeň závažnosti. Na jedné straně jsou to systémy s nepřijatelným nebo vysokým rizikem, na straně druhé pak s rizikem omezeným nebo minimálním. Systémy AI s nepřijatelným rizikem jsou jinými slovy zakázané, ty poslední zmiňované jsou v podstatě neregulované, protože obecně jejich užívání nepředstavuje pro uživatele žádné riziko. Nejvíce povinností je spjato se systémy s vysokým rizikem, kde je mimo jiné vyžadováno zavedení systému řízení rizik, vypracování technické dokumentace či povinná registrace před uvedením na trh nebo do provozu.

Je vůbec bezpečné AI využívat?

Do doby, než někdo systém AI zneužije, rozhodně. Při využívání AI nástrojů je nutné klást důraz zejména na kybernetickou bezpečnost, protože s využíváním umělé inteligence souvisí i řada rizik. Například v podobě zkreslování reality a předkládání fiktivních záznamů. V tomto ohledu bude ke zneužívání AI docházet – už dnes jsme svědky masivního sdílení falešného audiovizuálního obsahu zejména na sociálních sítích, přičemž mnohdy je těžké upravenou realitu odhalit. Proto je v zájmu každého jedince předvídat a informace si ověřovat. Ne vždy je vše takové, jak působí na první pohled, jakýkoliv údaj se může stát terčem zneužití.

Pak je samozřejmě důležité myslet i na to, jaké informace používáme na vstupu, tedy jaká data do systému AI vkládáme. Zejména v případě veřejného systému AI je nutné si uvědomit, že do něj nemůžeme vložit jen tak nějaká data. Mohli bychom tím například připravit firmu o know-how a obchodní tajemství. Neměli bychom tam vkládat ani data chráněná autorskými právy, pokud nemáme příslušnou licenci, nebo data obsahující osobní údaje. To samé pak platí u dat na výstupu, kdy je nutné číst podmínky užití daného AI nástroje, ve kterých je upraveno, jakým způsobem je možné vygenerovaný obsah použít. A i v případě takto získaných dat ze systému AI je třeba kriticky zvážit a ověřit jejich správnost. V případně používání AI platí dvojnásob pravidlo, že je nutné zaměstnance neustále vzdělávat a nutit kriticky přemýšlet.

Bylo už v České republice vydáno nějaké soudní rozhodnutí týkající se umělé inteligence?

Ano, již máme jedno rozhodnutí vydané Městským soudem v Praze z října 2023, ve kterém se řešila otázka autorství ke grafice vytvořené umělou inteligencí. V podstatě soud dospěl k názoru, že grafika vytvořená umělou inteligencí není autorským dílem ve smyslu autorského zákona. A je tomu tak z důvodu, že nenaplňuje základní pojmové znaky autorského díla. Nejde totiž o jedinečný výsledek tvůrčí činnosti autora, coby fyzické osoby, a tak na takovou grafiku nedopadá žádná ochrana.

Nebojíte se, že AI vezme práci právníkům?

Nemyslím si, že by AI práci právníkům vzala, naopak jim práci pomůže zefektivnit. Ať už půjde o sepsání jednoduchého návrhu smlouvy, revizi textů či rešerši judikatury. V neposlední řadě pomůže určitě i soudcům a úředníkům při přípravě podkladů pro rozhodnutí. Co se týče řešení složitějších právních otázek či vydání samotných rozhodnutí, domnívám se, že toho ještě v dohledné době schopna nebude. Občas je totiž třeba při takových činnostech zapojit i lidský nadhled a empatii, kterou AI postrádá.

Co si o AI Actu myslíte vy sama?

V současné době můžeme pozorovat, že většina významných softwarových společností zapojuje prvky AI do svých systémů. Uživatelům to umožňuje software snadněji využívat, a především pak zrychlit jejich práci, což je v dnešní hektické době více než žádoucí.

Právní regulace umělé inteligence tedy byla určitě potřeba i s ohledem na to, jak se technologie rychle vyvíjejí a jaká rizika s sebou přinášejí. V tomto ohledu si myslím, že Evropská unie stihla reagovat včas. Nyní máme ucelený právní rámec, který je předpokladem korektního chování jedinců i korporací, ať už při vyvíjení nebo používání AI nástrojů. Díky AI Actu máme to štěstí, že se v EU nedostaneme do situace, kdy nás například na ulicích budou zachycovat kamery s prvky AI. To ocení jistě každý z nás.