Návrh zákona o organizácii štátnej správy v oblasti umelej inteligencie

Implementácia európskeho AI Act a ciele novej úpravy

Slovensko sa pripravuje na integráciu európskej legislatívy na tému umelej inteligencie. Pripravuje sa zákon o organizácii štátnej správy v oblasti umelej inteligencie (ďalej len „Zákon“), ktorým reaguje na nedávno prijaté nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (tzv. „AI Act“), alebo inak aj Nariadenie o umelej inteligencii (ďalej len „Nariadenie AI“). Cieľom návrhu Zákona je vytvoriť vnútroštátny rámec pre dohľad nad umelou inteligenciou a zabezpečiť jednotné uplatňovanie pravidiel Nariadenia AI. Ten prináša harmonizované pravidlá pre vývoj, uvádzanie na trh a používanie systémov AI v celej EÚ s dôrazom na bezpečnosť a ochranu základných práv. Slovenský návrh Zákona preto vymedzuje príslušné orgány štátnej správy, ich pôsobnosť a kompetencie pri dozore nad AI, ustanovuje jednotné kontaktné miesto, notifikujúci orgán a rámec pre regulačné experimentálne prostredie. Zároveň návrh Zákona zakotvuje sankčné mechanizmy za porušenia pravidiel Nariadenia AI alebo tohto Zákona. Účinnosť Zákona je predpokladaná od 1. januára 2026, teda v predstihu pred plnou účinnosťou povinností podľa Nariadenia AI (očakávanou 2. augusta 2026).

Transpozícia európskej právnej úpravy

Návrh zákona implementuje predovšetkým čl. 70 Nariadenia AI, ktorý členským štátom ukladá zriadiť alebo určiť aspoň jeden notifikujúci orgán a aspoň jeden orgán dohľadu. Taktiež zabezpečuje požiadavky Nariadenia AI na zriadenie notifikujúceho orgánu, ktorý je zodpovedný za stanovenie a vykonávanie potrebných postupov na hodnotenie, určovanie a notifikáciu orgánov posudzovania zhody a ich monitorovanie v zmysle čl. 28 Nariadenia AI a podporuje vytváranie regulačných experimentálnych prostredí pre vývoj AI. Niektoré oblasti však tento návrh Zákona úmyselne nepokrýva, a to napríklad zakázané AI praktiky v zmysle čl. 5 a 6 Nariadenia AI, ktoré zostávajú v gescii Ministerstva vnútra Slovenskej republiky. Rovnako agenda ochrany základných práv v zmysle čl. 77 Nariadenia AI nie je v návrhu Zákona predkladateľmi výslovne riešená, keďže Slovensko už notifikovalo dňa 2. novembra 2024 priamo Európskej komisii úrady na ochranu základných práv a to konkrétne Úrad na ochranu osobných údajov a Kanceláriu verejného ochrancu práv.[1]) Vďaka tomu nebolo potrebné tieto orgány zriaďovať Zákonom, keďže už dnes disponujú potrebnými kompetenciami na dohľad nad dodržiavaním práv v kontexte AI.

Orgány dohľadu nad umelou inteligenciou na Slovensku

Návrh Zákona zavádza novú štruktúru dozoru nad umelou inteligenciou v podmienkach Slovenskej republiky. V súlade s Nariadením AI definuje viacero typov orgánov a jasne rozdeľuje ich pôsobnosť:

všeobecným orgánom dohľadu nad trhom sa stane Ministerstvo investícií, regionálneho rozvoja a informatizácie SR (ďalej len „MIRRI“)[2]), ktoré bude plniť úlohu ústredného koordinátora pre oblasť umelej inteligencie. Zároveň bude vystupovať ako jednotné kontaktné miesto v zmysle čl. 70 ods. 2 Nariadenia AI[3]). MIRRI bude dozerať na systémy umelej inteligencie vo všeobecnosti, najmä ak ide o vysokorizikové systémy AI alebo modely AI na všeobecné účely, pokiaľ dohľad nad nimi nie je zverený špecializovanému sektoru. Inak povedané, MIRRI zastreší dohľad nad umelou inteligenciou v oblastiach, ktoré nespadajú pod iný špeciálny úrad.
sektorovými orgánmi dohľadu nad trhom[4]) budú regulačné úrady v jednotlivých odvetviach, ktorým osobitné predpisy zverujú dozor nad určitými výrobkami či službami. Návrh výslovne menuje Úrad na ochranu osobných údajov ako orgán dohľadu nad AI spracúvajúcou osobné údaje, Národný bezpečnostný úrad ako orgán dohľadu nad AI v aspektoch kybernetickej bezpečnosti a orgány dohľadu nad určenými výrobkami v zmysle § 26 zákona č. 56/2018 Z. z. o posudzovaní zhody výrobku, sprístupňovaní určeného výrobku na trhu a o zmene a doplnení niektorých zákonov v znení neskorších predpisov (ďalej len „Zákon o posudzovaní zhody“) medzi ktoré patria napr. Slovenská obchodná inšpekcia, Dopravný úrad, Štátny ústav pre kontrolu liečiv a iné[5]). Tieto orgány si ponechávajú dohľad nad systémami umelej inteligencie v rámci svojej pôsobnosti, typicky ak je umelá inteligencia súčasťou konkrétneho produktu alebo regulovanej služby (napr. zdravotnícka pomôcka s prvkami AI, autonómne vozidlo, finančné služby využívajúce AI a pod.).
notifikujúcim orgánom[6]) musí byť podľa návrhu Zákona orgán, ktorý bude v mene štátu notifikovať posudzovateľov zhody AI systémov (konkrétne orgány posudzovania zhody) Európskej komisii podľa čl. 28 Nariadenia AI[7]). Táto úloha bude pravdepodobne prislúchať Úradu pre normalizáciu, metrológiu a skúšobníctvo SR (ďalej len „ÚNMS SR“) keďže tento už dnes funguje ako notifikujúci orgán v oblasti posudzovania zhody výrobkov a ÚNMS SR sa v pripomienkach k návrhu zákona priamo vyjadril, že pripravuje novelu jeho gesčného Zákona o posudzovaní zhody, ktorá s touto úlohou počíta. ÚNMS SR bude napríklad zodpovedný za autorizáciu a oznámenie (notifikáciu) subjektov, ktoré budú oprávnené certifikovať vysokorizikové AI systémy. Tým sa zabezpečí prepojenie slovenského systému posudzovania zhody s novými požiadavkami Nariadenia AI.

Okrem uvedeného zostáva MIRRI aj všeobecným gestorom agendy umelej inteligencie na strategickej úrovni. Ako ústredný orgán štátnej správy pre AI bude napríklad koordinovať výkon štátnej správy so sektorovými orgánmi a medzinárodnú spoluprácu[8]), zhromažďovať a analyzovať informácie o využívaní AI na Slovensku[9]), či vypracúvať koncepčné a strategické dokumenty. Zákon mu tiež ukladá každoročne vypracovať správu o stave využívania umelej inteligencie a predkladať ju vláde[10]). MIRRI tak zastane nielen rolu dozorného orgánu, ale aj hlavného koordinátora v oblasti umelej inteligencie.

Kompetencie a nástroje dozoru podľa návrhu Zákona

Navrhovaný Zákon detailne opisuje právomoci, ktorými budú orgány dohľadu disponovať za účelom vynucovania nových pravidiel. V mnohom Zákon priamo nadväzuje na rámec stanovený priamo Nariadením AI. Kľúčové kompetencie všeobecného orgánu dohľadu MIRRI zahŕňajú najmä:

Vybavovanie sťažností – MIRRI bude prijímať a vybavovať sťažnosti od subjektov poukazujúcich na možné porušenie požiadaviek Nariadenia AI. Na vybavovanie týchto sťažností sa použije všeobecný postup podľa zákona č. 9/2010 Z. z. o sťažnostiach v znení neskorších predpisov, čím sa zabezpečí štandardizácia procesu.[11])
Kontrolná činnosť (inšpekcie) – Všeobecný orgán dohľadu získa oprávnenie kontrolovať plnenie povinností poskytovateľov a používateľov systémov AI podľa Nariadenia AI a vnútroštátnych právnych predpisov. Kontroly bude môcť vykonávať aj priamo na mieste u firiem či inštitúcií, podobne ako iné regulačné orgány. Zákon pritom zdôrazňuje princíp primeranosti zásahu. Orgán dohľadu má postupovať tak, aby do práv osôb zasahoval len v nevyhnutnom rozsahu a zohľadňoval závažnosť porušenia.[12]) Ak orgán sektorového dohľadu vykoná kontrolu vo svojej pôsobnosti, môže využiť postupy podľa svojich osobitných predpisov, pokiaľ zabezpečia aspoň rovnocennú úroveň kontroly dodržiavania Zákona a Nariadenia AI[13]).
Ukladanie sankcií a predbežných opatrení[14]) – V prípade identifikácie rizika pre zdravie, bezpečnosť alebo základné práva osôb bude môcť MIRRI ešte pred začatím konania o pokute vydať predbežné opatrenie na nevyhnutný čas, aby zabránil vážnemu ohrozeniu. Typicky pôjde o opatrenie s cieľom zakázať alebo obmedziť sprístupňovanie systému AI na vnútroštátnom trhu alebo jeho uvedenie do prevádzky, výrobok alebo samostatný systém AI z uvedeného trhu stiahnuť alebo ho stiahnuť od používateľa. Predbežné opatrenie platí len po dobu trvania rizika a orgán ho musí zrušiť len čo pominú dôvody, pre ktoré bolo vydané. Účinnosť predbežného opatrenia nebude možné pozastaviť odvolaním. Ukladaniu sankcií sa venujeme v samostatnom pododseku tohto článku.
Koordinácia a spolupráca – MIRRI ako všeobecný orgán dohľadu bude koordinovať postupy so sektorovými orgánmi dohľadu tak, aby sa právne predpisy upravujúce umelú inteligenciu uplatňovali jednotne v celej verejnej správe. Ak by sektorový orgán dohľadu zistil, že kontrolovaný produkt obsahuje AI systém či model, informuje o tom MIRRI.[15]) Pri závažných incidentoch s dopadom na základné práva a slobody musia všetky orgány dohľadu taký incident oznámiť nielen sebe navzájom, ale aj Úradu na ochranu osobných údajov a verejnému ochrancovi práv (keďže tí sú notifikovanými orgánmi na ochranu práv). Takisto sa vyžaduje hlásenie takýchto incidentov orgánom činným v trestnom konaní a NBÚ, čo zabezpečí prepojenie s trestnoprávnou a bezpečnostnou agendou.[16])
Informačné povinnosti a medzinárodná účasť – Návrh Zákona potvrdzuje, že práve MIRRI bude plniť informačné povinnosti voči EÚ, ktoré Nariadenie AI ukladá členským štátom.[17]) Zároveň MIRRI bude musieť určiť zástupcu Slovenskej republiky do novozriadenej Európskej rady pre umelú inteligenciu (European AI Board) a bude zabezpečovať jej činnosť.[18]) Tým bude Slovenská republika aktívne zapojená do koordinácie regulácie AI na úrovni EÚ.

Regulačné experimentálne prostredie – tzv. regulačný sandbox pre AI inovácie

Zaujímavou novinkou je zriadenie regulačného experimentálneho prostredia pre AI, často označovaného ako regulačný sandbox (ďalej len „Sandbox“). Úlohou MIRRI bude vytvoriť a prevádzkovať prostredie, kde môžu firmy či výskumné inštitúcie testovať inovatívne riešenia AI pod dohľadom regulátora.[19]) Takéto Sandboxy umožnia dočasné uvoľnenie niektorých pravidiel alebo individuálny dohľad počas skúšobnej prevádzky nových technológií, čo podporí inovácie bez ohrozenia bezpečnosti. MIRRI bude príslušným orgánom pre výkon práv a povinností súvisiacich s týmto experimentálnym prostredím. Zavedenie Sandboxu reflektuje aj víziu Nariadenia AI, ktorý členské štáty vyzýva vytvárať podobné mechanizmy na podporu vývoja bezpečnej a zodpovednej AI. Pre firmy to v praxi znamená možnosť spolupracovať s úradmi pri vývoji. Napríklad pokiaľ startup vyvíja prelomovú AI aplikáciu, v Sandboxe môže získať usmernenie regulátora a otestovať riešenie v obmedzenom rozsahu, kým ho uvedie na trh naplno. Slovenská republika tak má možnosť držať krok s dynamickým vývojom AI technológií.

Nové povinnosti pre prevádzkovateľov vysokorizikových systémov AI

Okrem úprav na strane štátu prináša návrh Zákona aj konkrétne povinnosti pre subjekty využívajúce AI, najmä v súvislosti tzv. vysokorizikovými systémami AI[20]). Tieto dopĺňajú povinnosti stanovené priamo Nariadením AI a zahŕňajú najmä právnu úpravu riadenia rizík alebo monitoring a reagujú na potreby národného prostredia. Medzi kľúčové nové povinnosti patria:

Prístupnosť webových sídel a aplikácií – Prevádzkovateľ vysokorizikového AI systému musí zabezpečiť, aby všetky webové sídla a mobilné aplikácie, cez ktoré tento systém sprístupňuje, spĺňali minimálne štandardy prístupnosti a mali zaručenú funkčnosť. Inak povedané, používateľské rozhrania pre AI systémy musia byť rovnako prístupné ako bežné weby podľa platných technických štandardov.[21]) Tieto povinnosti vyplývajú najmä z implementácie Smernice EP A Rady (EÚ) 2019/882 zo dňa 17. apríla 2019 o požiadavkách na prístupnosť výrobkov a služieb, ktorý bol v slovenskom právnom poriadku transponovaný do zákona č. 351/2022 Z. z. o prístupnosti výrobkov a služieb pre osoby so zdravotným postihnutím. V praxi to znamená, že poskytovatelia a prevádzkovatelia musia zabezpečiť súlad s právnymi požiadavkami tohto zákona, pričom ako technické východisko sa spravidla používajú medzinárodné štandardy typu Web Content Accessibility Guidelines.[22]) Návrh Zákona stanovuje aj prechodné obdobia, takže pokiaľ firma používa existujúci web pred 1. januárom 2026, bude ho musieť zosúladiť s týmito požiadavkami do jedného roka od nadobudnutia účinnosti Zákona; pri mobilných aplikáciách je táto lehota nastavená na dva roky od nadobudnutia účinnosti Zákona.
Monitorovací systém po uvedení na trh – Nariadenie AI vyžaduje, aby poskytovatelia vysokorizikových AI zaviedli systém priebežného monitorovania bezpečnosti a súladu svojich systémov po ich uvedení na trh. Návrh Zákona výslovne umožňuje prevádzkovateľovi AI systému takýto plán monitorovania a jeho dokumentáciu začleniť do existujúcej technickej dokumentácie výrobku. To je praktická úľava pre výrobcov, keďže pokiaľ je AI systém súčasťou „určeného výrobku“ (napr. strojového zariadenia) a výrobca, resp. prevádzkovateľ už vedie technickú dokumentáciu podľa Zákona o posudzovaní zhody, môže požiadavky monitorovania doplniť tam, namiesto duplicitného posudzovania. Cieľom je minimalizovať administratívnu záťaž a využiť existujúce procesy posudzovania zhody.
Transparentnosť rozhodnutí verejnej moci – Špecifická nová povinnosť sa týka orgánov verejnej moci, ktoré nasadzujú vysokorizikové AI systémy. Pokiaľ orgán verejnej moci (napr. úrad, súd) vydá individuálne rozhodnutie na základe výstupov z vysokorizikového AI systému, musí v rozhodnutí uviesť informáciu, do akej miery a pri ktorej časti konania bol taký AI výstup použitý.[23]) Prakticky pôjde o poznámku v odôvodnení rozhodnutia, že úrad využil napr. automatizované hodnotenie rizika pri posudzovaní žiadosti a vymedzí, aký vplyv to malo na výsledok. Táto povinnosť zvýši transparentnosť algoritmických rozhodnutí vo verejnej správe a umožní jednotlivcom vedieť, kedy o nich rozhodovala aj AI.
Súčinnosť s orgánmi dohľadu – Napokon, všetkým subjektom od obchodných spoločností cez štátne orgány po poskytovateľov AI služieb návrh Zákon zavádza povinnosť poskytovať súčinnosť a informácie orgánom dohľadu. Ak si MIRRI alebo príslušný sektorový orgán dohľadu vyžiada údaje potrebné na výkon dohľadu, dotknuté subjekty ich musia poskytnúť v nevyhnutnom rozsahu. Ide napríklad o sprístupnenie dokumentácie AI systému, umožnenie vstupu na pracoviská pri kontrole, poskytnutie údajov o incidente a podobne. Žiadosť o súčinnosť však musí byť riadne odôvodnená a konkrétna. V osobitných prípadoch môže MIRRI na podporu kontrol požiadať o asistenciu aj Policajný zbor. Pre subjekty z uvedeného plynie potreba mať pripravené internú dokumentáciu a interné procesy pre prípady požiadania o súčinnosť.

Sankcie

Ako už bolo spomenuté, návrh Zákona dáva orgánom dohľadu do rúk silné sankčné nástroje. Výška pokút sa bude riadiť priamo Nariadením AI, ktoré stanovuje odstupňovanie podľa závažnosti porušenia:

Za zásadné porušenia, ako napr. uvedenie zakázaného AI systému na trh, nedodržanie požiadaviek pre vysokorizikový AI systém bude môcť orgán dohľadu uložiť sankciu až do 35 miliónov EUR alebo 7 % celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho ktorá suma bude vyššia.[24])
Správne pokuty udeľované v prípadoch nesúladu s administratívnymi požiadavkami na prevádzkovateľov alebo notifikované osoby bude môcť orgán dohľadu udeliť až do výšky 15 mil. EUR alebo 3 % celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho ktorá suma je vyššia.[25])
Za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií v odpovedi na žiadosť notifikovaných osôb alebo vnútroštátnych príslušných orgánov do 7,5 mil. EUR alebo 2 % celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho ktorá suma je vyššia.[26])

Návrh Zákona pre tieto účely definuje, čo sa rozumie ročným obratom, pričom na tieto účely ide o celosvetový ročný obrat celej skupiny podniku podľa poslednej účtovnej závierky. Pri ukladaní pokuty musí orgán prihliadať na povahu a následky porušenia.[27]) Dôležité je, že uložením pokuty povinnosti subjektov vyplývajúce z návrhu Zákona a AI Act nekončia. Sankcionovaný subjekt musí napraviť postihovaný stav, inak môže čeliť ďalším sankciám.[28])

Pokutu za správny delikt môže orgán dohľadu uložiť do 5 rokov od spáchania porušenia, inak sa priestupok premlčí. Riadne vyrubená pokuta je splatná do 30 kalendárnych dní od právoplatnosti rozhodnutia,[29]) a ak ju subjekt v tejto lehote neuhradí, štát môže výkon rozhodnutia (exekúciu) nariadiť až do 5 rokov od uplynutia lehoty na zaplatenie.[30]) Ide teda o prísnejší režim než štandardná trojročná premlčacia lehota, čo v praxi znamená, že pokuty za porušenia právnej úpravy AI možno vymáhať podstatne dlhšie.

Návrh Zákona ukladá MIRRI zverejňovať právoplatné rozhodnutia vydané podľa tohto zákona na svojom webovom sídle. Verejnosť aj podniky tak získajú prehľad, kto a za čo bol sankcionovaný, čo má zvyšovať preventívny účinok regulácie (tzv. naming and shaming).[31])

Proces pripomienkovania – (Ne)záujem verejnosti a vybrané ohlasy

V rámci oficiálneho medzirezortného pripomienkového konania sa k návrhu Zákona zišlo veľké množstvo pripomienok. Celý zoznam má viac než stovku strán a obsahuje desiatky zásadných podnetov najmä od dotknutých štátnych inštitúcií. ÚNMS SR napríklad navrhol spresniť ustanovenia o notifikovaní orgánov posudzovania zhody, keďže práve ÚNMS SR bude vystupovať ako notifikujúci orgán. Kancelária verejného ochrancu práv zase požadovala jasnejšie vymedziť svoju pôsobnosť pri dohľade nad základnými právami v zmysle čl. 77 AI Act-u a poukázala, že jej notifikovanie prebehlo narýchlo a mala by sa zachovať flexibilita pre prípadnú zmenu týchto poverených orgánov v budúcnosti. Očakáva sa, že v ďalších fázach legislatívy budú pripomienky vyhodnotené a návrh upravený tak, aby čo najlepšie zodpovedal požiadavkám praxe.

Ako sa pripraviť – odporúčania pre podnikateľov

Hoci účinnosť novej právnej úpravy sa predpokladá až v roku 2026 (v súlade s plánovanou účinnosťou európskeho Nariadenia AI), už dnes by mali dotknuté subjekty podniknúť potrebné kroky. Právnické osoby v súkromnom sektore by mali najmä:

identifikovať využívanie AI systémov a zaradiť ich podľa rizika – zistite, či používate systémy umelej inteligencie, ktoré spadajú pod definíciu vysokorizikových AI systémov podľa Nariadenia AI. Tieto systémy budú podliehať najprísnejšiemu režimu, a teda aj dozoru nového orgánu dohľadu. Zároveň si overte, či neprevádzkujete vysokorizikové systémy AI v oblastiach, v ktorých ich využitie Nariadenie AI úplne zakazuje. Oblasti, v ktorých bude využitie vysokorizikových systémov AI zakázané, sú vymedzené v Prílohe III k Nariadeniu AI. Ide napríklad o AI používanú pri nábore zamestnancov, v zdravotníctve, v kritickej infraštruktúre, vo vzdelávaní, či pri posudzovaní úverovej bonity.
oboznámiť sa s povinnosťami podľa Nariadenia AI – ten pre vysokorizikové AI systémy a ich prevádzkovateľov / nasadzovateľov ustanovuje celý rad povinností. Od vypracovania posúdenia rizík, cez zabezpečenie kvality dát a eliminácie predpojatostí, až po vedenie detailnej technickej dokumentácie a protokolov o testovaní. Tieto požiadavky budú priamo záväzné v celej EÚ, teda aj v Slovenskej republike, a ich nesplnenie bude sankcionovateľné. Podnikatelia by mali preto už teraz poveriť zodpovedné tímy (compliance, IT, právne oddelenie) analýzou medzier v súlade s Nariadením AI a Návrhom Zákona.
pripraviť sa na nový dohľad a kontroly – s príchodom Zákona treba počítať s tým, že novovzniknutý dozorný orgán na MIRRI (prípadne sektorové orgány) môže od roku 2026 aktívne vykonávať kontroly a vyšetrovať podnety. Odporúčame preto zaviesť vnútorné procesy pre prípad kontroly. Napríklad vopred určiť, kto v rámci spoločnosti bude komunikovať s dozornými orgánmi, ako rýchlo vie firma predložiť požadované informácie, a či má pripravenú dokumentáciu v súlade s Nariadením AI. Compliance program v oblasti AI by mal byť súčasťou celkového systému riadenia rizík organizácie, podobne ako je dnes bežné pri ochrane osobných údajov či AML.
zabezpečiť transparentnosť a nediskrimináciu AI systémov pri ich nasadzovaní – vysokorizikové AI systémy, napríklad tie, ktoré sa používajú pri rozhodovaní o klientoch, zamestnancoch či občanoch, by mali byť nielen technicky v poriadku, ale aj vysvetliteľné a férové. Podnikatelia by mali prehodnotiť svoje algoritmy z hľadiska možných predpojatostí a diskriminačných dopadov a zaviesť mechanizmy na ľudský dohľad nad umelou inteligenciou tam, kde to Nariadenie AI vyžaduje. Rovnako sa treba pripraviť na poskytovanie informácií používateľom o tom, že interagujú so systémom AI (povinnosť transparentnosti pre určité systémy AI, ako sú chatboty, systémy deep-fake a generátory umelej inteligencie plynie priamo z Nariadenia AI).
využiť regulačný Sandbox a konzultácie s orgánmi dohľadu – ak plánujete nasadiť novátorský AI projekt, ktorý spadá do „sivej“ zóny regulácie, zvážte možnosť obrátiť sa na MIRRI a zapojiť sa do regulačného experimentálneho prostredia. Sandbox môže pomôcť odhaliť potenciálne regulatorné problémy vopred a hľadať riešenia v spolupráci s orgánmi dohľadu. Taktiež odporúčame sledovať metodické usmernenia, ktoré MIRRI, ako koordinátor, bude vydávať, či už napríklad avizované znalostné štandardy alebo kódexy správania v oblasti AI. Tie môžu podnikateľom poskytnúť cenné vodítka pre správnu prax.

Hoci návrh Zákona prešiel úvodnými fázami bez väčšej publicity, jeho dopady najmä na firemný sektor budú nezanedbateľné. Zavedenie efektívneho dohľadu nad umelou inteligenciou znamená, že v sektore umelej inteligencie sa compliance stane podobne dôležitou ako v iných obdobne regulovaných oblastiach. Prevencia je vždy lepšia než riešenie následkov, preto sa oplatí už teraz začať s prípravami, školeniami a úpravou interných procesov. Včasná príprava zvýši šancu, že Vaše využívanie umelej inteligencie bude môcť bezpečne a zákonne rozvíjať potenciál, ktorý v sebe tieto systémy ukrývajú, bez rizika sankcií, či reputačných škôd.

Mgr. Tereza Ľuptáková & Mgr. Patrik Führich

[1]) Zdroj: Dôvodová správa k návrhu Zákona, všeobecná časť. Zverejnenie a notifikácia týchto orgánov sa uskutočnilo v termíne 2. novembra 2024 podľa čl. 77 ods. 2 aktu o umelej inteligencii.
[2]) § 3 ods. 1 návrhu Zákona.
[3]) § 4 ods. 1 návrhu Zákona.
[4]) § 5 ods. 1 návrhu Zákona.
[5]) § 8 ods. 2 návrhu Zákona.
[6]) § 2 písm. b) návrhu Zákona.
[7]) Článok 28 ods. 1 Nariadenia AI: „Každý členský štát určí alebo zriadi aspoň jeden notifikujúci orgán, ktorý je zodpovedný za stanovenie a vykonávanie potrebných postupov na hodnotenie, určovanie a notifikáciu orgánov posudzovania zhody a ich monitorovanie. Tieto postupy sa vypracujú v rámci spolupráce medzi notifikujúcimi orgánmi všetkých členských štátov.“
[8]) § 4 ods. 1 písm. a) návrhu Zákona.
[9]) § 4 ods. 1 písm. b) návrhu Zákona.
[10]) § 4 písm. c) návrhu Zákona.
[11]) § 9 návrhu Zákona.
[12]) § 8 ods. 3 návrhu Zákona: „Všeobecný orgán dohľadu postupuje tak, aby a) zasahoval do práv a právom chránených záujmov osôb v rozsahu nevyhnutnom na dosiahnutie cieľa, b) volil prostriedky primerane vo vzťahu k následkom, ktoré zvolený prostriedok spôsobí na majetku, právach a právom chránených záujmoch iných osôb a c)zohľadňoval spôsob, trvanie a závažnosť porušenia povinností.
[13]) § 10 ods. 1 návrhu Zákona.
[14]) §11 návrhu Zákona.
[15]) § 8 ods. 2 návrhu Zákona.
[16]) § 8 ods. 5 návrhu Zákona.
[17]) § 4 ods. 1 písm. g) návrhu Zákona.
[18]) § 13 návrhu Zákona.
[19]) Článok 3 ods. 55 Nariadenia AI.
[20]) Článok 6 ods. 1 a 2 Nariadenia AI.
[21]) § 31 písm. l) zákona č. 95/2019 Z. z. o informačných technológiách vo verejnej správe a o zmene a doplnení niektorých zákonov v znení neskorších predpisov.
[22]) Web Content Accessibility Guidelines (WCAG) 2.2, aktuálne dostupné na: https://accessible-eu-centre.ec.europa.eu/content-corner/digital-library/web-content-accessibility-guidelines-wcag-22_en#files.
[23]) § 6 ods. 4 návrhu Zákona na základe článku 86 Nariadenia AU: „Každá dotknutá osoba, na ktorú sa vzťahuje rozhodnutie prijaté nasadzujúcim subjektom na základe výstupu z vysokorizikového systému AI uvedeného v prílohe III, s výnimkou systémov uvedených v jej bode 2, ktoré má právne účinky alebo má na dotknutú osobu podobne významný vplyv, ktorý podľa danej osoby nepriaznivo ovplyvňuje jej zdravie, bezpečnosť alebo základné práva, má právo získať od nasadzujúceho subjektu jasné a zmysluplné vysvetlenie úlohy systému AI v rozhodovacom postupe a hlavných prvkoch prijatého rozhodnutia.“
[24]) Článok 99 ods. 3 Nariadenia AI.
[25]) Článok 99 ods. 4 Nariadenia AI.

[26]) Článok 99 ods. 5 Nariadenia AI.
[27]) § 12 ods. 3 návrhu Zákona.
[28]) § 12 ods. 4 návrhu Zákona.
[29]) § 12 ods. 5 návrhu Zákona.
[30]) § 12 ods. 7 návrhu Zákona.
[31]) § 15 ods. 3 návrhu Zákona.