ZIUDHPUI – Zakon o izvajanju uredbe (EU) o...

3035. Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI)

Na podlagi druge alineje prvega odstavka 107. člena in prvega odstavka 91. člena Ustave Republike Slovenije izdajam

U K A Z
o razglasitvi Zakona o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI)

Razglašam Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), ki ga je sprejel Državni zbor Republike Slovenije na seji dne 23. oktobra 2025.

Št. 003-02-1/2025-309

Ljubljana, dne 31. oktobra 2025

Nataša Pirc Musar predsednica Republike Slovenije

Z A K O N
O IZVAJANJU UREDBE (EU) O DOLOČITVI HARMONIZIRANIH PRAVIL O UMETNI INTELIGENCI (ZIUDHPUI)

I. SPLOŠNE DOLOČBE

1. člen

(vsebina)

(1)

Ta zakon določa pristojne organe za izvajanje in nadzor nad izvajanjem Uredbe (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) (UL L št. 2024/1689 z dne 12. 7. 2024), (v nadaljnjem besedilu: Uredba 2024/1689/EU) ter prekrške in globe v zvezi z izvajanjem Uredbe 2024/1689/EU in tega zakona.

(2)

Ta zakon ureja tudi ustanovitev nacionalnega sveta za etiko v umetni inteligenci in določa ukrepe za izvajanje Uredbe 2024/1689/EU.

2. člen

(pomen izrazov)

Izrazi, uporabljeni v tem zakonu, pomenijo enako kot izrazi, opredeljeni v Uredbi 2024/1689/EU.

II. PRIGLASITVENI ORGANI

3. člen

(priglasitveni organ za oddelek A Priloge I Uredbe 2024/1689/EU)

(1)

Priglasitveni organ za visokotvegane sisteme umetne inteligence (v nadaljnjem besedilu: UI) v proizvodih, ki jih ureja zakonodaja Evropske unije (v nadaljnjem besedilu: Unija) iz 1., 3. do 7. ter 9. in 10. točke oddelka A Priloge I Uredbe 2024/1689/EU, je ministrstvo, pristojno za trg.

(2)

Priglasitveni organ za visokotvegane sisteme UI v proizvodih, ki jih ureja zakonodaja Unije iz 8. točke oddelka A Priloge I Uredbe 2024/1689/EU, je ministrstvo, pristojno za infrastrukturo.

(3)

Priglasitveni organ za visokotvegane sisteme UI v proizvodih, ki jih ureja zakonodaja Unije iz 2. točke oddelka A Priloge I Uredbe 2024/1689/EU, je ministrstvo, pristojno za zdravje.

(4)

Priglasitveni organ za visokotvegane sisteme UI v proizvodih, ki jih ureja zakonodaja Unije iz 11. in 12. točke oddelka A Priloge I Uredbe 2024/1689/EU, je Javna agencija Republike Slovenije za zdravila in medicinske pripomočke.

4. člen

(priglasitveni organ za Prilogo III Uredbe 2024/1689/EU)

Priglasitveni organ za visokotvegane sisteme UI iz 1. točke Priloge III Uredbe 2024/1689/EU je ministrstvo, pristojno za informacijsko družbo (v nadaljnjem besedilu: ministrstvo).

5. člen

(ocenjevanje in spremljanje)

Ocenjevanje organov za ugotavljanje skladnosti in njihovo spremljanje izvaja organ, ki opravlja naloge nacionalne akreditacijske službe iz zakona, ki ureja akreditacijo.

III. ORGANI ZA NADZOR TRGA

6. člen

(organi za nadzor trga)

Naloge organov za nadzor trga po Uredbi 2024/1689/EU izvajajo:

-

Agencija za komunikacijska omrežja in storitve Republike Slovenije (v nadaljnjem besedilu: agencija),

-

Informacijski pooblaščenec,

-

Banka Slovenije,

-

Agencija za zavarovalni nadzor in

-

Tržni inšpektorat Republike Slovenije.

7. člen

(enotna kontaktna točka)

Enotna kontaktna točka iz drugega odstavka 70. člena Uredbe 2024/1689/EU je agencija.

8. člen

(financiranje organov)

(1)

Ne glede na določbe zakona, ki ureja elektronske komunikacije, zakona, ki ureja Banko Slovenije, in zakona, ki ureja zavarovalništvo, se sredstva za izvajanje nalog agencije, Banke Slovenije in Agencije za zavarovalni nadzor po tem zakonu zagotovijo iz državnega proračuna.

(2)

Sredstva iz prejšnjega odstavka se zagotavljajo v obsegu, ki omogoča učinkovito izvajanje nalog in pristojnosti po tem zakonu.

9. člen

(delovanje in postopek pred agencijo)

(1)

Če ta zakon ne določa drugače, se za vodenje, poslovanje in delovanje agencije uporablja zakon, ki ureja elektronske komunikacije.

(2)

Agencija pri izvajanju nalog po tem zakonu ne sme zaprositi ali prejemati navodil od drugih državnih organov. Navedeno ne vpliva na izvajanje 13. člena tega zakona in druge obveznosti sodelovanja med organi za nadzor trga po tem zakonu, drugih zakonih in Uredbi 2024/1689/EU.

(3)

Zoper odločbo ali drug posamični akt agencije, izdan v upravnem postopku, ni dovoljena pritožba, dovoljen pa je upravni spor.

IV. NADZOR NAD IZVAJANJEM UREDBE 2024/1689/EU

10. člen

(nadzor)

(1)

Informacijski pooblaščenec je pristojen za nadzor nad določbami 5. člena Uredbe 2024/1689/EU in nad skladnostjo visokotveganih sistemov UI iz 1. in 3. ter 6. do 8. točke Priloge III Uredbe 2024/1689/EU z zahtevami Uredbe 2024/1689/EU.

(2)

Banka Slovenije je pristojna za nadzor nad skladnostjo visokotveganih sistemov UI pod (b) 5. točke Priloge III Uredbe 2024/1689/EU z zahtevami Uredbe 2024/1689/EU, kadar jih dajejo na trg ali v uporabo oziroma jih uporabljajo kreditne institucije.

(3)

Za nadzor nad skladnostjo visokotveganih sistemov UI iz prejšnjega odstavka, ki jih uporabljajo dajalci kredita, za nadzor katerih je po zakonu, ki ureja potrošniške kredite, pristojen Tržni inšpektorat Republike Slovenije, je pristojen Tržni inšpektorat Republike Slovenije.

(4)

Agencija za zavarovalni nadzor je pristojna za nadzor nad skladnostjo visokotveganih sistemov UI pod (c) 5. točke Priloge III Uredbe 2024/1689/EU z zahtevami Uredbe 2024/1689/EU.

(5)

Agencija je pristojna za nadzor nad skladnostjo visokotveganih sistemov UI, urejenih z zakonodajo Unije iz oddelka A Priloge I Uredbe 2024/1689/EU, z zahtevami Uredbe 2024/1689/EU, nad skladnostjo visokotveganih sistemov UI iz 2. in 4. točke ter pod (a) in (d) 5. točke Priloge III Uredbe 2024/1689/EU z zahtevami Uredbe 2024/1689/EU in nad 50. členom Uredbe 2024/1689/EU.

11. člen

(nadzor nad priglašenimi organi, zagotavljanjem pismenosti in javno objavo podatkov o sistemih UI v javnem sektorju)

Nadzor nad zahtevami in obveznostmi priglašenih organov iz 31. člena, prvega, tretjega in četrtega odstavka 33. člena, 34. in 45. člena Uredbe 2024/1689/EU, nad določbo 4. člena Uredbe 2024/1689/EU in določbo 21. člena tega zakona izvaja inšpekcija za informacijsko družbo.

12. člen

(ukrepi in postopek nadzora)

(1)

Za nadzor nad izvajanjem Uredbe 2024/1689/EU se uporabljajo pooblastila in ukrepi, določeni v zakonu, ki ureja tehnične zahteve za proizvode in ugotavljanje skladnosti.

(2)

V postopku nadzora po tem zakonu se uporabljajo določbe zakona, ki ureja inšpekcijski nadzor, če s tem zakonom ni določeno drugače.

(3)

Če izvaja nadzor Agencija za zavarovalni nadzor, se v postopku nadzora uporabljajo tudi določbe zakona, ki ureja zavarovalništvo, če s tem zakonom ni določeno drugače.

(4)

Če izvaja nadzor Banka Slovenije, se v postopku nadzora uporabljajo tudi določbe zakona, ki ureja bančništvo, in zakona, ki ureja potrošniško kreditiranje, če s tem zakonom ni določeno drugače.

(5)

Če inšpektor pri opravljanju nalog inšpekcijskega nadzora ugotovi kršitev zakona ali drugega predpisa oziroma akta, katerega izvajanje nadzoruje drug organ za nadzor trga oziroma inšpekcija, o tem obvesti navedeni organ.

(6)

Organi za nadzor trga preverjajo tudi opravljanje testiranja v realnih razmerah in z njimi povezane visokotvegane sisteme UI.

(7)

Ne glede na določbe zakona, ki ureja Informacijskega pooblaščenca, opravljajo nadzor nad izvajanjem Uredbe 2024/1689/EU v delu, kjer je po tem zakonu pristojen Informacijski pooblaščenec, državni nadzorniki za umetno inteligenco (v nadaljnjem besedilu: nadzornik). Glede pogojev za opravljanje nalog nadzornika, položaja, pravic in obveznosti nadzornika, imenovanje nadzornika ter samostojnosti pri opravljanju nalog nadzornika se smiselno uporabljajo določbe drugega do šestega odstavka 8. člena Zakona o Informacijskem pooblaščencu (Uradni list RS, št. 113/05 in 51/07 - ZUstS-A).

13. člen

(posvetovanje organov za nadzor trga z drugimi inšpekcijskimi organi)

(1)

Agencija se pri izvajanju nadzora nad visokotveganimi sistemi UI, urejenimi z zakonodajo Unije iz oddelka A Priloge I Uredbe 2024/1689/EU, posvetuje z inšpekcijskimi organi, pristojnimi za posamezno vrsto proizvodov, v skladu s predpisi, ki določajo pristojnosti in naloge pristojnih inšpekcijskih organov, in z Informacijskim pooblaščencem.

(2)

Agencija se pri izvajanju nadzora nad visokotveganimi sistemi UI iz 2. in 4. točke ter pod (a) in (d) 5. točke Priloge III Uredbe 2024/1689/EU posvetuje z inšpekcijskimi organi, vsebinsko pristojnimi za posamezno področje iz navedenih točk Priloge III, v skladu s predpisi, ki določajo pristojnosti in naloge pristojnih inšpekcijskih organov, in z Informacijskim pooblaščencem.

(3)

Banka Slovenije se pri izvajanju nadzora nad visokotveganimi sistemi UI pod (b) 5. točke Priloge III Uredbe 2024/1689/EU posvetuje z Informacijskim pooblaščencem.

(4)

Agencija za zavarovalni nadzor se pri izvajanju nadzora nad visokotveganimi sistemi UI pod (c) 5. točke Priloge III Uredbe 2024/1689/EU posvetuje z Informacijskim pooblaščencem.

(5)

Informacijski pooblaščenec se pri izvajanju nadzora nad visokotveganimi sistemi UI iz 3. točke Priloge III Uredbe 2024/1689/EU posvetuje z inšpekcijskim organom, vsebinsko pristojnim za področje iz navedene točke Priloge III, v skladu s predpisi, ki določajo pristojnosti in naloge pristojnih inšpekcijskih organov.

(6)

Tržni inšpektorat Republike Slovenije se pri izvajanju nazora nad visokotveganimi sistemi UI pod (b) 5. točke Priloge III Uredbe 2024/1689/EU posvetuje z Informacijskim pooblaščencem.

(7)

Organi za nadzor trga se z Informacijskim pooblaščencem v skladu z določbami tega člena posvetujejo v primerih, ko visokotvegani sistemi UI vključujejo obdelavo osebnih podatkov.

14. člen

(pooblaščene osebe agencije)

(1)

Naloge nadzora, ki so na podlagi tega zakona v pristojnosti agencije, opravljajo osebe, ki so zaposlene na agenciji in imajo za to pooblastilo ministra, pristojnega za informacijsko družbo (v nadaljnjem besedilu: pooblaščene osebe agencije).

(2)

Pooblastilo za opravljanje nalog nadzora se izkazuje s službeno izkaznico, ki jo izda minister, pristojen za informacijsko družbo.

(3)

Pooblaščene osebe agencije morajo izpolnjevati pogoje, ki jih predpisuje zakon, ki ureja inšpekcijski nadzor, za inšpektorje.

(4)

Osebe iz prvega odstavka tega člena samostojno opravljajo naloge nadzora po tem zakonu, vodijo upravni postopek ter izdajajo odločbe in sklepe v upravnem postopku.

15. člen

(koordinacijski sosvet organov za nadzor trga)

(1)

Za sodelovanje med organi za nadzor trga se ustanovi poseben koordinacijski sosvet, v katerem sodelujejo predstavniki vseh organov za nadzor trga. Koordinator koordinacijskega sosveta je agencija.

(2)

Koordinacijski sosvet obravnava vprašanja v zvezi z izvajanjem Uredbe 2024/1689/EU z namenom, da se zagotovi usklajeno izvajanje nadzora.

(3)

Agencija koordinacijski sosvet skliče najmanj enkrat na tri mesece, po potrebi pa pogosteje.

16. člen

(razkritje informacij o izrečenih ukrepih)

(1)

Organi za nadzor trga iz 6. člena tega zakona z namenom preprečevanja in odvračanja ravnanj, ki pomenijo kršitev Uredbe 2024/1689/EU, javno objavijo informacije v zvezi z ukrepi nadzora in sankcijami zaradi prekrškov, ki so jih izrekli zaradi kršitev Uredbe 2024/1689/EU.

(2)

Informacije iz prejšnjega odstavka obsegajo naslednje podatke:

1.

o kršitelju in zavezancu za izvedbo ukrepa:

-

naziv in sedež pravne osebe ali

-

osebno ime fizične osebe;

2.

o kršitvi ali naravi odrejenega ukrepa:

-

opis okoliščin in ravnanj, ki pomenijo kršitev Uredbe 2024/1689/EU oziroma narekujejo izvedbo odrejenega ukrepa,

-

narava ugotovljenih kršitev oziroma vrsta pomanjkljivosti, zaradi katerih je bil odrejen ukrep;

3.

izrek odločbe, s katero je postopek pravnomočno končan;

4.

morebitna odprava kršitve ali izvedba odrejenega ukrepa.

(3)

Ko postaneta odločba, s katero je ugotovljena kršitev ali odrejen ukrep, oziroma odločba, s katero je bil izrečen prekršek, pravnomočni in je kršitelj ali zavezanec za izvedbo ukrepa z njo seznanjen, se informacije iz prejšnjega odstavka javno objavijo na spletnih straneh organov za nadzor trga iz 6. člena tega zakona in so na spletni strani dostopne tri leta po objavi.

(4)

Ne glede na prvi in drugi odstavek tega člena organ za nadzor trga po uradni dolžnosti ali na predlog kršitelja odloči, da se informacije o identiteti kršitelja ne objavijo, če:

1.

se ukrep nadzora ali sankcija zaradi prekrška izreče fizični osebi in objava osebnih podatkov o kršitelju ni sorazmerna s težo kršitve ali

2.

bi z objavo vpletenim osebam verjetno nastala nesorazmerna škoda.

V. UKREPI V PODPORO INOVACIJAM IN DODATNE NALOGE AGENCIJE

17. člen

(pristojni organ za vzpostavitev regulativnih peskovnikov za UI)

(1)

Za vzpostavitev regulativnih peskovnikov za UI v skladu s 57. členom Uredbe 2024/1689/EU je odgovorna agencija.

(2)

Pri vzpostavitvi in delovanju regulativnih peskovnikov za UI agencija sodeluje s priglasitvenimi organi, drugimi organi za nadzor trga na podlagi tega zakona in drugimi inšpekcijskimi organi, vsebinsko pristojnimi za posamezno področje iz Priloge III Uredbe 2024/1689/EU in posamezno vrsto proizvodov, kot ti izhajajo iz zakonodaje Unije iz oddelka A Priloge I Uredbe 2024/1689/EU.

(3)

Agencija v zvezi z regulativnimi peskovniki za UI:

-

usklajuje in zagotavlja podporo pri vključevanju organov iz drugega odstavka tega člena v delovanje regulativnih peskovnikov,

-

objavi javni poziv za pridobitev predlogov glede vsebine področja regulativnega peskovnika za UI,

-

zagotovi ustrezno platformo za vzpostavitev regulativnih peskovnikov za UI,

-

izvaja naloge v zvezi z letnimi poročili v skladu s šestnajstim odstavkom 57. člena Uredbe 2024/1689/EU.

(4)

Vsebinsko področje, ki bo obravnavano v okviru regulativnega peskovnika za UI, se določi na podlagi izvedenega javnega poziva.

(5)

Osnovna merila za izbor vsebinskega področja regulativnega peskovnika za UI so:

-

število istovrstnih predlogov glede določene vsebine področja,

-

število uporabljenih tehnologij UI znotraj vsebinskega področja,

-

pričakovani družbeni vpliv in usklajenost z javnim interesom za določeno vsebinsko področje in

-

višja stopnja tveganosti uporabe UI v skladu z Uredbo 2024/1689/EU.

(6)

Podrobnejša merila za izbor vsebinskega področja regulativnega peskovnika za UI se določijo v javnem pozivu, ki se objavi na spletni strani agencije.

(7)

Ne glede na določbo četrtega odstavka tega člena lahko iz razlogov v javnem interesu vsebinsko področje, ki bo obravnavano v okviru regulativnega peskovnika za UI, določi ministrstvo.

18. člen

(evidenca visokotveganih sistemov UI na področju kritične infrastrukture)

(1)

Agencija vodi evidenco visokotveganih sistemov UI iz 2. točke Priloge III Uredbe 2024/1689/EU.

(2)

V evidenci iz prejšnjega odstavka agencija vodi podatke iz oddelka A Priloge VIII Uredbe 2024/1689/EU.

(3)

Podatke iz oddelka A Priloge VIII Uredbe 2024/1689/EU agenciji predloži ponudnik ali njegov pooblaščeni zastopnik.

(4)

Podatki iz 1. do 4. točke oddelka A Priloge VIII Uredbe 2024/1689/EU so javni, preostali podatki iz oddelka A Priloge VIII Uredbe 2024/1689/EU pa se obravnavajo v skladu z zakonom, ki ureja tajne podatke, oziroma zakonom, ki ureja poslovno skrivnost.

(5)

Javno dostopne informacije morajo biti zagotovljene v obliki, ki uporabnikom omogoča dostop do teh informacij, vključno z možnostjo strojnega branja.

(6)

Agencija vodi podatke iz drugega odstavka tega člena, dokler je visokotvegani sistem UI iz prvega odstavka tega člena prisoten na trgu, nato pa jih hrani trajno.

19. člen

(zagotavljanje podpore)

(1)

Agencija vzpostavi vstopno točko za komunikacijo z malimi in srednjimi podjetji, vključno z zagonskimi podjetji, uvajalci, drugimi inovatorji in organi lokalne samouprave, za svetovanje in odgovarjanje na vprašanja o izvajanju Uredbe 2024/1689/EU, vključno glede sodelovanja v regulativnih peskovnikih za UI.

(2)

V vstopni točki iz prejšnjega odstavka agencija odgovarja tudi na vprašanja splošne javnosti o izvajanju Uredbe 2024/1689/EU.

(3)

Drugi organi za nadzor trga iz 6. člena tega zakona na zaprosilo agencije zagotovijo smernice in svetovanje za področje, za katerega so po tem zakonu pristojni.

20. člen

(vodenje dokumentacije v primeru stečaja ali prenehanja opravljanja dejavnosti)

(1)

V primeru, ko gre ponudnik ali njegov pooblaščeni zastopnik, ki ima sedež v Republiki Sloveniji, pred koncem obdobja iz prvega odstavka 18. člena Uredbe 2024/1689/EU v stečaj ali preneha opravljati dejavnost, dokumentacijo iz navedenega odstavka hrani agencija.

(2)

Odgovorna oseba ponudnika ali njegovega pooblaščenega zastopnika mora v 30 dneh od pravnomočnosti akta o začetku postopka prenehanja ali akta o prenehanju družbe dokumentacijo iz prvega odstavka 18. člena Uredbe 2024/1689/EU izročiti agenciji v hrambo.

(3)

Po izteku obdobja hrambe iz prvega odstavka 18. člena Uredbe 2024/1689/EU agencija dokumentacijo hrani v skladu z zakonom, ki ureja varstvo dokumentarnega in arhivskega gradiva.

VI. JAVNA OBJAVA PODATKOV

21. člen

(objava podatkov o sistemih UI v javnem sektorju)

(1)

Ministrstvo, pristojno za upravljanje informacijsko-komunikacijskih sistemov, zagotavlja enotno informacijsko točko, na kateri organi javnega sektorja objavljajo naslednje podatke o sistemih UI oziroma informacijskih rešitvah, ki vključujejo UI:

-

naziv organa, pri katerem je sistem UI v uporabi,

-

predvidena raba ter njeni cilji in učinki,

-

navedba osnovnih principov delovanja algoritmov pri odločanju sistema UI,

-

številka dokumenta in datum ocene učinka v zvezi z varstvom osebnih podatkov,

-

številka dokumenta in datum ocene učinka na temeljne pravice, ko gre za visokotvegane sisteme UI,

Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI)

Časovnica