TFL Vsebine / TFLGlasnik

V enem prejšnjih prispevkov smo analizirali kakšen vpliv ima tehnologija na pravno panogo. Ugotovili smo, da umetna inteligenca (v nadaljevanju UI) ni več zgolj prihodnost, temveč je že nekaj časa vpeta v naš vsakdan (na slovenskem trgu in za pravnike je denimo zanimiv predvsem produkt TFL AI spletne platforme Tax-Fin-Lex). UI lahko na eni strani znatno olajša dostop do informacij in poveča učinkovitost pri opravljanju nekaterih del, na drugi strani pa prinaša tudi veliko število tveganj, kot so netransparentnost odločanja, različne oblike diskriminacije, posegi v zasebnost ter njena uporaba za izvrševanje kaznivih dejanj.[1] Takšna tveganja vzbujajo zadržanost pri uporabi. Zato ter z namenom zagotavljanja vodilne vloge na področju tehnologije,[2] se je Evropska unija (v nadaljevanju EU) odločila vzpostaviti enoten regulatorni okvir, s katerim bo UI regulirana celovito.

Prizadevanja za regulacijo UI na ravni EU so se intenzivirala leta 2020, ko je EU sprejela Belo knjigo o UI, v kateri se je zavezala, da bo spodbujala uvajanje UI ter naslovila tveganja, ki so povezana z njeno uporabo. Bela knjiga ni pravno zavezujoč akt, vendar pa ta predvideva sprejem zavezujoče t. i. evropske zakonodaje na področju razvoja, dajanja na trg ter uporabe sistemov UI.[3] V nadaljevanju bom predstavila zakonodajne predloge, ki predstavljajo (normativno) uresničitev zavez iz Bele knjige.

Evropska komisija je aprila 2021 vložila zakonodajni predlog za sprejetje akta o umetni inteligenci (v nadaljevanju (predlog) akta o UI), ki bo predstavljal prvi celovit regulatorni okvir za UI na svetu.[4] Svet EU in Evropski parlament naj bi akt o UI sprejela predvidoma v prvi polovici leta 2024.[5] Akt o UI se bo posluževal pristopa, ki temelji na tveganju (angl. »risk-based approach«).[6] V predlogu je namreč navedeno, da se sistemi UI analizirajo in razvrstijo glede na tveganje, ki ga predstavljajo za uporabnike. Akt deli sisteme UI na: sisteme UI, ki predstavljajo nesprejemljivo tveganje, UI sisteme velikega tveganja in UI sisteme minimalnega tveganja. Sistemi UI, ki predstavljajo nesprejemljivo tveganje, so tisti, ki veljajo za grožnjo ljudem in bodo z aktom o UI prepovedani. Tako bodo prepovedani sistemi UI, ki uporabljajo subliminalne tehnike,[7] sistemi, ki izkoriščajo posebej ranljive skupine ljudi, sistemi, ki omogočajo t. i. socialno točkovanje,[8] sistemi za biometrično identifikacijo in kategorizacijo oseb ter sistemi biometrične identifikacije v realnem času in na daljavo, kot je prepoznavanje obraza.[9]

Sistemi UI, ki predstavljajo veliko tveganje za varnost in zdravje ljudi ter temeljne pravice fizičnih oseb, bodo dovoljeni na trgu EU, vendar le pod pogojem, da izpolnjujejo z aktom o UI določene zahteve ter je predhodno ugotovljena njihova skladnost.[10] Sistemi UI z majhnim tveganjem pa bodo morali izpolnjevati minimalne zahteve glede preglednosti, kar bo uporabnikom omogočilo sprejemanje informiranih odločitev glede njihove uporabe. V to kategorijo spadajo sistemi UI, ki imajo stik z ljudmi ali se uporabljajo za zaznavanje čustev ali določanje pripadnosti (družbenim) kategorijam na podlagi biometričnih podatkov, ustvarjajo ali manipulirajo z vsebino.[11] Različne stopnje tveganja bodo tako pomenile večji ali manjši obseg regulacije.[12]

Cilj EU je vzpostaviti tudi učinkovit sistem uveljavljanja odškodninske odgovornosti na področju UI. S tem namenom je Evropska komisija septembra 2022 vložila zakonodajni predlog direktive o odgovornosti na področju UI, ki bi zajemala področje krivdne odgovornosti ter zakonodajni predlog za prenovo Direktive o odgovornosti za proizvode z napako, ki bi pokrivala nekrivdno produktno odgovornost.[13]

Glavni vzrok za vložitev zakonodajnega predloga Direktive o odgovornosti na področju UI je bil, da je pomanjkanje regulacije odgovornosti UI predstavljala glavno oviro za podjetja, ki so želela uporabljati UI.[14] EU se mora tako soočiti s pomanjkanjem regulacije, hkrati pa paziti, da ne bo ubrala preveč restriktivnega pristopa in odvračala od razvoja in uporabe UI. S to direktivo želi tako EU harmonizirati nacionalne sisteme odškodninske odgovornosti, na način zmanjševanja dokaznega bremena na strani oškodovanca.[15]

Glavna instituta, ki ju vpeljuje predlog direktive, sta razkritje dokazov in izpodbojna domneva vzročne zveze. Prvič, sodišče lahko zahteva razkritje dokazov o konkretnem sistemu UI velikega tveganja, za katerega obstaja sum, da je povzročil škodo, če tožeča stranka dokaže verodostojnost odškodninskega zahtevka. Če tožena stranka ne razkrije zahtevanih dokazov, se vzpostavi izpodbojna domneva, da ni izpolnila dolžnosti skrbnega ravnanja.[16] In drugič, v korist tožeče stranke se vzpostavi izpodbojna domneva vzročne zveze med krivdo tožene stranke in izhodnimi podatki, ki jih je ustvaril sistem UI, če so izpolnjeni z direktivo določeni pogoji.[17]

Predlog direktive o odgovornosti za proizvode z napako je bil vložen z namenom, da se direktiva, ki je bila sprejeta v 80. letih prejšnjega stoletja, posodobi in ustrezno prilagodi tehnološkemu napredku.[18] S tem namenom predlog direktive širi področje svoje uporabe na programsko opremo, kamor spadajo tudi sistemi UI.[19] Spreminja pa se tudi definicija napake. Po novem napaka nastopi, ko varnost proizvoda ni skladna s pričakovanjem širše javnosti. Iz tega izhaja, da bi lahko pomanjkanje varnosti v primerih, ko proizvod uporablja strojno učenje, pomenilo že odsotnost upravičenih pričakovanj, da je osnovni algoritem proizvoda zasnovan tako, da prepreči nevarno vedenje.[20] Nadalje predlog direktive širi nabor dejavnikov, ki jih morajo sodišča upoštevati pri ugotavljanju, ali ima proizvod napako, in sedaj med drugim vključuje tudi upoštevanje funkcije proizvodov za samoučenje.[21] Enako kot predlog direktive o odgovornosti na področju UI tudi predlog direktive o odgovornosti za proizvode z napako v nekaterih zapletenih primerih zmanjšuje dokazno breme oškodovanca z vzpostavitvijo izpodbojne domneve napake ali vzročne zveze ter z zahtevo za razkritje dokazov.[22]

Predloga direktiv nedvomno predstavljata korak k pravni regulaciji odškodninske odgovornosti sistemov UI, vendar se pri tem vzpostavlja vprašanje, kako učinkovito bo takšno pravno varstvo. Čeprav predloga vzpostavljata institut izpodbojne domneve, bo oškodovanec še vedno dolžan izkazati verjetnost, da je npr. proizvod pripomogel k škodi, verjetnost, da je krivda vplivala na izhodne podatke UI sistema itd., kar je ob upoštevanju vedno bolj kompleksnih sistemov UI lahko, tudi za pravne strokovnjake, izjemno težavno.

Zakonodaja, ki bo urejala UI, bo na novo določala veliko obveznosti za sisteme UI, ki pa jih bodo morala spoštovati (predvsem) podjetja, če bo njihovo poslovanje povezano z uporabo UI. Na eni strani bo to seveda pomenilo večjo raven varstva uporabnikov in podjetij, vendar pa se hkrati pojavlja vprašanje, če morda predlagan regulatorni okvir ni preveč restriktiven in bo podjetja odvračal od uporabe UI, kar bi navsezadnje lahko povzročilo zaviranje razvoja nove tehnologije na trgu EU. Hkrati pa zahteva hiter razvoj področja UI regulatorni pristop, ki bo zmožen slediti in se prilagajati spremembam.

Če bodo omenjeni zakonodajni predlogi sprejeti, bo EU verjetno postala prva entiteta, ki bo skušala celovito regulirati področje UI. Glede na hiter razvoj, vedno večji pomen UI tako v zasebnem kot tudi javnem sektorju ter število tveganj, ki jih UI prinaša, je njena regulacija verjetno edini smotrn korak, da se zagotovi varna in transparentna uporaba. Vendar pa bo morala EU na poti sprejemanja zakonodaje upoštevati tako interese posameznikov, kot tudi interese razvijalcev UI. Navsezadnje obljublja uporaba UI ogromno gospodarsko in širšo družbeno korist. Ali ji bo to uspelo, pa bomo lahko bolje ocenili šele po sprejemu in dejanski implementaciji novih pravil.

[1] Evropska komisija: Bela knjiga o umetni inteligenci – evropski pristop k odličnosti in zaupanju. Bruselj 2020, str. 1.

[2] Evropska komisija: Bela knjiga o umetni inteligenci – evropski pristop k odličnosti in zaupanju. Bruselj 2020, str. 1.

[3] Evropska komisija: Bela knjiga o umetni inteligenci – evropski pristop k odličnosti in zaupanju. Bruselj 2020, str. 1.

[4] Evropski parlament: EU AI Act: first regulation on artificial inteligence. Strasbourg 2023.

[5] Mia Hoffmann: The EU AI Act: A Primer, v: CSET, 26. september 2023.

[6] Evropska komisija, Predlog akta o umetni inteligenci, str. 3.

[7] Točka a, prvega odstavka 5. člena Predloga Akta o UI: »tehnike, ki presegajo zavest osebe, da bi bistveno izkrivile vedenje osebe na način, ki tej osebi ali drugi osebi povzročijo ali bi ji lahko povzročile fizično ali psihično škodo.«

[8] 17. točka preambule predloga akta o UI: »Sistemi UI, ki zagotavljajo družbeno točkovanje fizičnih oseb za splošne namene s strani javnih organov ali v njihovem imenu, lahko vodijo do diskriminatornih rezultatov in izključitve nekaterih skupin. Taki sistemi UI ocenjujejo ali razvrščajo zanesljivost fizičnih oseb na podlagi njihovega družbenega vedenja v več kontekstih ali znanih ali predvidenih osebnih ali osebnostnih značilnostih. Število družbenih točk, pridobljenih s takimi sistemi UI, lahko vodi do škodljivega ali neugodnega obravnavanja fizičnih oseb ali njihovih celotnih skupin v družbenih kontekstih, ki niso povezani s kontekstom, v katerem so bili podatki prvotno ustvarjeni ali zbrani, ali do škodljivega obravnavanja, ki je nesorazmerno ali neupravičeno glede na resnost njihovega družbenega vedenja.«

[9] 5. člen predloga akta o UI.

[10] Naslov III predloga akta o UI.

[11] Naslov IV predloga akta o UI.

[12] Evropski parlament: EU AI Act: first regulation on artificial inteligence. Strasburg 2023.

[13] Alen Kerkoč, Luka Jager: Predlog direktive EU za urejanje civilne odgovornosti UI, v: Pravna praksa, št. 11-12/2023, str. 16-17.

[14] Evropska komisija: Predlog: Direktiva Evropskega parlamenta in Seta o prilagoditvi pravil o nepogodbeni civilni odgovornosti UI, str. 1.

[15] Alen Kerkoč, Luka Jager: Predlog direktive EU za urejanje civilne odgovornosti UI, v: Pravna praksa, št. 11-12/2023, str. 16-17.

[16] 3. člen predloga direktive o odgovornosti na področju UI.

[17] 4. člen predloga direktive o odgovornosti na področju UI.

[18] Evropska komisija: Predlog: Direktiva Evropskega parlamenta in Sveta o odgovornosti za proizvode z napako, str. 1.

[19] 12. točka preambule in 1. člen predloga direktive o odgovornosti za proizvode z napako.

[20] Alen Kerkoč, Luka Jager: Predlog direktive EU za urejanje civilne odgovornosti UI, v: Pravna praksa, št. 11-12/2023, str. 16-17.

[21] Evropska komisija: Predlog: Direktiva Evropskega parlamenta in Sveta o odgovornosti za proizvode z napako, str. 12.

[22] 8. in 9. člen Predloga direktive o odgovornosti za proizvode z napako.