TFL Vsebine / TFLGlasnik

Visoka komisarka Združenih narodov za človekove pravice, Michelle Bachelete, je 14. septembra 2021 v svojem govoru v Svetu Evrope glede implikacij julijskega razkritja posledic uporabe vohunske programske opreme Pegasus, ki so prizadele tisoče ljudi v 45 državah na štirih kontinentih, opozorila na nesporno moč umetne inteligence (UI), da služi ljudem, a lahko prav tako, skoraj povsem prikrito, prispeva h kršitvam človekovih pravic enormnih razsežnosti. Zato je vse države v dobro človeštva pozvala, da nemudoma sprejmejo potrebne ukrepe za nadzor nad uporabo UI ter uvedejo moratorije na prodajo in uporabo sistemov UI, dokler niso vzpostavljeni ustrezni varovalni mehanizmi, ki omogočajo oceno hudih nevarnosti, ki jih ta tehnologija lahko pomeni za človekove pravice, vključno s pravico do življenja. Poudarila je, da večja kot je nevarnost za človekove pravice, strožje morajo biti pravne zahteve za uporabo UI, tehnologija, ki ni združljiva z mednarodnim pravom človekovih pravic, pa bi morala biti prepovedana. ^[1]

V okviru Evropske unije (EU) je Komisija že aprila 2021^[2] predstavila v svetovnem merilu prvi zakonodajni predlog akta o UI ter načrt skupnih ukrepov za spodbujanje razvoja in uporabe UI, z namenom vzpostavitve enotnega trga za UI, kar naj bi prispevalo k njenem hitremu razvoju in uveljavljanju v EU ob hkratnem doslednem spoštovanju etičnih standardov ter temeljnih pravic in svoboščin. V času slovenskega predsedovanja Svetu EU je slovenski minister za javno upravo Boštjan Koritnik, ki predseduje Svetu za promet, telekomunikacije in energijo, v uvodu neformalne videokonference, ki je potekala 14. oktobra 2021, poudaril, da je za Slovenijo UI med prednostnimi področji predsedovanja v okviru digitalizacije, ministri držav članic pa so delili svoje poglede na to, ali je predlagani akt o UI ustrezen za reševanje izzivov, zlasti glede varstva temeljnih človekovih pravic. Strinjali so se, da potrebuje EU uravnoteženo sistematično in poenoteno ureditev uporabe UI na notranjem trgu ter da mora ta ureditev temeljiti na vrednotah in temeljnih pravicah EU, ki v ospredje postavljajo človeka. Strinjali so se tudi, da si EU ne sme dovoliti razdrobljenega izvajanja rešitev, ki so predlagane v aktu o UI, zato mora biti ureditev horizontalna.^[3] Iskanje pravega ravnotežja med razvojem in uporabo UI ter spoštovanjem in zagotavljanjem človekovih pravic je tako v osrčju razprav tudi v EU.

Razvoj in uporaba UI nedvomno izdatno prispevata k napredku družb in omogočata premagovanje marsikaterih izzivov današnjega časa, kar se kaže tako pri naslavljanju epidemije COVID-19, kot tudi, na primer, pri načrtovanju poti (uporaba Google Maps), kupovanju preko spleta (programi, ki izračunajo, kateri proizvod je glede na ceno najbolj optimalen glede na naše želje in zahteve), ali pa pri uporabi pametnih telefonov, ki preko različnih senzorjev (GPS lociranje, senzor gibanja, dotika, zmogljive kamere), delujejo na podlagi zbiranja različnih podatkov njihovih uporabnikov. Prav tako se v nekaterih državah sistemi UI že uporabljajo tudi pri oblikovanju javnih politik ter v postopkih sodnega odločanja (zlasti v kazenskih postopkih; na primer iniciativa Digital Justice Forum, ki jo vodi European Network of Councils for the Judiciary) in upravnega odločanja, kjer se sprejemajo odločitve, ki so ključne za posameznika in družbo na sploh. Zagotovo bo zbiranje podatkov, njihova hitra izmenjava in (pol)avtomatska obdelava v prihodnosti omogočala razširjeno uporabo sofisticiranih sistemov UI na različnih, za posameznika in družbo izjemno pomembnih področjih (zdravstvo, sodstvo, načrtovanje politik in policijski nadzor). Z razvojem in uporabo UI se spreminja način življenja, kar pa poleg prednosti, vključno z izboljševanjem življenjskega standarda, prinaša tudi določene resne izzive, vključno na področju varstva človekovih pravic. Tako tudi Organizacija za ekonomsko sodelovanje in razvoj (OECD) opozarja, da je spoštovanje načel pravne države, človekovih pravic in vključevanje ustreznih varoval za zagotavljanje pravične družbe pri razvoju in uporabi UI ključnega pomena.^[4] Zaradi vseobsegajočega potenciala uporabe tehnologije UI, razvoj in uporaba te tehnologije nedvomno posega v nekatere temeljne človekove pravice, vključno s pravico do življenja.

Kljub temeljni naravi pravice do življenja, pa poglobljenih znanstvenih raziskav različnih vidikov interakcij razvoja in uporabe tehnologije UI s to pravico še ni.^[5] K zapolnjevanju te vrzeli želi prispevati triletni (1. 10. 2021 – 30. 9. 2024) temeljni raziskovalni projekt z naslovom Razvoj in uporaba umetne inteligence v luči negativnih in pozitivnih obveznosti države zagotavljati pravico do življenja, ki ga financira Javna agencija za raziskovalno dejavnost Republike Slovenije (ARRS), izvajajo pa raziskovalci različnih pravnih področij na Pravni fakulteti Univerze v Ljubljani in Inštitutu za primerjalno pravo pri Pravni fakulteti v Ljubljani pod vodstvom avtorice tega prispevka.^[6]

Vse države so že po običajnem mednarodnem pravu zavezane spoštovati pravico do življenja, vsebovana je v vseh osrednjih mednarodnih pogodbah s področja človekovih pravic, varovana na ustavnopravni ravni v demokratično urejenih državah ter igra ključno vlogo pri uporabi in razlagi norm na drugih notranje pravnih področjih, kot so na primer kazensko, civilno in upravno pravo. Pravica do življenja je tako univerzalno priznana temeljna človekova pravica, njeno zagotavljanje pa predpogoj za zagotavljanje vseh drugih človekovih pravic. Odbor Združenih narodov za človekove pravice, ustanovljen na podlagi Mednarodnega pakta o državljanskih in političnih pravicah,^[7] je v Splošnem komentarju številka 36^[8] izpostavil, da pravica do življenja ne ureja zgolj prepovedi aktivnih posegov države v življenje posameznika (negativna obveznost države), temveč se nanaša tudi na obveznost zagotoviti posamezniku dostojanstveno življenje (pozitivna obveznost države).

Pri tem je ključno razumevanje, da lahko razvoj in uporaba UI na pravico do življenja vplivata tako negativno kot pozitivno. Uporaba UI s strani države lahko vodi v kršitev negativne obveznosti države spoštovati pravico do življenja, do česar bi lahko prišlo pri uporabi avtonomnih oborožitvenih sistemov, ki jih vodi UI, na kar opozarja tudi Generalni sekretar OZN v svojem poročilu iz leta 2020.^[9] Projektna skupina se bo v tem okviru poleg raziskav razvoja in uporabe UI v oborožitvenih in drugih sistemih ter orodjih uporabe sile, ki se vse pogosteje uporabljajo pri opravljanju policijskih oziroma drugih varnostnih funkcij (Južna Koreja, na primer, za varovanje demilitarizirane cone uporablja Samsungov avtonomni nadzorni sistem SGR – A1, ki naj bi zaznaval neavtorizirane prehode, bil sposoben zaznati spust orožja oziroma predajo posameznika ter, v primeru, da do avtorizacije ali predaje ne pride, na posameznika celo streljati, na mejnih območjih nekaterih drugih držav se uporabljajo avtonomni droni, v Dubaju pa že uporabljajo policista-robota ter načrtujejo pospešeno uporabo naprednejših robotov s tehnologijo UI, ki bodo opravljali policijske funkcije), osredotočala tudi na vprašanja razvoja in uporabe UI pri razvoju podatkovnih baz za zdravstvene, transportne, regulativne in druge namene, z vidika negativne obveznosti države spoštovati pravico do življenja. Royal Bolton Hospital v Združenem kraljestvu je na primer že uporabil tehnologijo UI za triažo COVID-19 bolnikov, taka uporaba tehnologij UI pa je lahko sporna z vidika negativne obveznosti države spoštovati pravico do življenja v primerih javnih zdravstvenih storitev (v primeru zasebnih ponudnikov zdravstvenih storitev lahko govorimo o morebitnih kršitvah pozitivne obveznosti države zaščititi pravico do življenja), saj tehnologija UI odloča o življenju ali smrti posameznika, pri čemer je nujno preprečiti arbitrarnosti takšnega odločanja.

UI pa se lahko uporabi tudi za izpolnjevanje pozitivnih obveznosti države zagotavljati pravico do življenja. Odbor ZN za človekove pravice je tako v Splošnem komentarju št. 36 zapisal tudi, da imajo države dolžnost sprejeti zakonodajo in druge ukrepe, da pravico do življenja zaščitijo in primeroma navedel nekatera področja: preprečevanje onesnaževanja okolja, preprečevanje smrtonosnih bolezni, preprečevanje lakote in revščine. Projektna skupina bo zato preučevala posledice razvoja in uporabe UI za, na primer, napovedovanje izrednih naravnih pojavov na poseljenih območjih, na podlagi katerih lahko država ukrepa in prepreči izgube življenj, ter uporabo UI za zagotavljanje učinkovitosti programov cepljenja v primeru pandemij, tako da se v največji možni meri prepreči smrtnost zaradi bolezni.

V okviru projekta boto tako nastajale raziskave, analize in opredelitve do razvoja in uporabe tehnologije UI na način, ki je skladen z obveznostjo zagotavljanja pravice do življenja, tako z vidika negativnih kot tudi pozitivnih obveznosti države. Osrednji namen je namreč ponuditi poglobljeno znanstveno raziskavo interakcij med razvojem in uporabo UI ter pravico do življenja, ki bo prispevala tako k razvoju trenutnega stanja znanosti, spodbujanju nadaljnjih raziskav. S tem bo ustvarila podlage za normativno urejanje dovoljene in prepovedane uporabe UI, kar lahko služi kot vodilo pri sprejemanju konkretnih odločitev o nadaljnjem razvoju in uporabi UI ter s tem prispeva k zagotavljanju pravice do življenja v praksi.

 

---

[1] <https://news.un.org/en/story/2021/09/1099972> (14. 10. 2021).

[2] <https://ec.europa.eu/commission/presscorner/detail/en/IP_21_1682/> (18. 10. 2021).

[3] <https://www.gov.si/novice/2021-10-14-z-aktom-o-umetni-inteligenci-do-zaupanja-vredne-in-eticne-uporabe-digitalnih-resitev/> (18. 10. 2021).

[4] Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449, 2019.

[5] V Sloveniji sicer nekaj prispevkov naslavlja nekatere pravne probleme, ki jih uporaba sproža uporaba UI, vendar ne v okviru pravice do življenja (glej na primer Boštjan Koritnik: Umetna (pravna) inteligenca, v: Pravna praksa, 26 (2007) 7-8, str. 30-31; Andrej Grah Whatmough in Boštjan Koritnik: Umetna inteligenca v pravu, v: Pravna praksa, 29 (2010) 10, str. II–VIII; Jure Jakšič: Ali je pravo pripravljeno na izzive umetne inteligence?, v: Pravna praksa, 36 (2017), 43, str. 17–19; Jure Jakšić: Vprašanje reforme slovenske kazenskopravne ureditve zaradi razvoja umetne inteligence, v:Revija za kriminalistiko in kriminologijo, 69 (2018) 3, str. 194–205; Aleš Završnik: Criminal justice, artificial intelligence systems, and human rights, v: ERA Forum, 20 (2020), str. 567–583; Janja Hojnik: Inteligentne naprave in človekove pravice, v: Podjetje in delo, 45 (2019) 6-7, str. 874–888.

[6] <www.pf.uni-lj.si/raziskovanje-in-projekti/nacionalni-raziskovalni-projekti/> (14. 10. 2021).

[7] Avtorica je članica (2019–2022), podpredsednica in posebna poročevalka za t. i. Follow-up to Concluding observations postopke Odbora.

[8] General comment no. 36, Article 6 (Right to Life), 3. september 2019, CCPR/C/GC/35.

[9] Protection of Civilians in Armed Conflict, Report of the Secretary-General, 6 May 2020, S/2020/366.