TFL Vsebine / TFLGlasnik

V mednarodni skupnosti že od leta 2014 potekajo pogovori glede pravne ureditve avtonomnih oborožitvenih sistemov, [1] v zadnjih letih pa so vse bolj v ospredju tudi uporaba umetne inteligence pri naslavljanju humanitarnih izzivov ter pravna vprašanja, ki jih ta odpira. [2] Novembra lani, pred začetkom mednarodnega študentskega tekmovanja All-European International Humanitarian and Refugee Law Moot Court Compettition , je na Pravni fakulteti Univerze v Ljubljani potekala okrogla miza z naslovom The Use of Artificial Intelligence in Practice: International Humanitarian and International Refugee Law Perspectives, pod vodstvom prof. dr. Vasilke Sancin (Pravna fakulteta Univerze v Ljubljani), vabljena strokovnjaka pa sta bila prof. dr. Yuval Shany (Hebrew University iz Jeruzalema) in Rebeca Moreno Jimenez (UNHCR Innovation Service).

Prof. dr. Yuval Shany je predstavil izzive pravnega urejanja uporabe pol-avtonomnih oborožitvenih sistemov za vojaške namene, ki jih države v praksi že uporabljajo, saj jim prinašajo številne prednosti, kot je npr. umik borcev z območij bojevanja. V okviru projekta 'Maven' na primer obrambno ministrstvo Združenih držav Amerike razvija tehnologijo, ki na podlagi strojnega učenja (angl. machine learning) in globokega učenja (angl. deep learning) samostojno prepozna potencialne tarče napada.[3] Posebne mednarodne pogodbe, ki bi izrecno urejala uporabo takih oborožitvenih sistemov, ni, kar je posledica pomanjkanja soglasja med državami glede zakonitosti uporabe in načina pravne ureditve tovrstnih orožij. Poleg meddržavnih razprav o zakonitosti uporabe umetne inteligence za vojaške namene so vse bolj pomembne tudi razprave v akademskih krogih ter v okviru Mednarodnega odbora rdečega križa (MORK). [4]

Ob odsotnosti mednarodne pogodbe so pri naslavljanju vprašanja zakonitosti uporabe avtonomnih oborožitvenih sistemov ključni obstoječi dokumenti s področja mednarodnega prava človekovih pravic in mednarodnega prava oboroženih spopadov.[5] Splošni komentar Odbora Združenih narodov za človekove pravice št. 36 o pravici do življenja, ki razlaga 6. člen Mednarodnega pakta o političnih in državljanskih pravicah (MPDPP) ,[6] na primer poudarja, da odpira razvoj avtonomnih oborožitvenih sistemov, ki ne vključujejo človeškega sočutja in presoje, zahtevna pravna in etična vprašanja v povezavi s pravico do življenja, vključno z vprašanjem pravne odgovornosti za uporabo takih sistemov. Odbor zato poudarja, da avtonomni oborožitveni sistemi ne bi smeli biti razviti in dani v uporabo, niti v času vojne, niti v času miru, razen če je ugotovljeno, da je njihova uporaba v skladu s 6. členom MPDPP in drugimi relevantnimi pravili mednarodnega prava. [7] Z vidika mednarodnega prava oboroženih spopadov je pomemben 36. člen Dopolnilnega protokola k Ženevskim konvencijam z dne 12. avgusta 1949 o zaščiti žrtev mednarodnih oboroženih spopadov (Protokol I), [8] ki državam pogodbenicam nalaga, da morajo pri »proučevanju, razvoju, pridobivanju ali sprejemanju novih vrst orožja, sredstev ali metod bojevanja ugotoviti, ali bi bila njihova uporaba v nekaterih ali vseh okoliščinah prepovedana po tem protokolu ali katerem koli drugem pravilu mednarodnega prava, ki se uporablja zanjo.«[9]

Prof. dr. Yuval Shany je poudaril, da uporaba avtonomnih oborožitvenih sistemov odpira vprašanja odnosa med mednarodnim pravom oboroženih spopadov in mednarodnim pravom človekovih pravic, [10] vprašanje smiselnega človeškega nadzora pri uporabi takega orožja ter vprašanje odgovornosti. Slednje je še posebej pereče, saj trenutna ureditev pravil o odgovornosti držav in pripisljivosti aktivnosti, povezane z uporabo umetno inteligenčnih sistemov državam,[11] kot tudi ureditev individualne mednarodne kazenske odgovornosti, kjer je naklep praviloma nujni pogoj za kazensko odgovornost, pri čemer je odgovornost na podlagi malomarnosti mogoča samo izjemoma, [12] pogosto vodi v vrzeli pri ugotavljanju odgovornosti (t. i. (angl.) responsibility gap).

Rebeca Moreno Jimenez je predstavila delo inovativnih storitev Urada Visokega komisariata Združenih narodov za begunce (UNHCR), s poudarkom na uporabi umetne inteligence pri naslavljanju humanitarnih izzivov, kot je na primer možnost predvidevanja števila beguncev, ki bodo prišli v določeno državo. S pomočjo umetne inteligence je UNHCR na primer v okviru projekta Jetson predvidel število prihoda razseljenih oseb v Somalijo. Poudarila je, da je za napovedovanje različnih družbenih vedenj težko izdelati zanesljive modele, ki bi delovali na podlagi umetne inteligence, saj algoritmi nujno temeljijo na različnih predpostavkah, hkrati pa je težko pridobiti zanesljive podatke. Vse to odpira številna etična vprašanja in vprašanja spoštovanja človekovih pravic, zlasti z vidika diskriminacije. Izpostavila je primer Kanade, ki je v okviru pilotnega projekta uporabila umetni inteligentni sistem za obravnavo prošenj v okviru njene priseljenske politike, npr. vlog za izdajo vizumov, zaradi česar je bila tarča številnih kritik. [13] Opozorila je tudi na relevantne mednarodne dokumente s področja umetne inteligence, ki jih organi Organizacije združenih narodov (OZN) in specializirane agencije uporabljajo pri svojem delovanju, kot je na primer Načrt Generalnega sekretarja Organizacije združenih narodov za digitalno sodelovanje, [14] Načela za etično uporabo umetne inteligence v sistemu Združenih narodov [15] ter Politike skrbnega ravnanja človekovih pravic, dokument, ki bo letos pripravljen v okviru Visokega komisariata Združenih narodov za človekove pravice.

Uporaba umetne inteligence v vojaške in humanitarne namene odpira številna pravna vprašanja, ki terjajo nadaljnjo poglobljeno obravnavo. Čeprav bi moral biti (glede na hiter razvoj in vse pogostejšo uporabo avtonomnih oborožitvenih sistemov v praksi) sprejem mednarodne konvencije, s posebnim poudarkom na smiselnem človeškem nadzoru, prednostna naloga držav, pa žal v zadnjih letih ni zaznati volje in soglasja, ki bi omogočal dosego tega cilja, zato se zdi, da bo tudi v prihodnje razlaga obstoječih mednarodnopravnih obveznosti ključnega pomena. Z vidika mednarodnega prava človekovih pravic je zato dobrodošel sprejem načel, politik in vodil (t. i. dokumentov mehkega prava) s strani OZN, kot vodilo pri uporabi in razvoju umetnih inteligentnih sistemov.