STA novice / Civilna družba z zadržki do predlogov evropskega akta o umetni inteligenci in uredbe za preprečevanje spolne zlorabe otrok

Predlog akta o umetni inteligenci sicer uvaja nekatere mehanizme za odgovornejšo rabo umetne inteligence, vendar lahko pritisk nekaterih držav članic vodi do tega, da iz končnega besedila izpadejo nekatere težko izborjene omejitve, je koalicija nevladnih organizacij Danes je nov dan, Pravni center za varstvo človekovih pravic in okolja (PIC), Amnesty International Slovenije, Zavod Krog, Mirovni inštitut, Slovenska filantropija, Zavod Emma in Državljan D, opozorila na današnjem dogodku za novinarjev.

Akt namreč ne izključuje nesprejemljive in pogosto eksperimentalne rabe sistemov umetne inteligence na področju kazenskega pregona, nacionalne varnosti in nadzora migracij. Nevladniki izpostavljajo primere biometrične identifikacije ali individualnega profiliranja in tehnologije že v uporabi za nadzor na mejah, ki lahko vodijo v nasilje ali rasno profiliranje.

"Akt ne glede na nekatere ustrezne ukrepe ne dosega mednarodnih standardov človekovih pravic," povzema Maja Cimerman z inštituta Danes je nov dan. Sistemi, ki uporabljajo umetno inteligenco so diskriminatorni, celo rasistični, rezultati njihovega delovanja pa nenatančni, meni tudi Urša Regvar iz PIC.

Kritični so predvsem do sistemov za prepoznavo naglasov in čustev z namenom ugotavljanja verodostojnosti migrantovih navedb, predvsem zadnji so se izkazali za zanesljivejše pri belih moških in manj zanesljive pri ostalih družbenih skupinah. Mikroizrazi osebe so lahko nadalje pogojeni tudi z njenimi travmami, je opozorila direktorica Amnesty International Slovenije Nataša Posel.

Ključno je, da akt da ljudem, ki niso državljani EU, enako dostojanstvo, kot jih daje evropskim državljanom. EU namreč prepoznava, da je umetna inteligenca nevarna in jo je treba zakonsko urediti, to prepoznanje pa je treba razširiti še na vse ljudi, ki se z umetno inteligenco srečajo ali na evropskih mejah ali preko tehnologije, ki je izvožena iz EU, je podarila Cimerman.

Kljub pozitivnim elementom je problematična tudi uredba za preprečevanje spolne zlorabe otrok, saj kot možne storilce obravnava vse uporabnike spleta v EU. Ustvarja namreč pogoje za nadzor vsake naprave, ki uporablja tehnologijo šifriranja in tako posega v zasebnost komunikacije.

Po opozorilih civilne družbe nekatere države članice to uredbo vidijo predvsem kot priložnost za dostop do šifriranih komunikacij državljanov, kar bi lahko škodilo delu novinarjev, varovanju poslovnih skrivnosti in zaupnosti virov. Odločevalci teh pomislekov niso naslovili, hkrati pa želijo iz zakonodaje izvzeti lastne vladne komunikacije, so poudarili v koaliciji nevladnikov.

"Ta osnutek zakonodaje EU bi dal korporacijam moč, da vohljajo po naših zasebnih klepetih brez kakršnega koli suma, da smo storili kaj narobe. V demokratični družbi tega ne smemo sprejeti," je bila jasna predstavnica Evropskega združenja za digitalne pravice Ella Jakubowska.