TFL Vsebine / TFLGlasnik

Evropski parlament je pred dnevi potrdil pogajalsko izhodišče o aktu o umetni inteligenci, v katerem se zavzema za strožji nadzor umetne inteligence. Med drugim bi morali sistemi umetne inteligence varovati zdravje, varnost, temeljne pravice in demokracijo. Sistemi, kot je ChatGPT, pa bi morali opozoriti, da je vsebina nastala z umetno inteligenco. Pravila, ki bodo urejala umetno inteligenco, bi glede na mnenje evropskih poslancev temeljila na ravni tveganja, od česar bi bile odvisne tudi obveznosti ponudnikov in uporabnikov, so sporočili iz evropskega parlamenta.

Kot bi človek bral scenarije znanstvenofantastičnih filmov o spopadu med človeštvom in humanoidnimi roboti. Podobnega smo ravno pred dnevi spremljali v katastrofičnem Iztrebljevalcu 2049 (posnet je bil leta 2017), v katerem nam androidi, ki so prepričani, da je človeštvo obsojeno na propad, sporočajo, da »plime ne moreš ustaviti z metlo«. Ali je to napoved rezultata (zapoznelih) političnih priprav?

Film se sicer konča nekoliko tolažilno, s kančkom optimizma za človeštvo, a današnji voditelji Evrope so vendarle sila resno vzeli ocene in napovedi znanstvenikov ter filozofov. Kot nas recimo svari izraelski pisatelj Yuval Noah Harari, ki jena svojem profilu na Twitterju objavil, da »če bomo preveč vlagali v razvoj umetne inteligence in premalo v razvoj človeške zavesti, je nevarno, da bo zelo izpopolnjena umetna inteligenca računalnikov le še okrepila naravno neumnost ljudi«.

Avtor knjig Homo Sapiens in Homo Deus je prepričan, da umetna inteligenca z nami manipulira na načine, ki se jih ta trenutek še niti ne zavedamo. Deluje kot nekakšen superpameten spletni heker, ki se je sam naučil, kako se umestiti v najbolj zapleten sistem na planetu – človeški um.

Svet se mora pripraviti na velike posledice, saj je hitrost novosti na področju umetne inteligence prestrašila celo tiste, ki so jo ustvarili. Umetna inteligenca bo spremenila naše življenje – na bolje in slabše – tako temeljito in tako hitro, da nam ne bo preostalo drugega, kot da pripravimo sebe in drug drugega na posledice. Zato so vendarle pomembna pogajalska izhodišča evropskih parlamentarcev, kot jih je povzela STA, ki se zavzemajo, da bi bili sistemi z nesprejemljivo ravnjo tveganja za varnost ljudi strogo prepovedani. To bi moralo veljati za vsiljive in diskriminacijske sisteme, kot so biometrični sistemi za identifikacijo na daljavo v realnem času na javno dostopnih mestih, pa tudi tovrstni sistemi za poznejšo identifikacijo. Prepovedali bi še biometrične sisteme za razvrščanje na podlagi občutljivih lastnosti, kot so spol, rasa, etnična pripadnost, vera in politična usmeritev.

Med prepovedane sisteme umetne inteligence bi poleg tega uvrstili sisteme za zaznavanje čustev pri organih pregona, upravljanju meja, na delovnih mestih in v izobraževalnih ustanovah. Prav tako bi prepovedali vsesplošno črpanje biometričnih podatkov z družbenih omrežij ali nadzornih kamer za ustvarjanje baz podatkov za prepoznavo obraza.

Evropski poslanci se zavzemajo tudi za to, da bi med visoko tvegane sisteme vključili tiste, ki predstavljajo grožnjo za človekovo zdravje, varnost, temeljne pravice ali okolje. Prav tako menijo, da bi morali za visoko tvegane veljati sistemi za vplivanje na volilce v volilnih kampanjah. Poslanci so obenem v svoje stališče vključili obveznosti za ponudnike tako imenovanih temeljnih modelov, pri katerih gre za velike modele umetne inteligence, ki se učijo na podlagi ogromnih količin neoznačenih podatkov.

Oceniti bi morali tveganja za temeljne pravice, zdravje, varnost, okolje, demokracijo in vladavino prava ter jih omejiti. Poleg tega bi morali sisteme registrirati v bazi EU. Generativni temeljni modeli, kot je ChatGPT, bi morali upoštevati še dodatne zahteve glede preglednosti, menijo poslanci. Med drugim bi morali opozoriti, da je vsebina nastala z umetno inteligenco, model pa bi morali zasnovati tako, da ne bi ustvarjal nezakonitih vsebin. Uporabniki bi v skladu s stališčem parlamenta imeli pravico do pritožbe glede sistemov umetne inteligence. Upravičeni bi bili tudi do razlag odločitev, sprejetih na podlagi visoko tveganih sistemov.

A brez politike in vpliva umetne inteligence na politiko vendarle ne gre. Brez nenehnega dostopa do točnih, preverljivih informacij za državljane, potrošnike in vlagatelje ne more biti demokracije ali kapitalizma prostega trga. Pojav družbenih medijev in plima izkrivljenih informacij, ki jih ustvarjajo, sta že zastrupila odnos javnosti do institucij vseh vrst. Vključevanje umetne inteligence bo v pogovore, ki oblikujejo politično življenje v vsaki državi na svetu, dodalo širok zbor vnaprej programiranih nečloveških glasov. (Ian Bremmer, Delo)

Podpredsednica evropske komisije, pristojna za vrednote in preglednost, Vera Jourova je tako kakšen teden prej spletne platforme pozvala k jasnemu označevanju vsebin, ustvarjenih z umetno inteligenco. Ob robu srečanja podpisnikov kodeksa ravnanja glede dezinformacij jih je pozvala, naj označevanje tovrstnih vsebin vključijo v kodeks.

Jourova se je zavzela za to, da bi ponudniki storitev, ki bi lahko širile dezinformacije, ustvarjene z umetno inteligenco, vzpostavili tehnološke rešitve za prepoznavanje in jasno označevanje takšnih vsebin. »Želimo, da bi platforme z umetno inteligenco ustvarjene vsebine označevale tako, da bi običajen uporabnik, ki ga motijo še številni drugi dejavniki, jasno videl, da določene besedilne, slikovne ali video vsebine ni ustvaril človek,« je pojasnila Jourova. Poleg jasnosti je pomembna hitrost označevanja.