TFL Vsebine / TFLGlasnik

Družba Tax-Fin-Lex je v Portorožu organizirala dvodnevno konferenco z naslovom Umetna inteligenca in pravni izzivi. Šlo je za prvo takšno obsežno in podrobno predstavitev sistemov umetne inteligence, ki so na voljo na različnih področjih delovanja, tako v javnem sektorju kot gospodarstvu. Šlo je tudi za pregled regulacije v EU in Sloveniji. Gre za področje, ki se hitro razvija, temu pa se morajo prilagoditi vsi akterji, tudi pravna stroka in zakonodajalci. Konferenca je spomnila na številne možnosti današnje in prihodnje rabe umetne inteligence, poseben poudarek pa je bil ravno na pomenu reguliranja.

Zlata Tavčar, direktorica družbe Tax-Fin Lex, ki je skupaj s prof. dr. Verico Trstenjak, pobudnico konference, pozdravila udeležence, je v uvodu poudarila, da je ključno vedeti, kakšno zakonodajo bo EU sprejemala na tem področju in kako jo bodo države članice, tudi Slovenija, implementirale. »Gre namreč za obsežno področje, ki se dotika številnih drugih, od varstva osebnih podatkov do avtorskih pravic,« je poudarila.

Marko Grobelnik, predstavnik Unescovega centra za umetno inteligenco na Institutu Jožefa Stefana v Ljubljani, je izpostavil potrebo po regulaciji in opozoril na nevarnosti umetne inteligence. Ob tem je spomnil na najnovejše poročilo o varnosti pri uporabi naprednih sistemov umetne inteligence, ki so ga naročili Združeni narodi, objavljeno pa je bilo pred dnevi. »Gre za najboljše poročilo s področja umetne inteligence doslej,« je dejal.

Regulativa in vedno znova regulativa, tako bi lahko povzeli večji del razprave prvega dne konference. To sekcijo je vodila prof. dr. Trstenjakova, predstavnica dunajske družbe Freshfiedls Tina Fokter pa je predstavila pravne podlage za digitalno prihodnost, ki jih je pripravila Evropska unija. Ta področje umetne inteligence ureja prek več aktov in direktiv in ravno drugi dan konference smo izvedeli, da je evropski parlament po dolgih letih priprav sprejel akt o umetni inteligenci. Gre za enega največjih podvigov tega mandata, s katerim želi vplivati na globalno prakso.

»Ljudi ne bo zamenjala umetna inteligenca, ampak jih bodo zamenjali ljudje, ki bodo znali uporabljati umetno inteligenco.«

Samo Zorc, predstavnik ministrstva za digitalno preobrazbo, je ob vsem tem poudaril, da države EU za zdaj še ne vedo, kakšni bodo predpisi v praksi. »Tehnologija umetne inteligence bo segla v vse pore našega življenja, zato je veliko vprašanje, kako se tega lotiti na področju politik in regulacije,« je dejal. Slovenija na tem področju aktivno sodeluje, in sicer tako na ravni EU kot tudi v okviru drugih organizacij. Glede nadzora po sprejemu zakonodaje pa je povedal, da za zdaj še ni jasno, kateri organi ga bodo prevzeli.

Izzivov umetne inteligence na področju varstva osebnih podatkov se je dotaknila predstavnica informacijskega pooblaščenca Jelena Burnik. »Zaradi načela veliko babic, kilavo dete upam,« je dejala, »da bodo organi med seboj sodelovali in ne tekmovali, kaj šele prelagali odgovornost drugi na drugega.« Spomnila pa je, da varovanje osebnih podatkov ni nobena novost, saj je to v Sloveniji recimo urejeno že od leta 1995 – od časov razvoja družbenih omrežij. Za kako pomembno področje gre, govori podatek, da bo po sedanjih podatkih kar 80 odstotkov uporabe umetne inteligence padlo pod pravila uporabe osebnih podatkov, kjer so pravila in smernice jasni, je poudarila.

Kako hiter je razvoj umetne inteligence, je na popoldanskem delu konference ilustriral Peter Mesarec iz Seosa, d. o. o., ko je dejal, da je »chatGPT lanski sneg in samo dobra jušna osnova, ki jo je treba šele dopolniti«. Mitja Jermol iz IRCAI je ob rob napakam tistih, ki bodo od razmaha literature po načelu »sam svoj zdravnik« zdaj ravnali po načelu »sam svoj pravnik«, prepričan, da bodo imeli dobri pravniki kvečjemu več dela. »Zato je treba biti sila previden,« je dejal.

Posebne pozornosti je bila deležna tudi predstavitev umetne inteligence na portalu Tax-Fin-Lex. Pozornost je bila namenjena zanesljivosti podatkov in rešitev, saj sistem shranjuje več kot 4 milijone objektov ‒ najmanj milijon lastnih dokumentov (20 let vnosa podatkov, op. a.), in varnosti vnosa osebnih in drugi podatkov pri uporabi TFL AI. Tjaša Kohek in Rok Žnidar Petelinšek sta ves čas konference odgovarjala na številna vprašanja, udeleženci konference so lahko TFL AI tudi preizkusili.

V nadaljevanju smo se preselili na polja – Jožko Forznarič z ministrstva za kmetijstvo in prehrano je prikazal kar nekaj primerov, kako umetna inteligenca obravnava različne posnetke s polj pri uveljavljanju različni oblik subvencij. O uporabi umetne inteligence v zdravstvu ter pravnih problemih in nevarnostih je govoril doc. dr. Bruno Nikolič s fakultete za upravo. Mimogrede: še vedno ne obstaja posebna ali enotna zakonodaja, ki bi urejala področje uporabe umetne inteligence in strojnega učenja v zdravstvu. Izr. prof. dr. Petra Ferk je predstavila pomen in vpliv umetne inteligence na področju javnih naročil.

»Po dostopnih informacijah bo kar 80 odstotkov uporabe umetne inteligence padlo pod pravila uporabe osebnih podatkov, kjer so pravila in smernice jasni.«

Prvi dan konference je sklenila okrogla miza z naslovom Umetna inteligenca in diskriminacija v organizaciji Evropskega združenja žensk pravnic Slovenije ‒ dr. Verice Trstenjak, dr. Vide Groznik in odvetnice Eve Škufca.

O umetni inteligenci v podjetjih je na začetku drugega dne govoril Blaž Golob iz GFS Institut. V prvi vrsti je podjetjem svetoval sodelovanje s strokovnjaki in lastne naložbe v usposabljanje. Vzporedno ali še prej je treba zagotoviti kakovost podatkov ... In seveda definirati cilje uporabe umetne inteligence.

Mag. Klemen Vidic iz agencije za zavarovalni nadzor je predstavil izzive umetne inteligence v zavarovalništvu, še posebej pa je bila pestra predstavitev umetne inteligence v bančništvu, o čemer je govoril dr. Franc Bračun iz NLB. Opozoril nas je, da je umetna inteligenca prišla v bančni sektor mnogo let pred pojavom chatGPT. O tistih, ki se bojijo odpuščanj zaradi umetne inteligence, je bil neposreden: »Zaposlenih ne bo zamenjala umetna inteligenca, ampak jih bodo zamenjali ljudje, ki bodo znali uporabljati umetno inteligenco.«

Doc. dr. Luka Martin Tomažič iz Alma Mater Europea je v nadaljevanju tega gospodarskega dela govoril o umetni inteligenci v energetiki. »V jedru tega je metanačelo trajnostnega razvoja,« je dejal. Pred koncem drugega dne konference so imele posebno mesto besede dr. Uroša Rožiča o eni najaktualnejših tem, to so avtorske pravice. Tako ni več dvoma, da je »teoretično možna avtorskopravna zaščita 'generirane vsebine', če ima avtor, fizična oseba, vlogo v vsaj eni izmed faz ustvarjalnega procesa v produkciji, ki ji pomaga umetna inteligenca.«

»ChatGPT je danes le dobra jušna osnova, ki jo je treba šele dopolniti.«

Zelo izčrpno je Edi Abram iz NKBM nizal podrobnosti o prepovedi diskriminacije v bančništvu. »O algoritemski diskriminaciji govorimo, kadar avtomatiziran sistem, ki temelji na umetni inteligenci, posameznika obravnava manj ugodno kakor drugega posameznika na primerljivem položaju in je tovrstna negativna obravnava pogojena z ali v močni korelaciji z določeno njegovo osebno lastnostjo.«

Z umetno inteligenco na področju lastne informacijske varnosti, zlasti glede varstva osebnih podatkov, se lahko srečujemo sleherni dan, a se tega premalo zavedamo, je sklepati po nastopu doc. dr. Benjamina Lesjaka o nevarnostih umetne inteligence. O novih pravilih na področju produktivne odgovornosti za dobo umetne inteligence je govorila izredna profesorica dr. Petra Weingerl z mariborske univerze.

Ob koncu je poleg pohval za odlično organizirano konferenco in izbiro predavateljev, za kar gre zahvala dr. Verici Trstenjak, Zlata Tavčar zagotovila, da se že snujejo načrti za naslednjo konferenco na to temo z enakim obsegom vsebin.

Več fotografij si lahko ogledate na našem Facebook profilu!

Več si oglejte na naslednjih videoklipih s konference:

Vsebinski presek konference, avtor: STA

Utrinki s konference, avtor: Nejc Prezelj