TFL Vsebine / TFLGlasnik

»Ob vprašanju, kaj je umetna inteligenca, bi spomnila na besede dr. Bračuna iz Nove Ljubljanske banke: to je naša nova delovna sila. A bomo morali ravnati potrpežljivo, da jo bomo naučili, da bo postala naš novi asistent. Verjamem, da bomo kaj več o tem slišali na primerih dobre prakse na konferenci prihodnje leto, na katero vas že zdaj lepo vabim. Tudi letos smo slišali vsaj tri res lepe primere in bi še posebej izpostavila tožilstvo, ki še ni popolno, vendar ima jasno vizijo. In Novo Ljubljansko banko pa tudi ministrstvo za kmetijstvo. Kar pa se tiče pravnih izzivov, bi rekla, da se vloga pravnikov spreminja v času in bodo soočeni z marsikaterim izzivom. Predvsem pa jih prosimo, naj s tresočo roko sprejemajo predpise in naj pustijo, da bosta Slovenija in Evropa konkurenčni vsemu svetu.«

S temi besedami in s pozivom na srečanje čez eno leto je Zlata Tavčar, direktorica družbe Tax-Fin-Lex, sklenila 2. konferenco Umetna inteligenca in pravni izzivi, ki je 21. in 22. maja 2025 potekala v Portorožu. 
Skupaj z Zlato Tavčar je konferenco odprla prof. dr. Verica Trstenjak, nekdanja generalna pravobranilka na sodišču EU, ki jo je posebej veselila mladost udeležencev v dvorani. »Vi ste tisti, ki se najbolj zavedate pomena pridobivanja znanja in sledenja novostim na področju umetne inteligence.« Ob naslovu konference se je tudi ona vprašala, kakšno pravo ob umetni inteligenci potrebujemo. »Ali res potrebujemo ogromno prava? O tem bo odločal človek in upam, da bodo tisti, ki odločajo v parlamentu, vedno ljudje.«

Marko Grobelnik z Instituta Jožef Stefan nas je opozoril, da čeprav vsi govorimo o umetni inteligenci, ne govorimo o isti stvari. »Kar smo poznali pred enim letom in so se nam stvari zdele neverjetne, imamo danes v žepu. To je danes predlanski sneg.« Posebej je pritegnil pozornost s predvidevanji, ki zadevajo letos povsod omenjene AI-agente. »To ni nič takega, a smo tik pred tem, da se ti agenti samorazmnožujejo, samoizboljšujejo. Kje je tu vprašanje etike, saj imajo te zadeve dostop dobesedno do vsega? Na to vprašanje ni dobrih odgovorov.«

Tudi mag. Boštjan Kožuh iz AGI institute je začel z znanim prepričanjem, da je umetna inteligenca na prelomnici med inovacijo in regulacijo ter na poti k splošni umetni inteligenci. »Današnja umetna inteligenca je najmanj zmogljiva umetna inteligenca, ki jo bomo kadar koli uporabljali. Njena cena vsakih 12 mesecev pade za deset- do dvajsetkrat.« Tudi on je nekaj besed namenil AI-agentom: »Predstavljajte si agenta kot realnega, ampak relativno neizkušenega virtualnega sodelavca.« Kje pa smo v Sloveniji? Šestdeset odstotkov zaposlenih v Sloveniji se je udeležilo izobraževanja o umetni inteligenci, 15 odstotkov teh uporablja orodja umetne inteligence. Umetno inteligenco torej uporablja le 9 odstotkov zaposlenih.

»Vloga pravnikov se spreminja in bodo soočeni z marsikaterim izzivom. Predvsem pa jih prosimo, naj s tresočo roko sprejemajo predpise in naj pustijo, da bosta Slovenija in Evropa konkurenčni vsemu svetu.«

»Z regulacijo umetne inteligence želimo doseči, da se ta uporablja odgovorno in v skladu z našimi vrednotami, kot so zasebnost, pravičnost, enakost, dostopnost. Regulativa ima izredno pomembne pozitivne učinke, lahko pa na državljane, podjetja in gospodarstva vpliva tudi negativno. V globalnem svetu tehnologije ne moremo ustaviti – lahko pa hitro povzročimo digitalni razkorak znotraj družbe ter med nami in drugimi. Dober primer za študijo negativnih vplivov je bil enomesečna prepoved ChatGPT v Italiji aprila 2023.«

Po preudarno zastavljenem programu je bila na vrsti dr. Petra Weingerl z Univerze v Mariboru, ki je govorila ravno o tem – Pravni okvir za umetno inteligenco in digitalno gospodarstvo – oziroma o aktu EU o umetni inteligenci ter o aktu o varstvu osebnih podatkov (GDPR). Nato je dr. Jelena Virant Burnik, informacijska pooblaščenka, razčlenila prakso in novosti glede varstva osebnih podatkov – ali umetno inteligenco uporabljamo skladno z GDPR?

Umetna inteligenca, delovno pravo in trajnost je bil naslov prispevka pravnic Lare Nemac in Iris Pensa iz odvetniške družbe Jadek & Pensa. Opozorili sta na obljube o večji učinkovitosti, ki prinaša tudi tveganja, kot so pristranskost in diskriminacija, prekomeren nadzor in zmanjšana zasebnost, omejevanje človeške interakcije. Zato sta prepričani o ključnih vprašanjih, kot so: kako zaščititi temeljne pravice zaposlenih v dobi umetne inteligence? Kako preprečiti diskriminacijo in ohraniti človekovo dostojanstvo? In predvsem, kako zagotoviti socialno trajnost? »Ali lahko zaščitimo pravice delavcev, če ne vemo, kako umetna inteligenca deluje?«

Dr. Vida Groznik nas je presenetila z naslovom Vpogled v cevovod umetne inteligence: kaj morajo pravniki vedeti o gradnji in testiranju modelov. A smo kmalu ugotovili, da je naslov razumljivejši, če med razvojem umetne inteligence iščemo odgovore na vprašanja, recimo o tem, ali so bili podatki uporabljeni z dovoljenjem. Ali obstajajo kršitve avtorskih pravic ali pogojev uporabe ‒ denimo pridobivanje podatkov z novičarskih spletnih mest? In vprašanje zasebnosti: ali podatkovna zbirka vsebuje osebne podatke? Ali je bilo pridobljeno soglasje? Ali lahko posamezniki, na katere se nanašajo osebni podatki, zahtevajo izbris?

V ta sklop je sodil tudi prispevek o pravnem okviru vzpostavitve in delovanja nacionalnega regulativnega peskovnika za umetno inteligenco. O tem je govorila prof. dr. Vasilka Sancin z ljubljanske pravne fakultete, ki je izvoljena za slovensko sodnico na evropskem sodišču za človekove pravice. Govorila je o izkupičku dveh projektov, ki sta financirana s sredstvi javne agencije za znanstvenoraziskovalno dejavnost in ministrstva za digitalno preobrazbo.

Marko Grobelnik je v nadaljevanju tako, kot smo vajeni, poskrbel za slikovito pripovedovanje o umetni inteligenci, a je za posebno privlačnost prikazal, kako je z umetno inteligenco odkril kopico nesoglasij v slovenski ustavi. Za nameček mu je umetna inteligenca kar spisala novo ustavo.

Tjaša Kohek iz družbe Tax-Fin-Lex je zelo slikovito prikazala uporabo umetne inteligence, ki jo ponuja portal Tax-Fin-Lex pravnikom, npr. pogovor z zakonodajo ter zlasti pri analizi dokumentov ‒ sodb, a tudi lastnih dokumentov. Kar je pri nekaterih običajno dolgih dokumentih izredno uporabno.

»Današnja umetna inteligenca je najmanj zmogljiva umetna inteligenca, ki jo bomo kadar koli uporabljali. Njena cena vsakih 12 mesecev pade za deset- do dvajsetkrat.«

Na to se je nehote vezala predstavitev dr. Cirila Keršmanca, višjega sodnika na okrožnem sodišču v Ljubljani. Govoril je o vpeljavi umetne inteligence v pravosodju. Kako pa je z uporabo umetne inteligence v zdravstvu? O pravnih problemih in nevarnostih je govoril Bruno Nikolić s Fakultete za upravo. Zlasti zanimivo je bilo prisluhniti, kako to urejajo v ZDA in na Kitajskem ter v primerjavi z EU.

Na začetku drugega dne je dr. Franc Bračun, pomočnik uprave NLB, ponazoril, kako daleč je že omenjena banka glede uporabe umetne inteligence. Saj gre že za množično uvajanje generativne umetne inteligence v banko. »Umetna inteligenca ni orodje, ampak nova oblika dela,« je dejal. »Oblikuje se nov trg AI-delovne sile. Zato največji izziv ni tehnologija, temveč človek.« Ocenil je, da že govorjenje o umetni inteligenci v delovnih procesih vzbuja odpor pri zaposlenih, po drugi strani pa »vsak poklicni profil lahko vodi AI v svojem jeziku, s svojimi cilji. In vsak lahko postane zgled drugim.« Vendar, kot je dejal, ne le v bančništvu, ne obstaja uvajanje AI brez odgovornosti. Model v NLB je bil: uvedba copilota 365, chatGPT enterprise in google agentspacea. Obenem so poskrbeli za opolnomočenje, izobraževanje in dostopnost za vse profile. »Uvajanje AI se ne zgodi na delavnici, ampak v vsakdanjem delu.« Peter Žlof iz OTP banke je govoril o novih tehnologijah v bančnem okolju s poudarkom na prepoznavi in primerjavi obraza.

Na dobro znani blockchain nas je nato spomnil dr. Peter Merc, ki je govoril o pravnikih v digitalni dobi in obvladovanju prihodnosti z AI in blockchainom. »Veste, pravo se ne razvija ločeno od tehnologije, ampak skupaj z njo. Decentralizirane in avtonomne (AI) organizacije prinašajo decentralizirano in avtonomno banko ter tokenizacijo sredstev. Tokenizacija pomeni, da fizično ali digitalno sredstvo pretvorimo v digitalni žeton (token), ki je zabeležen na blockchainu. Ta token predstavlja pravico ali delež do osnovnega sredstva.«

Jožko Forznarič z ministrstva za kmetijstvo, gozdarstvo in prehrano je požel veliko pozornosti s predstavitvijo umetne inteligence na primeru fotointerpretacije satelitskih posnetkov in obdelave drugih podatkov o kmetijskih praksah na prijavljenih površinah. Po domače: ali je kmet na določenem kmetijskem zemljišču posejal tiste poljščine, za katere je dobil subvencijo ‒ ne da bi inšpektor osebno šel do parcele. Kako takšno odločbo spisati in utemeljiti?

»Ni nujno, da so kmetje, zlasti starejši, vešči uporabe interneta,« se je glasil komentar. »Ni nujno, saj imamo izredno razvito kmetijsko svetovalno službo s primernim številom usposobljenih ljudi,« je odgovoril Forznarič.

Seveda pa konferenca o umetni inteligenci in pravu ni mogla mimo teme o avtorskih pravicah. O obsežni temi je podrobno govoril dr. Matija Damjan z ljubljanske pravne fakultete. O stranpoteh uporabe umetne inteligence in grožnjah informacijski varnosti bi lahko, roko na srce, organizirali vsaj enodnevno delavnico, a vseh problemov ne bi izčrpali. O tem je s ponazoritvijo primerov govoril dr. Benjamin Lesjak s Fakultete za management Univerze na Primorskem.

Kako pa je z umetno inteligenco v energetiki? S primeri je to ponazoril dr. Luka Martin Tomažič z univerze Alma Mater Europea.

»Vsak poklicni profil lahko vodi AI v svojem jeziku, s svojimi cilji. In vsak lahko postane zgled drugim.«

Anita Veternik, okrožna državna tožilka, ki je bila imenovana za namestnico nacionalnega predstavnika Slovenije v Agenciji EU za pravosodno sodelovanje v kazenskih zadevah (Eurojust), je lahko razveselila vse, ki se vendarle nadejajo digitalizacije slovenskega pravosodja. Predstavila je namreč priložnosti in izzive digitalne preobrazbe na državnem tožilstvu.

Lotili so se ambicioznega projekta. Iskanje sodne prakse in relevantnih zakonskih določb, analiziranje velike količine dokumentov, predlaganje obrazcev ali standardiziranih besedil, osnovno razvrščanje zadev. To je le na kratko vizija, a jih je že na začetku čakalo obilo izzivov. Slaba opremljenost, nizki varnostni standardi in slaba povezljivost. Po drugi strani pa pravne podlage za e-poslovanje in čisto pričakovan človeški odpor do digitalnih novosti. »Zame je to kot pralni stroj: napolnim ga s perilom in pride ven čisto, nočem se ukvarjati s tem, kako deluje,« je ponazorila z reakcijo ene od kolegic. A vendarle pogumno načrtujejo virtualnega pomočnika, ki bo deloval na podlagi obdelave naravnega jezika, strojnega učenja na podlagi velikih količin besedil ob ustrezni pravni semantiki.

V naslednje korake v družbi umetne inteligence sta nas pospremili predstavnici evropskega združenja pravnic v Sloveniji, prof. dr. Verica Trstenjak in odvetnica Eva Škufca, s posebnim vprašanjem o etiki v digitalnem svetu – diskriminaciji žensk. Obstaja precejšen obseg raziskav, ki kažejo, da lahko umetna inteligenca ohranja ali celo poglablja spolno diskriminacijo, zlasti proti ženskam. Berkleyjeva analiza 133 sistemov umetne inteligence v različnih panogah je ugotovila, da je približno 44 odstotkov sistemov pokazalo pristranskost glede na spol. Za nameček bo umetna inteligenca ogrozila od 30 do 40 odstotkov delovnih mest, ki jih opravljajo ženske v administrativnih poklicih.

Obe govornici sta se na koncu zavzeli za vsaj izvajanje revizij algoritmov glede pristranskosti, uporabo spolno razčlenjenih podatkov pri učenju sistemov, spodbujanje spolne raznolikosti ekip, ki razvijajo umetno inteligenco, in ne nazadnje uveljavitev pravne odgovornosti za diskriminatorne posledice.

Več fotografij si lahko ogledate na našem Facebook profilu!