TFL Vsebine / TFLGlasnik

Pravniki, sodniki, raziskovalci, tehnološki strokovnjaki in predstavniki gospodarstva so predstavili najnovejše pravne, organizacijske in družbene izzive, povezane z uvajanjem umetne inteligence. Rdeča nit skoraj vseh predavanj je bila, da bo evropski Akt o umetni inteligenci (AI Act) korenito spremenil način razvoja, uporabe in nadzora umetne inteligence v Evropi, hkrati pa odprl številna vprašanja glede odgovornosti, transparentnosti in varstva temeljnih pravic.

Izr. prof. dr. Petra Weingerl s Pravne fakultete Univerze v Mariboru je podrobno predstavila prvi celovit evropski pravni okvir za umetno inteligenco – AI Akt, sprejet leta 2024, ki bo postopoma začel veljati od avgusta 2026. Predavanje je bilo izrazito praktično usmerjeno in je udeležencem približalo na tveganju temelječ pristop, kjer evropska ureditev razlikuje med prepovedanimi praksami, visoko tveganimi sistemi ter sistemi z minimalnimi obveznostmi. Posebej je opozorila na zahteve preglednosti, označevanje AI-vsebin in deepfake posnetkov ter obveznost pojasnil. Velik poudarek je namenila 86. členu AI Akta, ki določa pravico do obrazložitve pri uporabi visoko tveganih sistemov, pri čemer je poudarila, da ta pravica ni absolutna, temveč od podjetij in institucij zahteva bistveno večjo stopnjo pojasnljivosti odločitev. Analiza aktualnih primerov pred Sodiščem EU – med drugim zadev Yettel Bulgaria, DZI in Rowicz – je pokazala, da se pravni sistem že danes sooča z vprašanji »črne skrinjice«, avtomatiziranih odločitev in meja človeškega nadzora nad algoritmi. Po mnenju dr. Weingerl AI Akt ne nadomešča obstoječega prava, kot sta GDPR in potrošniško pravo, temveč ustvarja dodaten sloj zaupanja in varnosti, ki pa bo za podjetja pomenil zelo zahtevno obdobje usklajevanja in dokazovanja skladnosti.

O tem je govorila tudi informacijska pooblaščenka dr. Jelena Burnik, medtem ko je prof. dr. Verica Trstenjak predstavila vse pomembnejšo vlogo Sodišča EU pri oblikovanju pravil za umetno inteligenco. Posebno pozornost je namenila sodni praksi glede avtomatiziranega odločanja in bonitetnih ocen, kjer je Sodišče EU v zadevah Schufa Holding ter Dun & Bradstreet poudarilo pravico posameznika do pojasnila in človeškega pregleda avtomatiziranih odločitev. Opozorila je tudi na prihajajoče postopke proti največjim tehnološkim podjetjem ter na vedno večji konflikt med tehnološkim razvojem, avtorskimi pravicami, človekovimi pravicami in transparentnostjo algoritmov. Zanimiv je bil še pregled aktualnih postopkov proti podjetjem Meta, Apple in TikTok v okviru Akta o digitalnih trgih (DMA), pa tudi vprašanje avtorskih pravic pri učenju velikih jezikovnih modelov. Po mnenju dr. Trstenjak postaja Sodišče EU osrednji arbiter pri iskanju ravnotežja med inovacijami in temeljnimi pravicami, pri čemer mora končna odločitev vedno ostati v rokah človeka.

Pomemben del razprave je bil namenjen avtorskemu pravu in treniranju velikih jezikovnih modelov. Aljaž Jadek in Eva Gostiša iz odvetniške družbe Jadek in Pensa sta pojasnila izjeme za besedilno in podatkovno rudarjenje ter opozorila na odprta vprašanja glede uporabe zaščitenih del pri treniranju AI modelov. Posebej zanimiv je bil prikaz primera GEMA proti OpenAI, kjer se postavlja vprašanje, ali lahko generativni modeli reproducirajo avtorsko zaščitena besedila do mere, ki pomeni kršitev avtorskih pravic. Predavatelja sta poudarila razliko med splošnim besedilnim in podatkovnim rudarjenjem ter izjemo za znanstveno raziskovanje, ki univerzam in javnim institucijam omogoča širše pravice uporabe podatkov. Ob tem sta opozorila, da bo prav področje avtorskih pravic eno ključnih pravnih bojišč razvoja generativne umetne inteligence v prihodnjih letih.

Marko Grobelnik je predstavil prehod od klasičnih AI asistentov k avtonomnim agentom. Po njegovem največji problem prihodnosti ne bo sama tehnologija, temveč vprašanje odgovornosti, revizijske sledi in upravljanja procesov, ko začne umetna inteligenca samostojno izvajati naloge v organizacijah. Opozoril je, da se odgovornost pogosto izgubi prav na stičišču med ljudmi, podatki in poslovnimi procesi, ko nihče več jasno ne ve, kdo je dejanski lastnik procesa ali kdo bi moral preveriti rezultat. Poudaril je tudi, da AI Akt uvaja logiko kontinuiranega dokazovanja skladnosti, kjer ne bo več dovolj enkratna ocena sistema, ampak stalno spremljanje njegovega delovanja.

Posebno pozornost je vzbudilo predavanje višjega sodnika dr. Cirila Keršmanca o projektu TAPKO in platformi PIPA, ki predstavljata enega prvih konkretnih poskusov uvajanja lokalnih velikih jezikovnih modelov v slovensko sodstvo. Projekt temelji na hibridnem pristopu, ki združuje lokalne modele in komercialne rešitve z anonimizacijo podatkov, predvsem zaradi nevarnosti »shadow AI« (uporabe umetne inteligence brez nadzora ali odobritve, op. a.). Dr. Keršmanc je poudaril, da manjši modeli za kakovostno delo s slovenskimi pravnimi besedili niso dovolj zmogljivi, zato projekt uporablja velike modele, kot je Qwen 235B. Po njegovih besedah mora biti umetna inteligenca v sodstvu zgrajena »od delovnih procesov navzven«, ob stalnem človeškem nadzoru, revizijski sledi in upoštevanju zahtev AI Akta že od začetka razvoja.

V tem delu konference je o praktični rabi umetne inteligence v pravni stroki govorila tudi Tjaša Kohek iz družbe Tax-Fin-Lex, ki je predstavila, kako lahko zanesljiv TFL AI Plus pomočnik pomaga pri poti skozi labirint zakonodaje. Ključni poudarek profesionalnega sistema je v tem, da je vir podatkov znan in s tem odgovori točni, saj deluje na lastnih podatkih, ki so zbrani na portalu Tax-Fin-Lex.

Dr. Miha Mlakar iz družbe Pareto AI je predstavil dilemo med uporabo AI modelov v oblaku ali lokalno. Poudaril je, da odločitev ni zgolj tehnološka, ampak predvsem vprašanje varnosti, skladnosti in nadzora nad podatki. Lokalni modeli po njegovem omogočajo bistveno večjo stopnjo varnosti in nadzora, medtem ko oblačne rešitve ponujajo večjo zmogljivost in hitrost razvoja. Podobno je Jožko Fornazarič z ministrstva za kmetijstvo opozoril, da tradicionalni upravni postopki niso prilagojeni logiki proaktivnega upravljanja tveganj, ki jo zahteva AI Akt, zato bo potrebno postopno prilagajanje tudi klasičnih pravnih institutov in razumevanja upravnega prava.

Velik poudarek je bil namenjen digitalnim dokazom in nevarnosti manipulacij z AI-generiranimi vsebinami. Doc. dr. Katja Drnovšek s Pravne fakultete v Mariboru je opozorila na problem deepfake vsebin, manipulacij elektronskih dokazov in vse večje potrebe po strokovnem preverjanju verodostojnosti digitalnih gradiv. Predstavila je več odmevnih mednarodnih primerov in poudarila, da bodo morali pravni sistemi razviti bistveno strožja pravila glede dopustnosti in preverjanja AI dokazov. Odmevno je bilo predavanje višje državne tožilke Anite Veternik, namestnice nacionalnega predstavnika Slovenije pri Eurojustu, ki je opozorila na eksponentno rast digitalnega kriminala, uporabo »dark LLM« sistemov, avtomatiziranega phishinga in zlonamerne kode. Po njenem mnenju pravosodni sistemi težko sledijo hitrosti tehnološkega razvoja, zato postaja vprašanje ohranjanja temeljnih pravic v digitalni dobi eno ključnih vprašanj prihodnosti.

Prof. dr. Polona Domadenik Muren z Ekonomske fakultete v Ljubljani je predstavila raziskavo o uporabi umetne inteligence v slovenskih podjetjih, ki kaže, da Slovenija še vedno zaostaja za evropskim povprečjem. Med glavnimi razlogi za počasno uvajanje UI ostajajo stroški, pomanjkanje znanja in nezadostno razumevanje koristi tehnologije. Raziskava je pokazala tudi ambivalentne učinke na trg dela: zmanjševanje potrebe po nižje kvalificiranih delih, a hkratno rast povpraševanja po kreativnih, tehničnih in vodstvenih profilih. Tudi dr. Paul Larsen s fakultete za matematiko je poudaril, da največji problem uvajanja umetne inteligence niso modeli sami, ampak sprememba organizacijske kulture, procesov in upravljanja tveganj. Posebej je opozoril na izjemno visoko stopnjo neuspeha generativnih AI projektov, kadar organizacije ne prilagodijo svojih delovnih tokov.

Tudi dr. Franc Bračun iz NLB se je v svojem prispevku osredotočil na organizacijske in pravne izzive prehoda od AI asistentov k AI agentom. Poudaril je ključno razliko: asistent le odgovarja in pripravlja vsebine, agent pa aktivno izvaja korake v poslovnem procesu (uporablja orodja, primerja vire, predlaga in izvaja naslednje korake). Predstavil je tudi organizacijske posledice AI Akta – skladnost ni enkratna ocena, temveč kontinuiran sistem dokazovanja in upravljanja tveganj.

Mag. Janez Kne je razpravo razširil na področje medijev in družbenih sprememb ter opozoril na vpliv umetne inteligence na oblikovanje javnega mnenja, personalizacijo informacij in manipulacijo vsebin. Izpostavil je širše družbene posledice hitrega tehnološkega razvoja, saj človeška družba po njegovem mnenju težko sledi eksponentni rasti zmogljivosti AI sistemov.

Doc. dr. Benjamin Lesjak je izpostavil nevarnosti »shadow AI«, torej uporabe AI orodij na lastno pest brez nadzora organizacij, prof. dr. Elizabeta Zirnstein pa tveganja algoritmične diskriminacije in dehumanizacije dela v kadrovskih postopkih. Ksenja Hiti in René Sansoni iz Datasec d.o.o. sta opozorila na praktična varnostna tveganja uporabe javnih AI orodij v pravnih pisarnah in pomen ustreznega upravljanja občutljivih podatkov, ločevanja naprav ter uporabe zasebnih AI okolij.

Skupna ugotovitev strokovnega srečanja je bila jasna: umetna inteligenca ni več eksperimentalna tehnologija prihodnosti, ampak infrastruktura sedanjosti. AI Akt pri tem ne predstavlja zgolj nove regulacije, temveč predvsem nov način razmišljanja – od pasivnega odzivanja na tveganja k proaktivnemu upravljanju odgovornosti, preglednosti in zaupanja. Prav zato bodo prihodnja leta odločilna predvsem za organizacije, ki bodo znale povezati pravo, tehnologijo, varnost in človeški nadzor v delujoč sistem, ki bo sposoben ohraniti temeljne pravice tudi v dobi umetne inteligence.

Več fotografij si lahko ogledate na našem Facebook profilu!