TFL Vsebine / TFLGlasnik

Seveda so se skupaj z razvojem klepetalnega robota, ki ga bomo podrobneje spoznali nekoliko kasneje, pojavila tudi številna vprašanja. Nekatera so splošna in zadevajo:

• Skrb za zasebnost. Številni po svetu so zaskrbljeni, da bi modeli AI, kot je ChatGPT in njemu podobni, zbirali in shranjevali osebne podatke, ki bi lahko kasneje postali predmet zlorabe, nekatere pa skrbi tudi pomanjkanje preglednosti glede tega, kako se ti podatki zbirajo in uporabljajo.
• Skrb za pristranskost. Pojavljajo se tudi pomisleki glede možnosti, da bi modeli umetne inteligence, kot je ChatGPT, s pristranskostjo vplivali na različne pomembne postopke odločanja, ki imajo neposreden vpliv na posameznika.
• Ker gre pri ChatuGPT za model strojnega učenja, se pojavljajo vprašanja o tem, kdo je odgovoren, ko gre kaj narobe. Na primer, če ChatGPT poda škodljiv odziv – je zanj odgovoren uporabnik umetne inteligence, klepetalni robot neposredno ali razvijalci dotične AI tehnologije?

Postavljajo se tudi vprašanja o etičnosti uporabe orodja ChatGPT, o tem kdaj bo ChatuGPT s svojo AI tehnologijo resno konkurenco naredil Google. Eno izmed najbolj perečih pa je vsekakor vprašanje o tem, če, kako in kdaj bo ChatGPT pričel nadomeščati različne poklice.

ChatGPT namreč precej suvereno podaja odgovore na najrazličnejša vprašanja, pripravlja tekstovne vsebine, nekateri pa ga uporabljajo celo kot osebnega svetovalca, pravnega svetovalca ali celo kot orodje za pripravo pravnih aktov.

Kaj je ChatGPT in kako deluje?

Preden se poglobimo v debato in skušamo odgovoriti na nekaj zgoraj zastavljenih vprašanj oz. dilem, poglejmo, kaj ChatGPT pravzaprav je in kako deluje.

Chat GPT je AI »Chatbot«, ki ga je razvilo podjetje Open AI. Omenjeni chatbot, ki ga v slovenščino prevajamo kot »klepetalni robot«, se lahko pohvali z jezikovnim modelom, ki so ga natančno prilagodili človeški interakciji in pogovornemu načinu komuniciranja.

Delovanje ChataGPT na prvi pogled izgleda nadvse preprosto in je vsekakor urejeno tako, da je uporabniku kar najbolj prijazno. Klepetalni robot sprejme zahtevo uporabnika (lahko gre za vprašanje ali poziv – pri ChatuGPT-4 pa tudi za kakšno zahtevnejšo nalogo) ter nanjo odgovori. Tehnologija, ki takšno delovanje omogoča, je v resnici izjemno zapletena.

ChatGPT deluje s pomočjo podatkov, ki jih najde na spletu. Gre za besedilne baze podatkov iz katerih orodje črpa podatke za svoje odgovore. To je vključevalo skoraj nepredstavljivih 570 GB podatkov, pridobljenih iz knjig, spletnih besedil, Wikipedije, člankov in drugih besedil, ki jih je orodje lahko našlo na spletu. Če smo še bolj natančni, je bilo v sistem vnesenih 300 milijard besed.[1]

ChatGPT-3 je že nasledila nova generacija – ChatGPT-4, ki je še zmogljivejši in lahko poleg besedil sedaj prepoznava tudi fotografije. Glede na vir v Open AI lahko ChatGPT-4 obdela do 25.000 besed naenkrat, kar je 8-krat več, kot jih lahko obdela prejšnja različica ChataGPT. Poleg tega naj bi bil ChatGPT-4 sposoben tudi priprave različnih besedil ter scenarijev.

Opisan jezikovni model deluje na podlagi verjetnosti, saj lahko ugiba, kaj naj bo naslednja beseda v stavku. Seveda je za svoje delovanje potreboval dolgo fazo nadzorovanega testiranja, ki so jo opravili v podjetju Open AI.

Da bi bolje razumeli delovanje ChataGPT proces razdelimo na korake:

• Obdelava vnosa zahteve: uporabnik vnese vprašanje oz. zahtevo v besedilno vrstico ChataGPT.
• Tokenizacija: vneseno besedilo je tokenizirano, kar pomeni, da ga program razdeli na posamezne besede, ki jih je treba analizirati.
• Vdelava vnosa: tokenizirano besedilo se vstavi v transformatorski del »nevronske mreže« ChataGPT.
• Transformator kodira vnos besedila in ustvari porazdelitev verjetnosti za vse možne izhode. Nato ta distribucija ustvari rezultat.
• Generiranje in izpis besedila: ChatGPT ustvari svoj izhodni odgovor, uporabnik pa prejme besedilni odgovor.

Pa bo ChatGPT zares nadomestil človeka?

Vsekakor lahko brez slabe vesti zatrdimo, da je ta, sedaj že dobro poznan klepetalni robot naravnost impresiven. S svojim delovanjem vsakodnevno podaja ideje in odgovore na različna praktična vprašanja. Številni po svetu danes raje vprašanje zastavijo ChatuGPT kot Googlu, saj ChatGPT poda odgovor na točno določeno vprašanje oz. opravi točno določeno nalogo. Tako se ChatGPT uveljavlja kot pravi pravcat pomočnik, ki nam olajša delo in ga naredi časovno učinkovitejšega.

Kljub vsemu pa ima tudi ChatGPT svoje omejitve, na katere številni pozabljajo, o njih pa velikokrat premalo govorimo.

Najprej naj izpostavim, da nam umetna intelgenca, ki jo uporablja tudi ChatGPT podaja odgovore, na podlagi ključnih besed, ki jih posameznik vnese v okence za razpravo. Teh ključnih besed ChatGPT ne more zares razumeti – vsaj ne tako, kot jih razume človek. Poleg tega ChatGPT tudi ne more izražati čustev, kot jih lahko izrazi človek, zato posamezniku ne more ponuditi ravni empatije in čustvene podpore, kot bi jo lahko človeško bitje.

ChatGPT ima tudi nekoliko omejeno razumevanje konteksta. Čeprav je orodje zasnovano tako, da ustvarja besedilo, ki podaja odgovor na podan kontekst, se lahko zgodi, da je ChatGPT kontekst napačno razumel ali spregledal pomembne nianse v podani zahtevi. To lahko vodi do netočnih odgovorov. Tako bo imel ChatGPT v veliko primerih težave pri razumevanju sarkazma in ironije. Gre seveda za to, da ChatGPT temelji na naboru podatkov iz besedila in lahko zgreši nedobesedni pomen za besedami.

ChatGPT ima tudi omejeno sposobnost razumevanja zapletenih vprašanj in zato nanje odgovori nekoliko manj zanesljivo. Čeprav je orodje sposobno ustvariti skladne in tekoče odgovore na krajša oz. enostavnejša vprašanja, v primeru daljših in bolj zapletenih vprašanj velikokrat ne razume odtenkov vprašanja in tako ne more zagotoviti popolnega in natančnega odgovora. To še posebej velja za vprašanja, ki zahtevajo sklepanje, abstraktno razmišljanje in razumevanje več perspektiv.

Še ena izmed težav, ki se pri uporabi omenjene tehnologije pojavlja, je dejstvo, da informacije, do katerih lahko ChatGPT dostopa, niso vedno med najažurnejšimi. ChatGPT-3 lahko dostopa do podatkov, ki so bili znani v letu 2021, kasneje pa ne, kar seveda na plano prinese vprašanje o točnosti podatkov, ki nam jih ChatGPT zagotavlja.

Poleg zanesljivosti in natančnosti naj omenim še to, da vsebina, ki jo ChatGPT ustvari, ni zelo privlačna ali zanimiva. Odgovori ChataGPT temeljijo na vzorcih in podatkih, na katerih se je orodje učilo in ki jih najde na spletu, vse to pa omejuje sposobnost opisane tehnologije, da pride do resnično edinstvenih ali izvirnih idej. Ključni del veliko poklicev je sposobnost kritičnega razmišljanja o temi in oblikovanja lastnih argumentov. ChatGPT tega ne zmore, zato vsebina postane generična, brez prave energije in naboja.

Z razvojem AI tehnologij bo potrebno poskrbeti za zanesljive ukrepe za zaščito zasebnosti in varnosti

Drug etični vidik, ki je prav tako zaskrbljujoč, je možnost napačne uporabe in zlorabe te novo nastale tehnologije. Chat GPT lahko ustvari človeško besedilo, ki se lahko uporabi v zle namene, kot je širjenje dezinformacij ali lažno predstavljanje posameznikov. Zato je nujno, da so vzpostavljeni zaščitni ukrepi za preprečevanje takšne zlorabe in da se tisti, ki zlorabljajo tehnologijo, tudi ustrezno sankcionirajo – seveda pa je potrebno takšne kršitve najprej odkriti.

Zaključek

Razvoj umetne inteligence je nekaj, kar je skorajda neizbežno in hkrati tudi impresivno. Ljudje si ves čas želimo slediti trendom, novostim... in umetna inteligenca je – s ChatomGPT na čelu – prav gotovo med najbolj vročimi trendi ta hip.

Prav je, da ljudje iščemo načine, kako delo opravljati učinkoviteje, bolje. Kljub vsemu pa se moramo ob vsaki uporabi klepetalnega robota zavedati, da na nasprotni strani ekrana ni človeka, ki bi nam odgovarjal, pač pa klepetalni robot, brez čustev in razumevanja, kot ga imamo sami.

Zato moramo biti pri uporabi informacij, ki jih z njegovo pomočjo pridobimo, previdni. Uporabljajmo orodje za ideje, dodatne informacije in dodatno znanje, vendar po uporabi orodja podatkov ne vzamimo kot 100% dejstvo, ampak se prepričajmo o njihovi pravilnosti v preverjenih virih. Vsemu skupaj ne pozabimo dodati tiste pike na i, ki jo lahko doda le človeška čustvena inteligenca.

Pomembno je poudariti tudi, da je pri razvoju ChataGPT in podobnih AI rešitev ključnega pomena, da poskrbimo za vzpostavitev zanesljivih ukrepov za zaščito zasebnosti.

Opomba:

[1] https://www.sciencefocus.com/future-technology/gpt-3/