STA novice / V EU dogovor o prepovedi umetne inteligence za ustvarjanje globokih ponaredkov s spolno vsebino

Določbo, ki prepoveduje prakse umetne inteligence v zvezi z ustvarjanjem spolnih in intimnih vsebin brez soglasja ter gradiva, ki prikazuje spolno zlorabo otrok, je marca v predlog Evropske komisije dodal Svet EU.

Za to se je odločil tudi v luči kritik družbenega omrežja X in njegovega klepetalnega robota z umetno inteligenco Grok zaradi seksualiziranih fotografij žensk in otrok. Zaradi spolno eksplicitnih vsebin, ustvarjenih z Grokom, se je X znašel tudi pod drobnogledom Bruslja.

Omenjena prepoved se tako nanaša na sisteme umetne inteligence na trgu EU, pri katerih niso zagotovljeni varnostni ukrepi za preprečitev ustvarjanja takšnih vsebin, in na ponudnike, ki sisteme umetne inteligence že uporabljajo za ustvarjanje globokih ponaredkov s spolno vsebino. Podjetja imajo v skladu z danes sprejetim dogovorom čas za uskladitev svojih sistemov do 2. decembra letos.

Načrtovana prepoved je izrecno osredotočena tudi na ustvarjanje gradiva, ki prikazuje spolno zlorabo otrok. "Krepimo zaščito otrok, pri čemer se osredotočamo na tveganja, povezana s sistemi umetne inteligence," je v izjavi dejala namestnica ciprskega ministra za evropske zadeve Marilena Raouna.

Delitev intimnega ali manipuliranega gradiva brez soglasja, vključno z globokimi ponaredki, je bila sicer leta 2024 v EU opredeljena kot kazniva oblika kibernetskega nasilja.

Bruselj je v okviru novembra lani predstavljenega digitalnega svežnja predlagal poenostavitev akta o umetni inteligenci, ki se bo glede na predlani sprejeto pravno podlago začel v celoti uporabljati 2. avgusta letos. Takrat bi se morala med drugim začeti uporabljati pravila za umetnointeligenčne sisteme velikega tveganja, vključno s tistimi, ki vključujejo biometrijo, in tistimi, ki se uporabljajo v kritični infrastrukturi, izobraževanju, zaposlovanju, kazenskemu pregonu in upravljanju meja.

Glede tega so pogajalci držav članic EU in Evropskega parlamenta dosegli dogovor o časovnem zamiku uveljavitve pravil za te sisteme do 2. decembra 2027. Za umetnointeligenčne sisteme velikega tveganja, ki so vgrajeni v izdelke, pa bodo nove obveznosti veljale od 2. avgust 2028.

V okviru danes sprejetega dogovora se prav tako zamika uveljavitev obveznosti uporabe vodnega žiga na vsebini, ustvarjeni s pomočjo umetne inteligence, do 2. decembra 2026. Kot so spomnili v Bruslju, gre za tehniko, ki omogoča odkrivanje in sledenje vsebine, ki jo ustvari umetna inteligenca.

Preden bodo nova pravila začela dokončno veljati, jih morajo države članice EU in Evropski parlament potrditi še formalno.