Tko će provoditi AI Act i hoće li hrvatski developeri u zatvor zbog AI-ja?

Europska unija već je donijela AI Act, ali njegova stvarna implementacija tek dolazi. U ovoj epizodi Netokracijina podcasta analiziramo kako Hrvatska planira provoditi nova pravila za umjetnu inteligenciju, zašto je jedna odredba u Kaznenom zakonu uznemirila IT zajednicu i može li regulacija istovremeno potaknuti inovacije i zaštititi društvo. Uz to donosimo i širu sliku europskog digitalnog regulatornog okvira te najvažnije top i flop vijesti iz svijeta tehnologije.

Ne sluša vam se ili ne gleda? Zahvaljujući AI-ju, donosimo najvažnije momente!

Hoće li developeri završiti u zatvoru zbog AI sustava?

Marin: U novoj epizodi bavimo se regulacijom umjetne inteligencije. Jedno od pitanja koje se pojavilo u domaćoj IT zajednici je – mogu li developeri završiti u zatvoru zbog AI sustava koje razvijaju?

Ivan: Povod za to je nova odredba u Kaznenom zakonu prema kojoj osoba koja tijekom razvoja, testiranja ili uporabe AI sustava izazove opasnost za život ljudi ili veliku materijalnu štetu može dobiti zatvorsku kaznu od šest mjeseci do pet godina.

Marin: To je dosta široko postavljeno.

Ivan: Upravo u tome je problem. Definicija je toliko široka da se postavlja pitanje odgovornosti – tko je zapravo kriv ako AI sustav napravi pogrešku?

Ivan: Primjerice, ako sustav autonomne vožnje gotovo udari pješaka, prema ovoj odredbi odgovornost bi potencijalno mogla pasti i na developere koji su radili na sustavu.

Marin: A to onda otvara pitanje pravne nesigurnosti.

Ivan: Da. Stručnjaci upozoravaju da takva formulacija može obeshrabriti razvoj AI sustava u Hrvatskoj, jer nitko ne želi riskirati kaznenu odgovornost za tehnologiju koja je po svojoj prirodi eksperimentalna.

AI Act: kako EU regulira umjetnu inteligenciju

Ivan: AI Act je stupio na snagu u kolovozu 2024., a njegova puna primjena očekuje se 2026. godine.

Marin: Ključna ideja tog zakona je pristup temeljen na procjeni rizika.

Ivan: To znači da se svi AI sustavi ne reguliraju jednako. Oni koji predstavljaju najveći rizik za društvo imaju najstroža pravila.

Ivan: Među najrizičnije spadaju sustavi koji manipuliraju ljudskim ponašanjem ili uvode tzv. društveno bodovanje građana.

Marin: Poput sustava koji bi ocjenjivali ljude prema društvenom statusu ili ponašanju.

Ivan: Upravo tako. Postoje i srednje rizične kategorije, primjerice AI u zapošljavanju ili kreditnom odlučivanju, gdje odluke i dalje moraju imati ljudski nadzor.

Hrvatska još traži institucije koje će provoditi AI Act

Marin: Jedan od izazova je što Hrvatska još nije odredila instituciju koja će provoditi AI Act.

Ivan: Rok za imenovanje nacionalnih tijela bio je kolovoz 2025., ali polovica država EU tada još nije donijela odluku.

Marin: Hrvatska je među njima.

Ivan: Postoji mogućnost da nekoliko institucija dijeli nadležnosti, primjerice HAKOM, AZOP ili HANFA.

Marin: Ali to može stvoriti konfuziju.

Ivan: Upravo. Ako svaka institucija tumači pravila na drugačiji način, poduzetnici se mogu naći u situaciji da ne znaju kome odgovaraju.

Ima li država dovoljno stručnjaka za nadzor AI-ja?

Ivan: Drugi veliki izazov je kapacitet institucija.

Marin: Drugim riječima – imamo li dovoljno ljudi koji razumiju umjetnu inteligenciju?

Ivan: Stručnjaci postoje, ali problem je privući ih u javni sektor gdje su plaće i uvjeti često slabiji nego u privatnim tehnološkim kompanijama.

Marin: A bez takvih stručnjaka teško je provoditi kompleksne regulative poput AI Acta.

Regulira li EU digitalni prostor previše?

Marin: Na konferenciji MoneyMotion otvoreno je i pitanje regulira li EU digitalni sektor previše.

Ivan: Osim AI Acta, Europa je donijela i Digital Services Act, Digital Markets Act i niz drugih digitalnih pravila.

Marin: Prema predstavnicima Europske komisije, cilj regulacije nije kočiti inovacije nego stvoriti povjerenje na tržištu.

Ivan: Ideja je da jasna pravila stvore stabilnije poslovno okruženje i jedinstveno digitalno tržište.

EU pokušava stvoriti digitalno jedinstveno tržište

Marin: Jedan od ciljeva europske digitalne politike je olakšati poslovanje unutar EU.

Ivan: To znači da bi startup iz Hrvatske mogao lakše prikupljati investicije u Berlinu ili zapošljavati ljude diljem Europe.

Marin: Slično kao što tvrtke u SAD-u posluju između saveznih država.

Ivan: Upravo tako. EU želi stvoriti sličnu razinu integracije.

Flop tjedna: Bijela kuća i autorska prava

Ivan: Moj flop tjedna dolazi iz Bijele kuće.

Ivan: Njihovi video sadržaji na društvenim mrežama koristili su elemente iz popularnih igara i glazbe bez dozvole autora.

Marin: I to nije prošlo nezapaženo.

Ivan: Fanovi i vlasnici prava brzo su reagirali, a neki su sadržaji morali biti uklonjeni.

Flop: Otkazi u Atlassianu

Marin: Moj flop su otkazi u Atlassianu.

Marin: Tvrtka planira otpustiti oko 10% zaposlenika, odnosno oko 1600 ljudi.

Ivan: Razlog?

Marin: Restrukturiranje i veća ulaganja u umjetnu inteligenciju.

Marin: Iako su otkazi uvijek negativna vijest, Atlassian je barem transparentno objasnio razloge i strategiju.

Top: Implantat koji može vratiti vid

Ivan: Moj top dolazi iz zdravstvene tehnologije.

Ivan: Znanstvenici su razvili bežični implantat za oko koji može pomoći slijepim osobama da ponovno vide određene oblike i tekst.

Ivan: Implantat radi u kombinaciji s pametnim naočalama koje pretvaraju sliku u električne impulse koje mozak može interpretirati.

Top: EU pokušava zaštititi autore od AI-ja

Marin: Moj top dolazi iz Europske unije.

Marin: Europski parlament predlaže stvaranje registra sadržaja koji se koriste za treniranje AI modela.

Ivan: To bi omogućilo autorima da znaju koristi li se njihov sadržaj i koliku bi naknadu trebali dobiti.

Marin: A to je posebno važno jer kreativni sektor čini oko 7% BDP-a Europske unije.