Hrvatska još nije odredila tko će nadzirati i provoditi AI akt. U isto vrijeme, AI je ušao u naš Kazneni zakon i svojom nespretnom formulacijom u 'opasnost' doveo sve one koji razvijaju AI sustave. Koliko je to problematično, ispričao nam je Stefan Martinić iz CroAI-ja.
Prema Deloitteovu istraživanju, Danska, Italija, Mađarska, Malta i Slovenija već su donijele nacionalne zakone i imenovale tijela koja će nadzirati provedbu AI akta. Rok za imenovanje nacionalnih tijela bio je 2. kolovoza 2025., a do kraja godine to je učinilo manje od polovice članica.
Hrvatska se tako trenutno nalazi u fazi pripreme zakonodavne procedure, bez jasno definiranog tijela koje će koordinirati provedbu ove uredbe.
Stefan Martinić, odvjetnik i član Nadzornog odbora CroAI-ja, udruge koja je bila uključena u radnu skupinu za izradu Zakona o provedbi Uredbe o umjetnoj inteligenciji smatra da kašnjenje u ovom slučaju možda i nije presudno. Stefan veći problem vidi u nejasnoći koja iz toga proizlazi:
Ako poduzetnici ne znaju tko nadzire provedbu, kome se trebaju obratiti i kako će se pojedine odredbe tumačiti, pravna predvidivost postaje upitna. A to je posljednje što želite u trenutku kada ulažete u razvoj proizvoda koji bi trebao rasti i širiti se na europsko tržište.
Kada pravila nisu jasna, eksperimentiranja je manje, razvoj se usporava, a investitori postaju oprezniji. U takvom okruženju dio AI projekata lako može završiti u državama gdje su regulatorni okvir predvidljiviji.
Preniske plaće tech pravnicima?
Da bi netko mogao nadzirati primjenu umjetne inteligencije, mora razumjeti kako AI sustavi nastaju, kako se treniraju i kakve rizike nose. Ti bi stručnjaci trebali moći razgovarati i s inženjerima i s pravnicima te baratati terminologijom jednako kvalitetno na oba polja.
Njih, pogodili ste, nema mnogo, iako su na tržištu vrlo traženi. U manjim državama poput Hrvatske još ih je teže pronaći, pogotovo kada se uzme u obzir da privatne tehnološke tvrtke često nude bolje plaće i uvjete od javnog sektora. Stefan ističe kako “postojeće institucije u Hrvatskoj imaju određenu razinu relevantne pravne i regulatorne ekspertize, osobito u područjima zaštite podataka, tržišnog nadzora i digitalne regulacije”.
Vodič kroz Digitalni omnibus: Što bi se trebalo promijeniti u AI actu, GDPR-u…
No za učinkovitu provedbu AI akta to vjerojatno neće biti dovoljno. Hrvatska bi, smatra Stefan, trebala dodatno ulagati u institucije koje će provoditi ovu uredbu, prije svega kroz bolje uvjete rada i konkurentnije plaće kako bi privukla stručnjake koji razumiju i pravo i tehnologiju. U suprotnom, postoji realna šansa da će najbolji kadrovi ostati u privatnom sektoru ili otići raditi u inozemstvo. Scenarij koji je Hrvatskoj već dobro poznat. To bi dugoročno moglo oslabiti sposobnost države da kvalitetno nadzire primjenu umjetne inteligencije:
Ulaganje u stručne kapacitete regulatora ne bi trebalo promatrati kao trošak, nego kao preduvjet kvalitetne i predvidljive regulacije koja je važna i za zaštitu građana i za razvoj domaće AI industrije.
Regulator koji ima snažnu tehničko-pravnu ekspertizu može djelovati ne samo kao nadzorno tijelo nego i kao partner gospodarstvu u sigurnoj i usklađenoj primjeni umjetne inteligencije, naglasio je Stefan.
Može li AI Akt Europske unije naći ravnotežu između regulacije i poticanja inovacija?
Previše tereta za domaće tvrtke?
Deloitte upozorava da bi u sljedeće dvije godine u EU moglo doći do određene regulatorne neujednačenosti. To znači da bi isti AI sustav mogao biti različito nadziran ovisno o državi članici. Sličnu situaciju Europa je već vidjela s GDPR-om, gdje su neke države bile strože, a neke fleksibilnije u tumačenju pravila, prisjeća se Stefan.
Najpoznatija svjetska IT regulatorica: U EU ne gušimo inovacije, nego reguliramo primjenu!
Zabrinutost dijela domaće IT zajednice izazvale su i nedavne izmjene Kaznenog zakona, kojima je uvedeno novo kazneno djelo dovođenja u opasnost života i imovine uporabom sustava umjetne inteligencije koje glasi:
Tko u razvoju, testiranju, provjeri, nadzoru, upravljanju ili uporabi sustava umjetne inteligencije izazove opasnost za život ili tijelo ljudi ili za imovinu većeg opsega, kaznit će se kaznom zatvora od šest mjeseci do pet godina.
Iako je ideja ove odredbe obuhvatiti situacije u kojima AI sustavi poput robota ili autonomnih vozila uzrokuju štetu ili ozljede, nameće se pitanje odgovornosti: mogu li u takvim slučajevima biti kažnjeni developeri koji razvijaju modele, tvrtke koje ih implementiraju, organizacije koje ih koriste ili svi zajedno?
Zato dio stručnjaka upozorava da široko postavljen kaznenopravni okvir može stvoriti određenu razinu pravne nesigurnosti, osobito za tvrtke koje razvijaju ili testiraju nove AI proizvode. Istraživački i razvojni projekti, koji često uključuju eksperimentiranje i prototipiranje, mogli bi se naći u sivoj zoni ako nije jasno gdje završava tehnološki rizik, a gdje počinje pravna odgovornost.
AI2Future: Ima li umjetna inteligencija šanse zablistati uz europsku birokraciju?
U takvom okruženju tvrtke bi mogle postati opreznije pri razvoju ili testiranju novih AI rješenja, a investitori s dodatnom pažljivošću procjenjivati regulatorni okvir prije donošenja odluka o ulaganjima jer ako svaki inženjer može završiti u zatvoru zbog toga što je razvijao novi AI sustav, zašto bi se uopće time bavio?
Problem je što zakon ne razlikuje jasno eksperimentalni razvoj od stvarne štete. AI sustavi uključuju testiranje, pogreške i iteracije. Ako kazneni okvir postane preširok, postoji rizik da se tehnološki rizik počne tretirati kao kaznena odgovornost.
Tko će biti hrvatski AI regulator?
Pri formuliraju zakona, države članice odlučivale su se za različita rješenja: od komunikacijskih regulatora i agencija za digitalizaciju do posebnih AI tijela. Čak devet zemalja nadzor je povjerilo regulatorima iz sektora komunikacija, dok su neke osnovale nova, specijalizirana tijela. U Hrvatskoj se zasad spominje jačanje postojećih institucija i njihova koordinacija, bez osnivanja novog regulatora, što bi moglo biti rizično, upozorava naš sugovornik:
Svaka fragmentacija regulatornog i tržišnog nadzora nad usklađenošću s Uredbom o umjetnoj inteligenciji neminovno vodi prema različitim tumačenjima, neujednačenoj praksi i regulatornoj neusklađenosti.
Posljedice toga su, tumači, pravna nesigurnost i dodatni troškovi za poduzetnike:
Sustav u kojem HAKOM tumači Uredbu o umjetnoj inteligenciji na jedan način, AZOP na drugi, a HANFA na treći, objektivno nije sustav koji potiče inovacije.
Ako jedan regulator nešto smatra visokorizičnim AI sustavom, a drugi ima blaže tumačenje, poduzetnik se može naći u situaciji da ne zna kome zapravo odgovara. Ako dvije institucije imaju različite zahtjeve za dokumentaciju ili procjenu rizika, tvrtka mora ispunjavati oba seta očekivanja. To znači više vremena, više pravnih savjeta, više troškova u već problematičnom pravnom sustavu.
Provede li se Uredba na taj način, lako bi se mogla dogoditi da domaći AI startupi troše više energije na regulatornu birokraciju nego na razvoj vlastitog proizvoda, što je scenarij koji ne ide u prilog nikome.
