Zašto Hrvatska kasni s AI aktom godinu dana?

Protresli smo brojne teme – od globalne utrke za AI premoć, preko kineskog modela suradnje države i privatnog sektora, tehnološke neovisnosti Europe, regulativa u pripremi i provedbi do potpune digitalizacije igara za Playstation.

Prvo je dojmove nakon nedavnog posjeta Kini s nama podijelio odvjetnik i član Nadzornog odbora CroAI-ja Stefan Martinić. Svoja zapažanja o ‘čikama iz Partije’, odnosno neodvojivosti tehnološkog sektora i države nadopunio je i opažanjima iz hrvatske AI stvarnosti u kojoj još nema dediciranog regulatora za provođenje AI akta.

Potom smo razgovarali s europskom povjerenicom za tehnološki suverenitet, sigurnost i demokraciju Hennom Virkkunen o inicijativi za jačanje digitalnog suvereniteta, ali i drugim novitetima na kojima radi Europska komisija. Neki od njih uključuju i razgovore s vladom o hrvatskoj AI tvornici, najave novog europskog fonda za scaleupove te pojednostavljenje pravila vezanih uz GDPR, umjetnu inteligenciju i kibernetičku sigurnost.

Ne sluša vam se ili ne gleda? Zahvaljujući AI-ju, donosimo najvažnije momente!

Marin: Vratio si se iz Šangaja s edukacije na Shanghai AI Research Instituteu. Što te se najviše dojmilo u kineskom pristupu?

Stefan: Ako mogu sumirati u dvije točke. Prva je količina poduzetničkih centara, inkubatora, malog i srednjeg poduzetništva i velikih kompanija. To je metropolitansko područje od 30 milijuna stanovnika, i dolazeći iz Hrvatske, osjećao sam se mali suočen s tom brojnošću. A druga stvar je suradnja privatnog i javnog sektora, nazovimo to tako, jer na svakom drugom sastanku na koji smo išli u AI tvrtke, bio je prisutan čika iz Komunističke partije. I kad bih postavljao pitanje je li bio moguć taj uspjeh privatnog kineskog sektora bez pomoći Partije, kao da nisu razumjeli moje pitanje.

Marin: Ne mogu to odvojiti.

Stefan: Da, to je fact of life, da je nužna Komunistička partija pored tog privatnog sektora. I tu mi je dojam da kada naše tvrtke konkuriraju s Kinom, to nije utrka jedan na jedan, nego realno jedan na dva. Puno su im veće porezne olakšice, subvencije, investicije u poduzetničke centre. To je neravnopravna bitka u kojoj Europa sve više zaostaje.

AI akt nije strašan

Marin: Misliš li da je europski AI akt previše restriktivan, pogotovo nakon što si vidio kineski primjer?

Stefan: Čak bih rekao da možda i nije toliki problem u aktu. Veće pitanje bit će kako će postupati hrvatski regulator, jer primjena uredbe je decentralizirana, svaka država članica ima svoga regulatora. Hrvatska još uvijek ne zna tko će to biti. Ima nekih šuškanja, ali ključno je odabrati ljude sa šarolikim backgroundom, pravnike i ljude tehničke struke, koji će znati interpretirati propis na način da se štite građani i da se ne ubiju inovacije.

Marin: A što akt zapravo propisuje?

Stefan: Uredba se bazira na rizičnosti. Ako se AI koristi u zapošljavanju, obrazovanju, postupku za dobivanje azila, sudstvu ili medicini, može se klasificirati kao visokorizičan i onda ima cijela paleta pravnih obveza. Ako ne spada pod to, obveze su faktički nikakve ili jedina obveza je transparentnost, da se jasno da do znanja da ne razgovarate s ljudskom korisničkom službom nego s AI-jem.

Hrvatska kasni godinu dana

Marin: Ti si član radne skupine Ministarstva pravosuđa za provedbu AI uredbe. Gdje smo u tom procesu?

Stefan: Sad ću ih malo pecnut, ali ću ih odmah opravdati. Hrvatska je još u kolovozu prošle godine trebala donijeti zakon o provedbi europske uredbe o umjetnoj inteligenciji. Ovo snimamo 13. srpnja 2026. i to se još nije dogodilo. Argument u prilog ministarstva je da je EU razmatrala što će se dogoditi s Digitalnim omnibusom koji ide za tim da malo olakša pravila, pa je Zagreb htio pričekati što će Bruxelles odlučiti. Ali mislim da sad više nemamo izlika i da se u skoro vrijeme treba izraditi zakon koji će jasno reći tko će biti regulator, kako ga opremiti, hoće li imati dovoljno resursa i što će biti s regulatornim pješčanicima.

Svaka hrvatska tvrtka ovo mora napraviti odmah

Marin: Ako žele ozbiljno razvijati i koristiti AI, što hrvatske tvrtke moraju napraviti?

Stefan: GDPR, GDPR, GDPR. Mnogo AI sustava barata osobnim podacima i ta zaštita i dalje je na snazi. Moraju pažnju obratiti na GDPR! AZOP je jako aktivan regulator koji se hvali da je šesti u EU po izdanim kaznama, a mi nismo šesto po veličini tržište.

Europski tehnološki suverenitet

U drugom dijelu podcasta, gošća nam je bila povjerenica Europske komisije za tehnološki suverenitet, sigurnost i demokraciju Henna Virkkunen. Ovaj sadržaj donosimo u suradnji s Europskom komisijom.

Ivan: Europska komisija nedavno je predstavila paket mjera kojima želi ojačati europske kapacitete u području poluvodiča, umjetne inteligencije, računalstva u oblaku i otvorenog koda. Koji je cilj tih mjera?

Henna: Na globalnoj razini svjedočimo vrlo snažnoj konkurenciji u tim tehnološkim područjima. Europa je oduvijek bila otvorena za međunarodna ulaganja, no danas vidimo da se globalne ovisnosti i opskrbni lanci mogu iskoristiti protiv nas ako smo previše ovisni o jednom rješenju, jednoj trećoj zemlji ili jednoj tehnološkoj kompaniji.

Zato nam je važno razviti vlastite kapacitete u ključnim sektorima kako bismo smanjili rizične ovisnosti. Želimo sami odlučivati kako ćemo poslovati i s kim ćemo surađivati, ali istodobno imati i vlastite sposobnosti u strateškim područjima.

Ivan: Ako Europa želi biti tehnološki suverena, znači li to da sve mora raditi sama?

Henna: Ne, ne znači. Poanta nije u izolaciji, nego u tome da Europa razvije vlastite mogućnosti u sektorima koji su ključni za budućnost. Ako smo previše ovisni o jednom rješenju, jednoj državi ili jednoj tehnologiji, to postaje problem. Zato moramo graditi kapacitete u AI-ju, čipovima, cloudu i open sourceu, kako bismo imali izbor i veću otpornost.

Ivan: Znači cilj nije zatvoriti tržište, nego ojačati ga iznutra?

Henna: Upravo tako. Ne planiramo sve raditi sami, ali želimo da Europa bude dovoljno snažna da naši startupovi mogu rasti ovdje. Trenutno nam velik dio tehnologije dolazi izvana, a ako želimo dugoročno biti konkurentni, moramo stvoriti uvjete u kojima domaće tvrtke mogu razvijati rješenja i dobiti bolje uvjete financiranja.

AI tvornica u Hrvatskoj

Ivan: Jedna od važnih inicijativa su AI tvornice. Europska unija ulaže u njih diljem Europe i trenutačno ih je planirano 19. Naknadno je bilo riječi i o AI tvornici u Hrvatskoj. Kako ide to?

Henna: U Hrvatskoj postoji plan za uspostavu nacionalne AI tvornice, a radimo i na tome kako Hrvatsku povezati s europskom mrežom superračunala i AI tvornica. Razgovaramo s hrvatskom vladom o tome.

Pojednostavljivanje regulativa

Ivan: Europske tehnološke tvrtke upozoravaju da ih opterećuje regulatorni okvir Europske unije. Može li se to pojednostaviti, osobito za startupove?

Henna: To je jedan od prioriteta Europske komisije. Predložila sam dva paketa pojednostavljenja, takozvana omnibus paketa. Jedan se odnosi na Akt o umjetnoj inteligenciji i već je usvojen u državama članicama i Europskom parlamentu.

Sada pripremamo novi paket koji obuhvaća pravila o zaštiti podataka (GDPR) i obveze izvješćivanja u području kibernetičke sigurnosti. Želimo pojednostaviti i razjasniti pravila, osobito kada je riječ o podacima i GDPR-u.

Novi scaleup fond i jedinstveno tržište

Ivan: Kako ćete olakšati poslovanje startupovima?

Henna: U EU danas djeluje više od 55.000 startupova i scaleupova. Usredotočeni smo na dva ključna područja. Prvo je pristup financiranju. Uskoro pokrećemo europski fond za scaleup tvrtke koji će startupovima olakšati prikupljanje kapitala za širenje poslovanja.

Drugo područje odnosi se na regulativu i jedinstveno tržište. Zato smo predložili takozvani 28. režim, europski korporativni okvir koji bi omogućio da tvrtku osnujete u bilo kojoj državi članici, ali prema jedinstvenom europskom zakonodavstvu poslujete na cijelom tržištu Europske unije. Na taj način želimo tvrtkama olakšati poslovanje na jedinstvenom tržištu te pristup financiranju.

FLOP: Kraj ere PlayStation igara na disku

Ivan: Moj flop je to što će Sony prijeći na izdavanje digitalnih verzija videoigrica do 2028. godine. To je zapravo otvorilo jako puno pitanja o tome što se događa s igrama koje su korisnici kupili, ako ih platforma jednog dana odluči ukloniti ili ako izgubimo pristup računu. Tu je zabrinutost izazvala odredba u europskim uvjetima korištenja Playstation računa koja nalaže da pri neaktivnosti i nekorištenju Playstation računa unutar 36 mjeseci Sony ima pravo obrisati naš račun i ukloniti ga.

Marin: Ne sviđa mi se ta informacija. To je ona stara rasprava o tome što zapravo znači “kupiti” nešto online. U mnogim slučajevima ne posjedujemo ono što smo platili, već samo pravo korištenja koje nam platforma u konačnici može ukinuti.

TOP: AI pronašao Linuxu bug koji je 15 godina bio skriven

Marin: Moj top je da je Linux uz pomoć AI-ja uspio pronaći bug koji je bio skriven 15 godina, prisutan još od 2011., a mogao je napadaču omogućiti stjecanje administratorskih ovlasti. Ni developeri ni cyber security stručnjaci ga nisu mogli naći, ali AI jest. Ovo je jedan od načina na koji se AI može koristiti u dobre svrhe.

Ivan: Moj top je Steam. Prema procjenama analitičara Simona Carlsa, Steam je dosegao više od 200 milijuna mjesečno aktivnih korisnika, dok Sony i njegov PlayStation broji oko 125 milijuna. Steam je 2018. imao oko 90 milijuna. Sonyjev najavljeni prelazak na isključivo digitalne igre otvara pitanje zašto bi igrači ostali vezani uz PlayStation platformu ako iste ili veće mogućnosti mogu dobiti na Steamu. Ironično je doduše da je Steam taj koji je predvodio digitalizaciju gaming tržišta, a sada taj isti val Sony koristi kao argument za ukidanje fizičkih diskova dok Steamu raste popularnost.