Najpoznatija svjetska IT regulatorica: U EU ne gušimo inovacije, nego reguliramo primjenu!

Kada u Netokraciji govorimo o temama u kojoj se sijeku digitalno i Europska unija, uvijek pokušavali pronaći dogovore na tri pitanja:

1. Koliko ima smisla novčano kažnjavati Big Tech?
2. Postiže li AI akt ravnotežu između regulacije i inovacija?
3. Kako EU, kao jedna spora institucija, namjerava biti u koraku s tehnologijom?

Odgovore na njih dobili smo u nedavnom posjetu Europskoj komisiji, i to od političarke koja nosi reputaciju “najpoznatije svjetske regulatorice” i “najmoćnije antimonopolske tužiteljice zapadnog svijeta”. Govorimo o Margrethe Vestager, izvršnoj potpredsjednici Europske komisije za Europu prilagođenu digitalnom dobu.

Kazne su važne jer narušavaju reputaciju

Europska unija iz godine u godinu sve više kažnjava Big Tech sa sve većim i većim novčanim kaznama. Kažnjavali su Google, Metu, Amazon, Apple s milijunima i milijardama. Ipak, što Appleu znači kazna od 1,84 milijarde iz ožujka ove godine kada sama tvrtka vrijedi 3 bilijuna. Što nam je tek misliti kada znamo da je Apple još 2021. godine počeo ostvarivati prihode od 1 milijarde po danu!

Margrethe smatra kako je to legitimna opservacija, ali naglašava da se kazne koje EU može izdati mogu odnositi samo na određeno tržište na kojem je prepoznato određeno nezakonito ponašanje:

Dakle, za najnoviji slučaj Applea, gdje smo im dali kaznu od 1,84 milijarde eura, radi se o specifičnom tržištu aplikacija za streaming glazbe, što je mali dio svega što Apple kao tvrtka jest. Svrha kazne je kazniti ilegalno ponašanje na tržištu, a tvrtke moraju pronaći način da isprave svoje ilegalne prakse.

Kazne su važne, ističe Margrethe, posebno kad dođu do sudske razine. U konačnici, ono što tim tvrtkama predstavlja najveći problem kada EU daje novčanu kaznu, slika je koja se stvara o njima:

Mislim da je jedna od stvari koju Big Tech tvrtke smatraju problematičnom – šteta njihovom ugledu – to je etiketa o gigantskoj tvrtki koja je učinila nešto protuzakonito.

Postiže li AI akt ravnotežu između regulacije i inovacije?

Jedno od temeljnih pitanja, kada se stvarao AI akt, bila je problematika gušenja inovacija, a nekoliko domaćih stručnjaka već je izrazilo zabrinutost. Ipak, Margrethe ističe kako je zapravo nemoguće da akt utječe na istraživanje i razvoj umjetne inteligencije:

Istraživanje i razvoj možete raditi kako god želite, ali tek kada svoj AI stavljate u upotrebu onda se na vas primjenjuje AI akt.

Botovi spadaju u kategoriju tehnologije koja predstavlja ograničeni rizik i ovdje AI akt zahtijeva transparentnost. Ako koristite AI u korisničkoj službi, potrebno je naglasiti ljudima da razgovaraju s botom. Ipak, postoje i kompleksniji slučajevi, objašnjava nam Margrethe:

Prije par godina dogodio se slučaj u Nizozemskoj gdje su koristili AI za raspodjelu socijalnih benefita i iz nekog razloga algoritam je preferirao ljude koji žive na jednom određenom poštanskom broju. Znači, on uopće nije donosio odluke na temelju tko treba socijalnu pomoć.

U ovakvim slučajevima AI akt traži od vas da osigurate način provjere daje li algoritam točne rezultate. Jedan od tih načina je prisutnost čovjeka u procesu. U Danskoj je nedavno jedan algoritam treniran na 76.000 zdravstvenih kartona pacijenata s rakom debelog crijeva. Ovakvi podaci mogu uvelike pomoći doktorima, ali neće pomoći ako nisu dobro trenirani, navodi Margrethe:

U Danskoj imamo umjetnu inteligenciju za pomoć pri odgovaranju na hitne pozive, ali pokazalo se kako algoritam nije uvježban da prepozna simptome koji se razlikuju kod muškaraca i žena u nekim od životno vrlo opasnih situacija.

U svakom slučaju Margrethe smatra kako je ravnoteža postignuta, ali ono što Europi nedostaje u kontekstu inovacija su financije. Imamo razne inovativne startupe koji trebaju ulaganja kako bi skalirali svoja poslovanja. Potrebna nam je milijarda, a pronaći takvu svotu na tržištu kapitala kakvog imamo u Europi jako je teško, ističe Margrethe:

Mislim kako nije AI akt barijera za inovacije u Europi, već manjak financija i ljudi koji znaju kako privući kapital.

Može li EU biti u koraku s razvojem umjetne inteligencije?

Europska unija nikada nije htjela regulirati tehnologiju, već regulirati kako koristimo tehnologiju. Zato je AI akt osmišljen, kako bi obuhvaćao i kvantnu tehnologiju u budućnosti, dodaje Margrethe.

Ako imate kvantnu aplikaciju koju koristite u zdravstvene svrhe ili kako bi ljudi dobili osiguranje i dalje ćete se morati držati AI akta.

Kako se tehnologija neprestano razvija i neprestano dobivamo nove verzije aplikacija, Europska unija odlučila se usredotočiti na use caseove, a ne na samu tehnologiju. Naravno, neki dijelovi akta dotiču se tehnologije – posebno kada govorimo o podacima na kojima se smije trenirati algoritam kako bi AI bio kredibilan. Pored toga, EU se suzdržava od reguliranja tehnologije, zaključuje Margrethe.

Podsjećamo kako je Europski parlament službeno usvojio Akt o umjetnoj inteligenciji sredinom ožujka, ali zakon još moraju pregledati pravnici lingvisti.

Uz to, akt još mora usvojiti i Europsko vijeće. On se počinje primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene, uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).