Može li EU spriječiti AI da te zamijeni? Potrudit će se, poručuje von der Leyen

Hoće li nam AI uzeti poslove, odlučivati umjesto nas i pretvoriti liječnike u robote? Ursula von der Leyen to naravno ne želi i zato je u svom ovogodišnjem govoru o stanju Europske unije umjetnu je inteligenciju stavila među ključne tehnologije za budućnost Europe.

Usprkos tome, naglasila je kako AI treba osnažiti, a ne zamijeniti ljude.

Dotaknula se i rizika sve sposobnijih AI modela, potrebe za europskom računalnom infrastrukturom i njihovoj primjeni u industriji, zdravstvu i drugim sektorima. No kroz cijeli se govor provlači ista nit: Europa želi iskoristiti potencijal AI-ja za gospodarstvo, produktivnost i kvalitetu života, ali čovjek pritom mora ostati onaj koji donosi odluke.

Upravo je taj odnos između potencijala i rizika, odnosno pitanje human agencyja, jedna od ponavljajućih poruka njezina govora o umjetnoj inteligenciji.

Sve sposobniji modeli donose i nove rizike

Ursula je posebno govorila o takozvanim frontier modelima, odnosno najnaprednijim modelima umjetne inteligencije. Kako oni postaju sposobniji, rizici postaju sve izraženiji. Jedan od njih je mogućnost kibernetičkih napada na razini kakvu dosad nismo vidjeli, pri čemu bi takvi modeli mogli završiti i u rukama protivnika koji imaju drukčije interese.

Posebno je upozorila na modele koji se mogu samostalno poboljšavati. Kao primjer novih rizika spomenula je incidente u kojima su AI agenti napuštali svoje predviđeno okruženje ili ubacivali zlonamjerni kod.

Pozvala se i na incident povezan s Hugging Faceom, kada su autonomni AI agenti koje je OpenAI koristio u internom sigurnosnom testiranju uspjeli su zaobići predviđene zaštitne mehanizme, pristupiti internetu i kompromitirati dio infrastrukture Hugging Facea. Dodala je da čelnici najnaprednijih AI kompanija govore o potrebi usporavanja razvoja frontier modela.

Zbog toga Ursula AI Act vidi kao važan instrument za postavljanje sigurnosnih okvira ove tehnologije. Istodobno najavljuje suradnju s partnerima poput Kanade i Ujedinjenog Kraljevstva na evaluaciji i verifikaciji modela, sustavima ranog upozoravanja i AI sigurnosti.

Iz Strasbourga: AI akt prošao “sud” EU parlamenta, koje novosti očekuju korisnike, inovatore i developere?

Europa želi ostati u AI utrci

Usprkos upozorenjima, Ursula ne podržava usporavanje razvoja umjetne inteligencije. Smatra da Europa mora razviti vlastite kapacitete, posebno zbog nacionalne sigurnosti. Zato najavljuje veliko povećanje europskih računalnih kapaciteta te nove načine korištenja javnog i privatnog kapitala za ulaganje u europske startupe i kompanije. Ipak, ona nas ne vidi kao one koji ravijaju frontier modele:

Ne moramo biti oni koji razvijaju frontier tehnologiju da bismo bili oni koji iz nje izvlače najveću vrijednost. Ključ je u stvaranju vrijednosti koju AI još nije donio. U prebacivanju AI-ja sa zaslona u stvarno gospodarstvo i društvo. U tvornice, bolnice, poljoprivredu, energetske mreže, autonomnu vožnju i obranu.

Drugim riječima, europska AI strategija usredotočena je primjeniti umjetnu inteligenciju u svoje spomenute najsnažnije industrije. Za ta područja najavila je nove inicijative koje bi trebale biti predstavljene u studenom.

AI kao pomoć liječniku, a ne zamjena

Jedan od konkretnih primjera koje je Ursula ponudila odnosi se na zdravstvo. Govorila je o mamografiji i mogućnosti da sustavi potpomognuti AI-em ranije identificiraju veći broj slučajeva raka. Primjer zdravstva koristi i kako bi objasnila što podrazumijeva pod europskim pristupom umjetnoj inteligenciji:

Želim li da moj liječnik ima trenutačan pristup svim podacima potrebnima za donošenje najbolje dijagnostičke ili terapijske odluke? Da, naravno.

Želimo AI s ljudskim djelovanjem

Europski pristup Ursula sažima u nekoliko ciljeva. Europa želi AI koji odgovorno stvara više vrijednosti uz niže troškove i manju potrošnju energije, ali uz jedan uvjet:

Iznad svega želimo umjentu inteligeniju u kojoj čovjek donosi odluke.

U tom kontekstu human agency odnosi se na zadržavanje ljudske sposobnosti da donosi odluke i djeluje, umjesto da se odlučivanje jednostavno prepusti sustavima umjetne inteligencije.

Ursula upozorava da se koristi AI-ja neće jednako rasporediti među različitim skupinama radnika, generacijama i regijama. AI nekima može pomoći da ubrzaju repetitivne zadatke i bolje koriste svoje vještine, ali Europa, prema njezinim riječima, mora osigurati da tehnologija doprinese razvoju vještina i kvaliteti radnih mjesta. U tom kontekstu najavila je i Quality Jobs Act, koji bi trebao biti predstavljen do kraja godine.

Europski pristup umjetnoj inteligenciji tako se temelji na nekoliko paralelnih ciljeva koji uključuju razvijanje vlastitih računalnih kapaciteta, ulaganju u europske kompanije, primjeni AI-ja u industriji i javnim uslugama te postavljanju zaštitnih mehanizama za najnaprednije modele.