Europsko vijeće odobrilo AI akt! Za oko mjesec dana stupa na snagu

Europsko vijeće odobrilo je AI akt, zakon čiji se pristup temelji na regulaciji rizika koji dolazi s korištenjem umjetne inteligencije u različitim područjima ljudskog djelovanja. Podsjećamo kako se radi o prvom zakonu ove vrste u svijetu i kako je moguće da će postati globalni standard za regulaciju AI-a.

Cilj mu je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području.

Pravila za umjetnu inteligenciju utvrđena su na temelju njezinih potencijalnih rizika i razine učinka. Uredbom su definirane regulatorne mjere za umjetnu inteligenciju opće namjene; ograničenja upotrebe sustava za biometrijsku identifikaciju u svrhu kaznenog progona; zabrana društvenog vrednovanja građana i upotrebe umjetne inteligencije za manipulaciju ili iskorištavanje ranjivosti korisnika te pravo potrošača na ulaganje pritužbi i dobivanje smislenih objašnjenja o sustavima koje pogoni AI.

Definirane 4 kategorije rizika

Kako bi Europska unija postigla sigurno, transparentno, etično i nepristrano korištenje umjetne inteligencije, tako su odlučili podijeliti AI sustave u četri kategorije rizika.

Sustavi umjetne inteligencije koji predstavljaju ograničeni rizik bit će podložni vrlo blagim obvezama transparentnosti, dok će visokorizični sustavi biti podložni nizu zahtjeva i obveza za dobivanje pristupa tržištu EU-a.

Sustavi umjetne inteligencije poput, primjerice, kognitivne bihevioralne manipulacije i socijalnog bodovanja bit će zabranjeni u EU jer se njihov rizik smatra neprihvatljivim. Zakon također zabranjuje korištenje umjetne inteligencije za prediktivni rad policije na temelju profiliranja i sustava koji koriste biometrijske podatke za kategorizaciju ljudi prema određenim kategorijama kao što su rasa, vjera ili seksualna orijentacija.

Također, AI opće namjene (GPAI) koji ne predstavljaju sistemske rizike podliježu ograničenim zahtjevima u pogledu transparentnosti, ali oni sa sistemskim rizicima morat će se pridržavati strožih pravila.

Dobivamo i 4 upravna tijela

Kako bi se osigurala pravilna provedba, uspostavljeno je nekoliko upravnih tijela:

• Ured za umjetnu inteligenciju unutar Komisije za provedbu zajedničkih pravila diljem EU-a;
• Znanstveni panel neovisnih stručnjaka za potporu provedbi akta;
• Odbor za umjetnu inteligenciju s predstavnicima država članica koji će savjetovati i pomagati Komisiji i državama članicama u dosljednoj i učinkovitoj primjeni zakona;
• te Savjetodavni forum za zainteresirane strane za pružanje tehničke ekspertize Odboru za umjetnu inteligenciju i Komisiji.

Što se tiče novčanih kazni, one se određuju se kao postotak globalnog godišnjeg prometa tvrtke u prethodnoj financijskoj godini ili kao unaprijed određeni iznos. Mala i srednja poduzeća i novoosnovana poduzeća podliježu proporcionalnim administrativnim kaznama.

Kada akt stupa na snagu?

Nakon što zakon potpišu predsjednici Europskog parlamenta i Vijeća, zakonodavni akt bit će objavljen u Službenom listu EU-a za sljedećih nekoliko dana i stupit će na snagu dvadeset dana nakon ove objave. Nova uredba primjenjivat će se dvije godine nakon stupanja na snagu, uz neke iznimke za posebne odredbe.