Europski parlament službeno je usvojio Akt o umjetnoj inteligenciji - što to znači?
Fred MARVAUX/ European Union; EP

Europski parlament službeno je usvojio Akt o umjetnoj inteligenciji – što to znači?

Europski zastupnici usvojili su s današnjim datumom Akt o umjetnoj inteligenciji s 523 glasova za, 46 protiv i 49 suzdržanih.

Akt o umjetnoj inteligenciji dogovoren na pregovorima s državama članicama u prosincu 2023. usvojen je danas u Strasbourgu. Cilj mu je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području.

Pravila za umjetnu inteligenciju utvrđena su na temelju njezinih potencijalnih rizika i razine učinka. Uredbom su definirane regulatorne mjere za umjetnu inteligenciju opće namjene; ograničenja upotrebe sustava za biometrijsku identifikaciju u svrhu kaznenog progona; zabrana društvenog vrednovanja građana i upotrebe umjetne inteligencije za manipulaciju ili iskorištavanje ranjivosti korisnika te pravo potrošača na ulaganje pritužbi i dobivanje smislenih objašnjenja o sustavima koje pogoni AI.

Koje su zabranjene primjene?

Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje.

Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, društveno vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.

Iznimke se odnose na potrebe kaznenog progona

Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane.

Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograničena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada.

Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.

Koje obveze imaju oni koji razvijaju i upravljaju visokorizičnim sustavima?

Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava).

Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore).

Za takve sustave treba osigurati:

  • procjenu i ublažavanje rizika,
  • vođenje evidencije upotrebe,
  • transparentnost i preciznost te
  • ljudski nadzor.

Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.

Što je sa sustavima opće namjene?

Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za treniranje modela.

Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje tih rizika te prijavljivanje incidenata.

Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.

A poticanje inovacija?

Iz Strasbourga su na ovu temu naveli da treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti startup tvrtkama te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.

“Čeka nas još mnogo posla koji nadilazi sam Zakon o umjetnoj inteligenciji”

Koncept umjetne inteligencije utkali smo u temeljne vrijednosti koje čine osnovu naših društava, izjavio je povodom izglasavanja Akta suizvjestitelj Odbora za građanske slobode Dragos Tudorache (Renew, Rumunjska).

Međutim, predstoji mnogo posla koji nadilazi sam Zakon o umjetnoj inteligenciji. Umjetna inteligencija će nas potaknuti da preispitamo društveni ugovor koji je u srcu naših demokracija, naše obrazovne modele, tržišta rada i način na koji vodimo rat. Zakon o umjetnoj inteligenciji polazište je za novi model upravljanja izgrađen oko tehnologije. Sada se moramo usredotočiti na provođenje ovog zakona u praksi.

Kad Akt o umjetnoj inteligenciji stupa na snagu?

Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka). Vijeće ju također treba službeno usvojiti.

Stupit će na snagu dvadeset dana nakon objave u Službenom listu Europske unije i počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu).

Više informacija možete saznati u obraćanju novinarima:

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Prikaz

Native Teams u Hrvatskoj: Kako olakšavaju brigu o porezima, doprinosima i zapošljavanju u inozemstvu?

Native Teams, platforma za freelancere i digitalno plaćanje koju globalno koristi gotovo sto tisuća ljudi, u Hrvatsku je stigla prije dvije godine. Otkrivamo kako im je izgledalo širenje na regiju te što su u međuvremenu nova uveli.

Zabava i zanimljivosti

Hrvati napokon mogu glasati elektronski, i to zahvaljujući Samu Altmanu (i botovima)

Već niz godina naklapa se i navija za uvođenje elektronskog glasanja u Hrvatskoj. Ako nismo tijekom pandemije koronavirusa, kad ćemo, pitaju se mnogi. Ova superizborna godina, u kojoj nas čekaju parlamentarni, europski i predsjednički izbori jedina je još sila (ne)prilika koja bi mogla nagnati Državno izborno povjerenstvo da poduzmu mjere po tom pitanju.

Digitalni marketing

“Želim samo logo za svoj brend” je kao naručivanje hrane bez soli i začina

U dinamičnom svijetu poslovanja, gdje nam se svakodnevno servira tona sadržaja i reklama i gdje se prvi dojam često stvara jednim pogledom – dobro osmišljen logotip izuzetno je važan. Međutim, put kroz brendiranje ide daleko izvan stvaranja logotipa.

Što ste propustili

Startupi

Tim MediBoost pobjednik je inovacijskog natjecanja AI4Health.Cro

U natjecanju je sudjelovalo 28 timova, od kojih je 10 ušlo u veliku završnicu te dobilo priliku natjecati se za prve tri nagrade, a pobjedu je odnio tim MediBoost.

Intervju

Moran Cerf: Vrijeme je da marketinška industrija uporabi alate koje su neuroznanstvenici stvorili!

Moran Cerf znanstvenik je koji je revidirao protokol lansiranja nuklearnog oružja, a na Danima komunikacija najavio je marketing budućnosti – marketing u našim snovima. I nije riječ o sanjarenju!

FinTech

Regulativa vs. korisničko iskustvo: Kako banke identificiraju korisnike na daljinu?

Pravilnikom Ministarstva financija o uvođenju novih klijenata u bankarski sustav industrija je zadovoljna, ali kako provjeriti identitet klijenta na daljinu - i dalje ostaje veliki problem za banke.

Novost

Cancel kultura: Tko (ni)je dosad otkazan?

U novoj epizodi podcasta komentiramo dvije prilično kontroverzne teme - otkazivanje i politiku.

Analiza

SDP najviše potrošio na digitalno oglašavanje od stranaka, a od pojedinaca – Andrej Plenković

Dan prije izborne šutnje predstavljamo vam tko je bio najglasniji, barem što se tiče trošenja novca, na internetu.

Analiza

E-glasovanje: Dobro za malu Estoniju i veliki Brazil, ali ne i za Hrvatsku. Zašto?

Iako ima više razloga zašto bi ga trebalo modernizirati, izborni je proces u Lijepoj našoj i dalje jedno od čvrstih uporišta otporu digitalizaciji.