Jedna rečenica marketinga može vaš AI sustav pretvoriti u regulatorni rizik

Nacrt vodiča Europske komisije za klasifikaciju visokorizičnih AI sustava objavljen je u svibnju ove godine. Tržište je od njega očekivalo jasan odgovor na pitanje gdje je, prema Aktu o umjetnoj inteligenciji (AI Act), granica između “običnog” AI alata i visokorizičnog AI sustava.

Nakon analize više od 150 stranica, moj je zaključak da je Komisija uspjela razjasniti neka važna pitanja, ali je istodobno otvorila potpuno novu dilemu: hoće li o regulatornom statusu AI sustava ubuduće više odlučivati marketing nego sama tehnologija?

To možda zvuči pretjerano, ali kada pročitate Vodič, postaje jasno zašto tako mislim. Jedna rečenica u uputama za uporabu, primjer primjene u prodajnoj prezentaciji ili nova funkcionalnost dodana postojećem AI alatu mogu biti dovoljni da sustav prijeđe regulatornu granicu i postane visokorizičan.

U praksi, klasifikacija AI sustava često neće ovisiti o tome što sustav tehnički jest, nego o tome kako je predstavljen, kome je namijenjen i u kojem se regulatornom kontekstu koristi. Upravo zato pitanje klasifikacije postaje jedno od najvažnijih, ali i najneizvjesnijih pitanja primjene AI akta.

Zašto Hrvatska kasni s AI aktom godinu dana?

Kako AI akt procjenjuje rizik?

Prvo, Akt o umjetnoj inteligenciji ne funkcionira po načelu „opasna tehnologija = stroža pravila”.

On uvodi dvije neovisne osnove za klasifikaciju sustava kao visokorizičnog.

Prva se odnosi na AI koji predstavlja proizvod ili sigurnosnu komponentu proizvoda obuhvaćenog usklađenim zakonodavstvom EU-a iz Priloga I., pod uvjetom da za taj proizvod postoji obvezna procjena sukladnosti.

Druga obuhvaća AI sustave čija je namjena jedno od područja navedenih u Prilogu III., poput zapošljavanja, obrazovanja, kreditnog ocjenjivanja ili upravljanja kritičnom infrastrukturom.

Ono što je meni bilo posebno zanimljivo jest da Komisija naglašava kako se rizičnost u Aktu o umjetnoj inteligenciji ne temelji na procjeni nastale štete, nego na procjeni regulatorno relevantnog rizika. Međutim, ni svaka hipotetska mogućnost pogreške nije dovoljna. Ključno je pitanje može li konkretna uporaba sustava razumno dovesti do rizika za zdravlje, sigurnost ili temeljna prava pojedinaca.

Drugim riječima, nije presudno što AI sustav može učiniti u teoriji, nego kako se koristi u praksi.

Hrvatske tvrtke ne koriste dovoljno AI. HUP kaže da treba 341 milijun eura da se to popravi

Svrsishodnost kao glavni kriterij

Najvažnija poruka Nacrta, po mom mišljenju, jest da se klasifikacija AI sustava ne određuje isključivo prema njegovim tehničkim karakteristikama. Ključni kriterij postaje njegova svrha (intended purpose).

Iako je taj pojam već definiran u članku 3. stavku 12. Akta o umjetnoj inteligenciji, Komisija mu sada daje znatno šire praktično značenje. Namijenjena svrha ne proizlazi samo iz tehničke dokumentacije, nego i iz načina na koji proizvođač predstavlja sustav – kroz upute za korištenje, ugovore, promotivne materijale, internetsku stranicu i druge javne izjave.

To znači da regulator neće promatrati samo što sustav tehnički može raditi, nego i što proizvođač tvrdi da sustav može ili treba raditi.

Takav je pristup logičan ako se uzme u obzir da AI akt ne regulira tehnologiju kao takvu, nego rizike povezane s njezinom konkretnom primjenom. Isti AI model može ostati izvan režima visokog rizika kada generira marketinške tekstove, ali postati visokorizičan ako se koristi za odabir kandidata za posao ili procjenu kreditne sposobnosti. Presudna nije arhitektura modela, nego svrha za koju se koristi.

Tko odgovara za neistine koje izgovori Googleov AI?

Marketing postaje dio regulatorne dokumentacije

Ovo je dio koji će, vjerujem, izazvati najviše pozornosti među tvrtkama koje razvijaju AI proizvode.

Komisija zauzima stajalište da namijenjena svrha ne proizlazi samo iz formalnih izjava proizvođača, nego iz cjelokupnog načina na koji je sustav predstavljen tržištu. Ako se AI promovira kao rješenje široke primjene u različitim industrijama, a proizvođač jasno i dosljedno ne isključi visokorizične slučajeve uporabe, smatrat će se da njegova namijenjena svrha obuhvaća i takve primjene, ako su one tehnički moguće i razumno predvidive.

Praktična posljedica toga prilično je ozbiljna. Više neće biti dovoljno u općim uvjetima korištenja navesti da je zabranjena uporaba za zapošljavanje, kreditno ocjenjivanje ili druge visokorizične svrhe, ako internetska stranica, prodajna prezentacija ili promotivni materijali upućuju upravo na takvu uporabu.

Marketing tako postaje regulatorno relevantan. Internetske stranice, brošure, tehnička dokumentacija, ugovori s korisnicima i upute za korištenje morat će biti međusobno usklađeni.

To je osobito važno za pružatelje AI sustava opće namjene, koji svoje proizvode često predstavljaju kao univerzalna rješenja za različite industrije. Upravo takvo pozicioniranje može proširiti regulatorni opseg njihove odgovornosti.

Kako je BiH na Svjetskom prvenstvu svima održala lekciju o marketingu

Tko zapravo procjenjuje je li sustav visokorizičan?

Još jedna važna poruka Nacrta vodiča je da početnu procjenu provodi sam proizvođač. On mora imati dokumentaciju kojom dokazuje zašto smatra da njegov sustav jest ili nije visokorizičan, dok nadležna nadzorna tijela zadržavaju pravo naknadno preispitati tu procjenu.

Meni to najviše nalikuje režimu samoprocjene koji postoji i u drugim područjima prava Europske unije. Tvrtka sama mora provesti pravnu analizu i dokumentirati razloge za svoj zaključak, ali time ne dobiva jamstvo da će se regulator s tom procjenom složiti.

U graničnim slučajevima to može postati ozbiljan poslovni problem jer o početnom odgovoru na pitanje „je li sustav visokorizičan?” ovise vrijeme, troškovi i cijeli postupak usklađivanja, uključujući eventualno obraćanje akreditiranom tijelu i registraciju sustava u nadležnom registru.

Kada korisnik postaje proizvođač?

Jedna od tema kojoj sam posvetila najviše pozornosti jest članak 25. AI akta i raspodjela odgovornosti u lancu vrijednosti.

Vodič potvrđuje vrlo široko tumačenje ovog pravila. Status proizvođača ne pripada nužno tvrtki koja je razvila osnovni AI model. Distributer, uvoznik, korisnik ili druga treća osoba mogu preuzeti obveze proizvođača ako stave svoj naziv na visokorizični AI sustav, izvrše njegovu značajnu izmjenu ili promijene njegovu namijenjenu svrhu tako da sustav prvi put postane visokorizičan.

To je osobito važno za generativnu umjetnu inteligenciju i foundation modele. Tvrtka koja koristi postojeći model putem API-ja neće automatski postati proizvođač visokorizičnog sustava. Međutim, ako isti model prilagodi za odabir kandidata za zapošljavanje, procjenu kreditne sposobnosti ili neku drugu visokorizičnu funkciju iz Priloga III., ona može preuzeti status proizvođača, iako nije razvila osnovni model.

Međutim, i dalje ostaje otvoreno pitanje kakav je položaj izvornog proizvođača foundation modela kada nije jasno ograničio visokorizične načine uporabe. Vodič na to ne daje konačan odgovor i smatram da će upravo to biti jedno od najspornijih pitanja u budućoj primjeni Akta o umjetnoj inteligenciji.

Hrvatska kasni s AI aktom, a developeri bi zbog njega mogli završiti i u zatvoru

Nije svaki AI proizvod automatski visokorizičan

U praksi se često može čuti: „Ako proizvod obuhvaćen usklađenim zakonodavstvom koristi umjetnu inteligenciju, onda je visokorizičan.” To jednostavno nije točno.

AI akt ne uspostavlja poseban režim za sve proizvode koji koriste umjetnu inteligenciju. Visokorizični su samo oni AI sustavi koji predstavljaju proizvod ili sigurnosnu komponentu proizvoda obuhvaćenog propisima iz Priloga I., i to samo ako za taj proizvod postoji obvezna procjena sukladnosti prije njegova stavljanja na tržište.

Drugim riječima, visokorizičnost proizlazi iz regulatornog okruženja u kojem se AI koristi, a ne iz same tehnologije.

Komisija se pritom oslanja na logiku dokumenta Blue Guide, koji služi kao smjernica za primjenu pravila Europske unije o proizvodima, te praktično potvrđuje da Akt o umjetnoj inteligenciji nije zamišljen kao zaseban sustav sigurnosti proizvoda, nego kao horizontalni regulatorni okvir koji se nadovezuje na postojeće propise.

To znači da proizvođači medicinskih proizvoda, strojeva ili drugih reguliranih proizvoda neće prolaziti kroz dva potpuno odvojena postupka, nego će se zahtjevi Akta o umjetnoj inteligenciji integrirati u postojeće postupke procjene sukladnosti.

Što je ‘sigurnosna komponenta’?

Jedno od najkorisnijih pojašnjenja odnosi se na pojam safety component. Komisija potvrđuje da je riječ o autonomnom pojmu Akta o umjetnoj inteligenciji te da se ne tumači prema definicijama iz pojedinih sektorskih propisa.

U praksi se uvodi dvostupanjski test. AI predstavlja sigurnosnu komponentu kada ima sigurnosnu funkciju u proizvodu, ali i kada njegova osnovna svrha nije sigurnost, ako bi njegov kvar ili neispravno funkcioniranje mogli ugroziti zdravlje, sigurnost ljudi ili imovinu.

Važno je i to da pojam „kvara” obuhvaća mnogo više od potpunog prestanka rada sustava. U njega su uključeni netočni rezultati, pogrešne klasifikacije, lažno pozitivni i lažno negativni ishodi, degradacija modela te druge nepravilnosti koje mogu dovesti do opasnih posljedica.

No Komisija postavlja i važnu granicu: nije dovoljna bilo kakva mogućnost pogreške, nego samo ona koja u konkretnom kontekstu može dovesti do rizika koje Akt o umjetnoj inteligenciji nastoji spriječiti.

AI se od veljače ne smije koristiti u EU za ovih osam stvari. Nova kočnica za razvoj ili?

Procjena sukladnosti

Drugi uvjet iz članka 6. stavka 1. Akta o umjetnoj inteligenciji često se pogrešno tumačio. Mnogi su smatrali da AI sustav postaje visokorizičan samo ako u procjeni sukladnosti sudjeluje prijavljeno tijelo (notified body).

Komisija sada izričito potvrđuje da i interna procjena sukladnosti (self-assessment) može biti dovoljna, ako je takav model predviđen relevantnim sektorskim propisom.

Dakle, presudno nije tko provodi procjenu, nego to da proizvod podliježe regulatornom režimu koji zahtijeva provedbu procjene sukladnosti prije stavljanja na tržište.

To je važno jer sprječava situaciju u kojoj bi identični AI sustavi imali različit regulatorni status samo zato što različiti sektorski propisi predviđaju različite postupke procjene sukladnosti.

Koliko je Vodič zaista praktičan?

Iako Nacrt sadrži velik broj primjera, upravo u tome vidim njegov najveći nedostatak. Većina primjera odnosi se na situacije u kojima je odgovor već očit na temelju samog teksta Akta o umjetnoj inteligenciji ili prirode konkretne primjene.

Nedostaju granični slučajevi, situacije u kojima nije jasno predstavlja li određena AI funkcionalnost sigurnosnu komponentu, dovode li marketinške poruke do klasifikacije sustava kao visokorizičnog ili kada se promjena namijenjene svrhe smatra dovoljno značajnom da korisnik preuzme status proizvođača.

Komisija i sama priznaje da nije moguće sastaviti iscrpan popis svih visokorizičnih sustava. Međutim, upravo zbog toga očekivala sam više primjera koji bi tvrtkama pomogli razumjeti način na koji regulator razmišlja u nejasnim situacijama.

Moj zaključak nakon čitanja Nacrta vodiča

Ako razvijate ili koristite AI sustave, nemojte Nacrt vodiča promatrati kao kontrolni popis koji je dovoljno samo „označiti”.

On je mnogo više metodologija za tumačenje Akta o umjetnoj inteligenciji nego katalog gotovih odgovora.

Ako se vaš sustav ne nalazi među navedenim primjerima, pravo pitanje nije jeste li „izvan radara”, nego dovode li njegova namjena i način na koji je predstavljen tržištu do istih ili sličnih rizika kao kod sustava koji su u Vodiču navedeni.

A to nas vraća na početak priče.

Možda najveća promjena koju donosi Nacrt vodiča nije u tome što uvodi nova pravila, nego u tome što prvi put jasno pokazuje da će način na koji govorimo o umjetnoj inteligenciji biti gotovo jednako važan kao i način na koji je razvijamo.

Članak izvorno objavljen na Netokracija.rs