AI ponavlja naše greške, pristran je i netransparentan. Kako ga učiniti boljim od nas?

Kako raste korištenje umjetne inteligencije, raste i potreba da razumijemo kako ona donosi odluke i kome te odluke mogu naštetiti. O etici, transparentnosti i povjerenju u AI sustave govorila je Carla Vieira, senior data engineer i Google Developer Expert za strojno učenje, u predavanju Building Ethical AI: Transparency, Bias Mitigation, and Trust na LeadDev konferenciji u New Yorku.

Carla je odmah na početku istaknula da se današnji razgovor o etici u AI-ju odvija u bitno drugačijem kontekstu nego prije nekoliko godina jer živimo u eri generativne umjetne inteligencije (GenAI). Za razliku od tradicionalnih prediktivnih modela koji rade u pozadini, generativni sustavi komuniciraju izravno s korisnicima – zbog čega nastaje nova razina ranjivosti sustava.

Prema njezinim riječima, zadatak nije spriječiti svaku pogrešku jer GenAI po prirodi nije determinističan, već jasno definirati kako se s pogreškama postupa i kako se gradi povjerenje kad sustav zakaže.

Pet vrsta šteta

Carla se pozvala na vodič Understanding Artificial Intelligence Ethics and Safety iz 2019., u kojem se definira pet oblika potencijalne štete:

1. pristranost i diskriminacija,

2. ograničavanje autonomije i prava pojedinaca,

3. netransparentni i neobjašnjivi rezultati,

4. narušavanje privatnosti,

5. nepouzdani ili nesigurni ishodi.

Iako su tada razmatrali klasične AI sustave, sve ovo danas vrijedi i za generativne modele, a u nastavku predavanja usredotočila se na tri točke: pristranost, objašnjivost i povjerenje korisnika.

Kako pristranost ulazi u AI sustave?

Carla je podsjetila da pristranost nije samo tehnički problem, već ljudska karakteristika. Svi smo mi pristrani zbog zemlje u kojoj živimo, obrazovanja, uvjerenja. Kad ljudi stvaraju modele, te pristranosti se prenose i na sustave.

Kako bi pokazala gdje nastaje pristranost, prošla je kroz cijeli životni ciklus strojnog učenja – od prikupljanja podataka do evaluacije i implementacije modela. U svakom koraku mogu se pojaviti različiti oblici pristranosti:

• povijesna pristranost (kad podaci odražavaju nejednakosti iz stvarnog svijeta),

• reprezentacijska pristranost (kad su pojedine skupine nedovoljno zastupljene),

• evaluacijska pristranost (kad se modeli vrednuju samo po točnosti, a ne i po pravednosti).

Kao primjer navela je istraživanje Bloomberga, u kojem su AI modeli za generiranje slika dosljedno prikazivali bijele muškarce u visokoplaćenim zanimanjima, a ljude druge boje kože u niskoplaćenima:

To nije slučajnost, već povijesna pristranost u podacima. Ako svijet nije pravedan, neće biti ni model koji ga opisuje.

AI ne smije biti crna kutija

Problem pristranosti dodatno komplicira činjenica da su mnogi AI modeli crne kutije – jer što je model složeniji, to ga je teže objasniti. Ipak, objašnjivost je nužna za sustave u nekim područjima kao što je zdravstvo.

Korisnici, dodala je, imaju pravo znati zašto je sustav donio određenu odluku, bilo da se radi o kreditu, zapošljavanju ili medicinskoj preporuci. Primjer koji je dala bio je kreditni model u bankama:

Vaš kreditni rejting smanjen je jer su X i Y faktori imali negativan utjecaj i to mora biti objašnjeno. Takva transparentnost ne samo da gradi povjerenje, već i omogućuje korisnicima da aktivno djeluju na poboljšanju svog položaja.

Orijentiran na ljude, ne na hype

Carla je upozorila i na trenutni AI hype, potrebu da se generativna umjetna inteligencija ugrađuje u svaki proizvod, bez obzira na to ima li stvarnog smisla:

Prije nego što odlučite koristiti AI, pitajte se: treba li ovaj problem uopće AI rješenje? Ako ne pomaže korisniku, ne trebamo ga uvoditi samo zato da bismo mogli reći da imamo GenAI.

Zato zagovara human-centered pristup u kojem razvojni timovi surađuju s UX-om i produkt menadžerima kako bi simulirali stvarne scenarije korištenja.

Ključno pitanje glasi: Što se događa kad korisnik AI-ju postavi pitanje izvan predviđenog konteksta? Ako, primjerice, netko od modela koji predlaže recepte zatraži i medicinski savjet, sustav mora jasno razaznati takva pitanja i dati primjeren odgovor.

“Možemo sve, ali trebamo li sve?”

Na kraju dana, Carla se prisjetila jednog starog principa iz etike:

Samo zato što nešto možeš, ne znači da bi trebao.

Umjetna inteligencija nikad neće biti potpuno neutralna, ali možemo svjesno odlučiti tko ima koristi, a tko može biti oštećen njezinim djelovanjem. Carla zato poziva na suradnju između tehničkih stručnjaka, UX dizajnera, regulatora i društvenih znanstvenika:

Pristranost ne dolazi iz algoritama, već dolazi od ljudi. Ne možemo prepustiti moralne odluke strojevima jer AI ne mora biti savršen, ali mora biti human.