Digitalne platforme manipuliraju i dizajnom nas tjeraju da platimo više

Nije tajna da smo kao korisnici digitalnih platformi često usmjereni na preporučene i najbolje opcije, no koliko su takve upute dobre za nas kao korisnike, a koliko promoviraju najisplativije odabire za platforme. Upravo time, manipulativnim dizajnom, bavi se Sonja Perković.

U prosincu je ta mlada znanstvenica iz Varaždina dobila prestižnu Tietgenovu nagradu za znanstveni rad u kojem proučava kako donosimo odluke u digitalnom okruženju i kako ljudi procjenjuju rizike povezane sa štetnim kemikalijama u potrošačkim proizvodima.

Podsjetimo, Tietgenova nagrada jedno je od najviših priznanja u Danskoj za znanstvenike u ranoj fazi karijere u području društvenih i humanističkih znanosti. Sonja već sedam godina živi u Danskoj gdje radi kao izvanredna profesorica na Sveučilištu u Aarhusu, a nagradu, zajam u vrijednosti od oko 67 tisuća eura, planira iskoristiti za istraživački projekt koji razvija uz podršku danske Agencije za tržišno natjecanje i zaštitu potrošača.

Cilj tog istraživanja je prvo sustavno mapiranje manipulativnog digitalnog dizajna na danskom tržištu, što bi trebalo imati široku primjenu, ispričala nam je:

Projekt će omogućiti da po prvi put imamo podatke koji povezuju konkretne dizajnerske elemente, vizualnu pozornost i odluke koje odstupaju od korisnikovih stvarnih preferencija. Rezultati će biti korisni i regulatorima i tvrtkama koje žele razvijati transparentnija i pravednija digitalna rješenja.

Nevidljivi internet: Što se događa u dark socialu i kako već i smajlić može činiti štetu?

Jesmo li svjesni kako donosimo odluke?

No krenimo od početka. Što je bihevioralna ekonomija i zašto nam je važna? Sonja, koja je diplomirala na zagrebačkom Ekonomskom fakultetu, a doktorat završila na Leeds University Business School u Ujedinjenom Kraljevstvu, jednostavno nam objašnjava da bihevioralna ekonomija proučava kako ljudi donose odluke i zašto ponekad odaberu opcije koje im zapravo ne idu u prilog:

Primjerice, ljudi često troše više kada plaćaju karticom jer je „bol“ plaćanja manja nego kod gotovine, a u digitalnom okruženju korisnici nerijetko izaberu prvu ponuđenu opciju leta ili smještaja samo zato što je algoritamski prikazana kao „najbolja“, a ne zato što su usporedili sve mogućnosti.

Posebno me zanima kako se takva saznanja mogu primijeniti u praksi da bi se ljudima olakšalo donošenje boljih i informiranijih odluka.

Sonja kaže da nam je ovo područje važno jer se velik dio naših svakodnevnih odluka donosi brže nego što mislimo i pod utjecajem okruženja koje nije neutralno.

Naglašava da to vrijedi za potrošače, ali i za sve one koji dizajniraju proizvode, aplikacije ili digitalna sučelja. Drugim riječima, bihevioralna ekonomija pomaže objasniti zašto se korisnici ne ponašaju onako kako bismo u teoriji očekivali, nego onako kako im to sučelje, algoritam ili raspored informacija nenamjerno ili namjerno sugerira.

Važnost istraživanja za developere

Tko bi za ova istraživanja morao biti posebno zainteresiran, zanimalo nas je:

Za developere je to posebno važno jer razumijevanje osnovnih principa ljudskog ponašanja može poboljšati UX, smanjiti frikciju i spriječiti nenamjerne manipulativne obrasce.

Za potrošače je važno jer im pomaže razumjeti kako donose odluke i kako se mogu zaštititi od loših izbora koji proizlaze iz načina na koji je nešto dizajnirano.

Čim smo počeli razgovarati o dizajnu sučelja, došli smo do etičkih pitanja. Sonja objašnjava da je to tako jer sučelja nikad nisu neutralna, nego aktivno usmjeravaju korisnike prema izborima koji često više koriste platformi nego korisniku.

FER donio plan za suživot s AI-jem po uzoru na MIT, Oxford i Graz. Što nam je činiti?

Manipuliranje odlukama

Problem nastaje kada se dizajn koristi kako bi se potaknulo dijeljenje više osobnih podataka, dulje zadržavanje na platformi ili neplanirana potrošnja, a da korisnik toga nije svjestan:

Neki dizajnerski obrasci, kao što su skrivene postavke privatnosti i vizualno isticanje određenih opcija, smanjuju stvarnu autonomiju jer korisniku otežavaju informirani izbor.

Drugi pak, poput oznaka „preporučeno za vas“, sugeriraju da je riječ o najboljoj opciji za korisnika, iako je često istaknuta zato što platformi donosi veći profit.

Etika postaje posebno upitna kada dizajn iskorištava trenutnu nepažnju ili brzinske obrasce razmišljanja kako bi ostvario komercijalni cilj.

Zaključuje da se u takvim situacijama gubi transparentnost i odluka više nije u potpunosti korisnikova.

Dobro korisničko iskustvo ili promocija interesa

Kad dizajn olakšava ono što korisnik želi učiniti, to nazivamo dobrim korisničkim iskustvom, kaže Sonja i dodaje:

No, kada se informacije skrivaju, a profitabilnije opcije namjerno ističu, tada prelazimo u područje manipulacije.

Poslovni modeli koji nagrađuju vrijeme provedeno na platformi i količinu prikupljenih podataka dodatno povećavaju rizik takvih praksi. Zato problem ne leži u samom dizajnu nego u tome kako se on primjenjuje i koje interese stavlja u prvi plan.

Suptilne štete

Šteta za korisnike može biti vrlo konkretna, ali i suptilna. Najvidljivija je financijska šteta, kada korisnici na kraju plate više nego što su planirali zbog skrivenih troškova, unaprijed označenih opcija ili vremenskog pritiska u sučelju.

Klasičan primjer je kupnja avionske karte, gdje se u zadnjem koraku pojave dodatne naknade ili već označeno osiguranje, pa korisnik plati znatno više nego što je namjeravao.

Dugoročna šteta odnosi se na gubitak kontrole nad podacima, tumači naša sugovornica:

Mnogi korisnici, često kroz nejasne ili zamorne obrasce privole, nesvjesno pristanu na široko prikupljanje informacija, što omogućuje detaljno profiliranje koje se može koristiti za procjenu njihovih ranjivosti i sklonosti, uključujući i financijski stres ili emocionalno opterećenje.

Ti se podaci potom mogu upotrijebiti i za personalizirane cijene: oni s većom procijenjenom spremnošću na plaćanje ili snažnom ovisnošću o usluzi mogu završiti s višim cijenama, a jednom prikupljene i raspršene podatke vrlo je teško ponovno u potpunosti staviti pod vlastitu kontrolu.

Korisnici trpe i psihološku štetu, napominje Sonja:

Sučelja su često oblikovana tako da odvlače pozornost i produžuju vrijeme korištenja, što mnogi korisnici opisuju kao osjećaj preplavljenosti. Autoplay i beskonačno skrolanje tipični su primjeri gdje korisnik želi „samo nešto provjeriti“, a ostane mnogo dulje na platformi.

Kako se zaštititi?

Međutim, korisnici ne moraju biti bespomoćni, nego mogu prepoznati ove oblike manipulacije i korištenjem jednostavnih mehanizama sebe zaštititi. Sonja, između ostalog, predlaže da pregledamo više od prvih nekoliko opcija, pogotovo u slučaju kupnje usluga.

Također, korisno je pratiti vlastite navike i postaviti jednostavna pravila, primjerice da se društvene mreže ne otvaraju bez jasnog cilja, uz pomoć alata za ograničavanje vremena korištenja.

Kaže da često pomaže i vrlo jednostavna mjera kao što je uklanjanje ikone aplikacije s početnog zaslona telefona jer i ta mala dodatna prepreka smanjuje impulzivno otvaranje aplikacija te naglašava da moramo osvijestiti situacije u kojima smo osobito ranjivi:

Također pomažu preglednici i ekstenzije koje jačaju privatnost te aplikacije koje olakšavaju praćenje i otkazivanje pretplata. Važno je i znati da smo skloniji lošim odlukama kada smo umorni, u žurbi ili pod stresom, pa je tada posebno korisno usporiti i dvaput provjeriti što zapravo dopuštamo ili kupujemo.

Zakonska regulacija digitalne pravednosti

Korisnicima za godinu ili dvije stiže i podrška Europske unije u ovom području s Digital Fairness Actom, koji bi trebao dopuniti postojeće propise, poput Direktive o nepoštenoj poslovnoj praksi i Digital Services Acta te jasnije obuhvatiti manipulativne obrasce dizajna u digitalnom okruženju.

Fokusirat će se na prakse kao što su obmanjujući obrasci u sučeljima (engl. dark patterns), ovisnički elementi u digitalnim proizvodima, marketinške prakse influencera, na probleme poput zamki s pretplatama i otežanog otkazivanja usluga…

Ideja je povećati pravnu sigurnost i smanjiti rascjepkanost pravila između država članica kako bi potrošači u cijeloj Europskoj uniji imali usporedivu razinu zaštite, a tvrtke jasnija pravila igre, tumači Sonja, ali i odmah upozorava:

Digital Fairness Act sam po sebi neće riješiti sve probleme jer mnogo toga ovisi o tome koliko će precizno pravila biti napisana kako će ih nacionalna tijela nadzirati u praksi i hoće li se poslovni modeli doista prilagoditi pravednijem postupanju prema korisnicima.

Naglašava da regulativa mora zatvoriti upravo one „rupe“ u koje se manipulativni elementi najlakše uvuku. Primjeri za to su kolačići i GDPR, gdje je zakon donesen kako bi se zaštitili osobni podaci ljudi, ali nije precizirano kako ga tvrtke trebaju implementirati.

U praksi je zato često implementiran na način da su opcije koje idu u prilog tvrtkama vizualno istaknutije („Prihvaćam sve“), dok su one koje idu u prilog potrošaču manje vidljive („Prihvaćam samo neophodno“), pa kao rezultat dijelimo svoje osobne podatke.

Nova razina personalizacije

Umjetna inteligencija promijenila je pravila igre u mnogim područjima, pa tako i u ovom. Sonja podsjeća da već godinama velike platforme koriste algoritamsku personalizaciju, testiranje brojnih varijanti gumba, poruka i rasporeda elemenata te ciljano obraćanje određenim skupinama korisnika.

Ali i naglašava da od 2023. generativni modeli omogućuju da se takvi procesi dodatno automatiziraju jer sustavi mogu stvarati i testirati desetke ili stotine mikrovarijacija oglasa i sučelja te ih dinamički prilagođavati različitim segmentima, potencijalno i svakom pojedinom korisniku  zasebno, a onda je moguće dobiti i podatke o korištenju:

U kombinaciji s detaljnim podacima o ponašanju i profilu korisnika to otvara mogućnost sve preciznijeg ciljanja specifičnih ranjivosti, primjerice, financijskog stresa, životnih situacija ili emocionalnih stanja, pri čemu AI zapravo pojačava obrasce koji postoje već godinama.

Dakle, AI je dodatno zakomplicirao situaciju jer je postojeće manipulativne prakse učinio bržima, jeftinijima i skalabilnijima.

U Hrvatskoj se bojimo AI-a, ali nismo ga zainteresirani naučiti!

Dodaje da se nova razina personalizacije uvodi i kroz chatbotove, koji djeluju prijateljski, ali u pozadini koriste podatke o prethodnim kupnjama i ponašanju na platformi.

Njihove preporuke mogu biti i dobre i loše za korisnike, kaže Sonja:

Takve preporuke mogu biti korisne kada nam pomognu brže pronaći ono što tražimo, no lako prelaze u manipulativne prakse kada se oslanjaju na dizajnerske obrasce i personalizaciju čiji je cilj potaknuti impulzivnu ili neplaniranu potrošnju, a ne stvarne potrebe korisnika.

Manipulativni dizajn s jačanjem popularnosti umjetne inteligencije postao je efikasniji, jeftiniji i često teže uočljiv. To samo povećava potrebu za jasnim pravilima i odgovornim razvojem, zaključuje naša znanstvenica.