Digitalna industrija je u ku*cu, ali Social Dilemma je jeftina Skynet drama koja to ne zna reći

Netflixov dokumentarac Social Dilemma udara na društvene mreže kao što klinci mlate slojevitu Piñatu. Redatelj je u samo dva sata narativa ambiciozno klapnuo raskopavati zloćudne algoritme, dizajn interaktive te oglašivačku industriju.

I za očekivati je da će takav pothvat podijeliti gledatelje – parni ga hvale kroz očitost neetičnog poslovnog modela društvenih mreža, a neparni ga deklasiraju kroz plitkoću i selektivnost montiranog narativa. No, nije to apriori neka novotarija. Sada već kultni Zeitgeist je kuhao sličnu polarizirajuću juhu ne bi li zadobio konspirativne sljedbenike i kilograme digitalnih komentara. Nažalost, takvi agendizirani dokumentarci propuštaju objasniti prave probleme i zapravo nas navode da gledamo u krivom smjeru. Znate onu, Bruce Willis i Kansas City Shuffle.

Mi netokrati nećemo nasjesti na taj trik – raskopat ćemo Netflixov izlet u problematiku društvenih mreža jer vjerujem da smo većina nas ili “teži” korisnici prozvanih platformi, roditelji koji mališanima otimaju ekrane ili pak profesionalci kojima su Adwordsi i Facebook Pixeli defaultni jutarnji tabovi.

Posljedice su jasne…

(Spoiler, i to umjereni)

Jeff Orlowski, Exposure Labs i Netflix su napravili interesantan kinematografski posao – dokumentarac slijedi formu ispreplitanja izjava (nekih) predstavnika tech sektora s dramskom radnjom. U nekim je scenama ta drama maestralno “realna” – zabavan primjer je igrokaz šesteročlane obitelj koja zaključava mobitele u sef ne bi li mirno pojela večeru dok klingonski nastrojena kćerka razbija lokot i nastavlja TikTokati (Mia, nadam se da je to ispravan termin).

Autor time potencira Screen Time kao veliki problem današnjeg društva, pogotovo kod ekipice koje se okuplja kraj HNK i ostalih korisnika rođenih nakon 1997. I to je ispravan argument. Generacija Z u prosjeku troši 2h i 55 min dnevno na društvene mreže što je samo dio slagalice. Dodatan dio slagalice viri u vezanom pretjeranom dijeljenju korisničkog sadržaja – 81% Gen Z korisnika uopće ne razmišlja o posljedicama stavljanja sadržaja na društvene mreže što pak dovodi do nepotrebnog dijeljenja osobnih podataka tzv. oversharing i nebrige za vlastitu ili tuđu privatnost.

Međutim, dokumentarac “nategnuto” uokviruje Screen Time kao dizajniranu ovisnost što je deklasirano više puta. Kada se neki problem postavi kao ovisnost, onda je prezentirano rješenje apstinencija, što je opet dokazano besmislena solucija – danas znamo da umjereno korištenje društvenih mreža ima svoje objektivne i mjerljive benefite. Slično kao i odlazak Vinceku.

Ali društvene mreže samo su dio jednadžbe

Priča nas nastavno uvodi u probleme anksioznosti, društvenog udaljavanja i depresije što postaje sve veći problem, pogotovo kod tinejdžera.

Istina je da postoji podosta istraživanja na temu – spominju se termini kao što su Facebook-Envy ili Fear-Of-Missing-Out no ta istraživanja treba uzeti sa zrnom soli. Naime, nisu sve društvene mreže iste.

Kontekst i okolina korisnika ekstremno variraju, kao i financijski status individue. Na primjer, u industriji video igara, koja žari i pali već preko 5 desetljeća, nisu pronađeni relevantni uzorci pozitivnog/negativnog utjecaja na mentalno zdravlje umjerenih igrača. Sjajan primjer kvalitetnog i dugoročnog autoriteta na temu je Sonia Livingstone koja u ovom deset minutnom videu osporava mitove o utjecaju društvenih mreža na mentalno zdravlje djece…

Social Dilemma inače dobro poentira da je mentalno zdravlje izloženo novim i do sada nepoznatim apetitima za korištenje društvenih mreža. Potencijalni problem je kada korištenje prelazi u bijeg od realnosti tj. kako to cilja urednica Ana Marija u razgovoru na temu: “problem sa stvarima koje utječu na psiho-fizičko stanje jest što se one nekad koriste kako bi se potisnuli drugi problemi i to je začarani krug zbog ovisničkog dijela koji dovodi do novih problema.”

No, kao što sam pisao ranije, društvene mreže nisu niti jedini niti najveći faktor u toj jednadžbi.

Kako su nam prodali jeftinu Skynet dramu

A kada smo već kod jednadžbi, autorova potreba da ekranizira umjetnu inteligenciju (AI) kao ogromni Skynet će zgrčiti želudac svima koji se sustavno bave tim poljem.

U filmu ima sijaset igranih scena gdje je Facebookov AI “kadriran” ekstremno humanizirano: tri bijela muškarca (u filmu je udio sugovornika bijelaca, uz iznimku Rashide Richardson, ali baš 100 % čega ću se dotaknuti kasnije) dramatično upravljaju enterprise-like komandnim centrom, servirajući taj zlokoban sadržaj prema naivnom korisniku. Ekipa je vjerojatno htjela približiti kako ta “black box” umjetna inteligencija funkcionira i tako promašila kompletni smisao strojnog učenja.

Za početak, klasificiranje ekstremne količine sadržaja je prije svega tehnički izazov – Facebook trenutno ima 2,7 milijardi korisnika. Svaki od tih korisnika ima u prosjeku 338 prijatelja te vjerojatno isto toliko “lajkanih” poslovnih stranica. Facebookov Research blog opisuje da njihov data warehouse “Hive” skuplja barem 4 petabajta podataka svaki dan. Jedino umjetne neuronske mreže mogu riješiti taj skalabilan “što kome prikazati” izazov.

No nisu ti algoritmi robovlasnički Skynet odnosno svjesna i budna generalna umjetna inteligencija. Realno stanje je dijametralno suprotno.

U AI području vlada velika debata jesu li ti algoritmi zapravo napredna statistika!? Iliti kako se kaže: “When you’re fundraising, it’s AI. When you’re hiring, it’s ML. When you’re implementing, it’s logistic regression.” Već najavljujem temu za drugu kolumnu, no svakako pročitajte odličan esej o toj Skynet debati iz pera Joe Davisona.

Drugo, nije baš da Facebook, Google ili Twitter ne znaju što njihovi algoritmi rade. U branši od 1970-ih postoji koncept XAI tj. eXplainable Artificial Intelligence, u sklopu kojeg velik broj developera razvija AI module gdje se zna kako je algoritam došao do nekog zaključka. Prevedeno, nisu sve kutije baš tako crne.

No, postoji jedan bitniji moment. Facebook i Google skrivaju svoje algoritme upravo zato da bi spriječile gejmanje sustava i to dokumentarac svjesno ignorira. Povijest SEO-a iz 90-ih nas je naučila da algoritamske sustave zlorabe manjinski black hat šaneri i platforme stoga čuvaju svoje algoritme kao zmija noge.

Upravo bi dokoni urednici hrvatskih portala najviše koristili možebitnu transparentnost pravila Facebook feeda, servirajući nam svoju klikbejtersku istinu. S druge strane, autor dobro opisuje da društvene mreže imaju ogromnu moć u distribuciji i klasifikaciji sadržaja koji nikako nije ispoliran i to je validan problem. Nekoliko istaknutih istraživača je opisivalo problematiku Google SERP-a i Facebook AI algoritama poput Safiya Noble, Sarah T. Roberts i Siva Vaidhyanathan, no autor ignorira navedene radove te se odlučuje na jeftino strašenje gledatelja i forsiranje Skynet drame.

Digitalni oglašivački stroj nastavlja svoje

Dio dokumentarca se vrti oko namjernog dizajna korisničkog iskustva ne bi li se korisnika čim više ljepilo na gledanje oglasa. Razgovor o etičnosti dizajna je pogođena tema i mislim da nitko ne osporava dubioznost digitalnog oglašivačkog stroja, izašao iz neumornog A/B testiranja techbro dizajnera Silicijske doline.

Ars Technica je objavila podatak da proizvodni timovi u 2020. upravljaju sa 100x više koda nego 2010., a poznato je npr. da Amazon dizajneri svake sekunde vrte desetine simultanih A/B testova ne bi li ubrzali debljanje vaše Kindle knjižnice. Fuzija opisane umjetne inteligencije, dizajna za interaktivu i prodaje oglasnog prostora je toliko slojevita da nije čudna prikazana praksa dizajn timova koji se više “igraju” nego etično poslovno rezoniraju. Etičnost odluke otežava i moment gdje se disciplina UX dizajna mijenja iz dana u dan (o čemu su Iva i Martina iz Neuralaba već pričale) tj. današnji pop-up je sutrašnje zabranjeno voće.

Ono što dokumentarac također pravilno poentira je i problem samog korijenskog poslovnog modela – prodaje oglasnog prostora. Doista JE čudno da živimo u vremenima gdje BigTech kompanije u dubine Atlantika spuštaju shark-proof svjetlosne kablove, Alexa i Siri međusobno pričaju, a Google AI pobjeđuje ljudske Go igrače – i sve to da bi im poslovni model bila prodaja glorificiranih bannera!?

Prisjetite se, udio Adwordsa u cijelom Google poslovanju je cca 70%, dok je kod Facebooka udio oglašivačkog prihodovnog stupa otprilike 98%. Istina, kad je stigao Facebook Shop već smo komentirali kako Mark pokušava disperzirati strukturu zarade prema eCommerce transakcijama, no to je kap u crvenom oceanu.

Suze sina razmetnoga

Forsiranje oglašavanja kao glavnog poslovnog modela proizlazi iz dinamike platformi s VC fondovima, ovisnicima o hockey-stick rastu. Naime, sve digitalne platforme na početku ovise o injekcijama kapitala te je za očekivati kako će fondovi htjeti brzi povrat na uloženo što je žrvanj koji se okreće i nakon izlaska na burzu (IPO-a).

Prevedeno, istraživanje modernijih, inkluzivnih i etičnih poslovnih praksi nije na listi prioriteta, a takve “move fast, break things” ShitOpse smo isto opisivali na Netokraciji.

Dokumentarac ignorira tu VC dinamiku + krivnju pripisuje uglavnom prema benevolentnim libertarijanskim dizajnerima koji su eto “htjeli napraviti dobro u svijetu, no zeznuli su stvar”. Takav narativ tehnološkog determinizma je djetinjast te kritiziran više puta, na primjer u Barbrookovom/Cameronovom klasiku The Californian Ideology koji 1995. između ostaloga kaže:

While learning from the can-do attitude of the Californian individualists, we also must recognise that the potentiality of hypermedia can never solely be realised through market forces.

Ironično je slušati bijele sredovječne muškarce koji se žale na vlastite tvorevine kada je temeljni problem (koji su oni sami stvorili) nedostatak inkluzivnosti žena, manjina i udruga koje bi po defaultu ukazale na manjkavost predloženih dizajn odluka.

I ovo je ujedno najveći propust dokumentarca – dajući prostor i vrijeme da sijaset razmetnih techbro momaka liju suze pred kamerama, autori zapravo podržavaju status quo ignorirajući glavne probleme. Produkcijska ekipa time uskraćuje vrijeme i mjesto aktivistima poput Electric Frontier Foundationa koji već preko tri desetljeća ukazuju na nedostatak inkluzivnosti Silicijske doline.

Tko je kriv za naš screen time?

I koji zaključak izvući na kraju balade? Social Dilemma je nesumnjivo vrijedno vizualno ostvarenje na koje neće biti teško utrošiti 2 sata. Ostaje žal za relativno jednostranom i plitkom premisom koja se mogla (i morala) podrobnije obraditi! Imajte na umu da:

• kriviti isključivo društvene mreže je nekonstruktivno. I Vincek dizajnira tu perfidnu kremšnitu no nije on kriv za vašu zamamnu valovitost.
• inkluzivnost je temeljni problem u IT industriji, rijetkoj industriji u kojoj je udio žena u kontinuiranom padu. Vrijeme je da se uključite u Ladies of New Business i poslušate kolegičin kut gledišta.
• Ne nasjedajte na agendizirane likove koji ocrnjujući jedan sustav vrijednosti zapravo prodaju svoj TED talk. A kada smo već kod takvih… i domaći urednici su itekako krivi za plasiranje lažnih vijesti i općenito stanje medijskog prostora. Vanja je već pisao o tome na Netokraciji (kao odgovor na prošlo prozivanje društvenih mreža).

I za kraj, ugasite jebene notifikacije. Online sadržaj se konzumira kada vama paše, a ne kada drugi to traže (iliti “asinkrono” kako se to uredski kaže) pa vidite ima li smisla “photo tag” tretirati kao i važan telefonski poziv. A sada off.

(op.a, u članku ima podosta izvora no dva su klasici vrijedni detaljnog čitanja; to su “The Californian Ideology” te sjajan esej Irske spisateljice Marie Farrell “The Prodigal Techbro”)