Digitalna industrija je u ku*cu, ali Social Dilemma je jeftina Skynet drama koja to ne zna reći

Digitalna industrija je u ku*cu, ali Social Dilemma je jeftina Skynet drama koja to ne zna reći

Social Dilemma nije više #1 izbor na Netflixu, a mnogi su već dali svoje mišljenje neovisno o tome jesu ga gledali. Ovo je kritički osvrt na odlično vizualno ostvarenje dokumentarca koji otvara mnoga pitanja, ali i isceniranu dramu o zlim društvenim mrežama koja daje malo odgovora - često površnih.

Netflixov dokumentarac Social Dilemma udara na društvene mreže kao što klinci mlate slojevitu Piñatu. Redatelj je u samo dva sata narativa ambiciozno klapnuo raskopavati zloćudne algoritme, dizajn interaktive te oglašivačku industriju.

I za očekivati je da će takav pothvat podijeliti gledatelje – parni ga hvale kroz očitost neetičnog poslovnog modela društvenih mreža, a neparni ga deklasiraju kroz plitkoću i selektivnost montiranog narativa. No, nije to apriori neka novotarija. Sada već kultni Zeitgeist je kuhao sličnu polarizirajuću juhu ne bi li zadobio konspirativne sljedbenike i kilograme digitalnih komentara. Nažalost, takvi agendizirani dokumentarci propuštaju objasniti prave probleme i zapravo nas navode da gledamo u krivom smjeru. Znate onu, Bruce Willis i Kansas City Shuffle.

Mi netokrati nećemo nasjesti na taj trik – raskopat ćemo Netflixov izlet u problematiku društvenih mreža jer vjerujem da smo većina nas ili “teži” korisnici prozvanih platformi, roditelji koji mališanima otimaju ekrane ili pak profesionalci kojima su Adwordsi i Facebook Pixeli defaultni jutarnji tabovi.

Posljedice su jasne…

(Spoiler, i to umjereni)

Jeff Orlowski, Exposure Labs i Netflix su napravili interesantan kinematografski posao – dokumentarac slijedi formu ispreplitanja izjava (nekih) predstavnika tech sektora s dramskom radnjom. U nekim je scenama ta drama maestralno “realna” – zabavan primjer je igrokaz šesteročlane obitelj koja zaključava mobitele u sef ne bi li mirno pojela večeru dok klingonski nastrojena kćerka razbija lokot i nastavlja TikTokati (Mia, nadam se da je to ispravan termin).

Autor time potencira Screen Time kao veliki problem današnjeg društva, pogotovo kod ekipice koje se okuplja kraj HNK i ostalih korisnika rođenih nakon 1997. I to je ispravan argument. Generacija Z u prosjeku troši 2h i 55 min dnevno na društvene mreže što je samo dio slagalice. Dodatan dio slagalice viri u vezanom pretjeranom dijeljenju korisničkog sadržaja – 81% Gen Z korisnika uopće ne razmišlja o posljedicama stavljanja sadržaja na društvene mreže što pak dovodi do nepotrebnog dijeljenja osobnih podataka tzv. oversharing i nebrige za vlastitu ili tuđu privatnost.

Liam Francis Walsh, The New Yorker

Međutim, dokumentarac “nategnuto” uokviruje Screen Time kao dizajniranu ovisnost što je deklasirano više puta. Kada se neki problem postavi kao ovisnost, onda je prezentirano rješenje apstinencija, što je opet dokazano besmislena solucija – danas znamo da umjereno korištenje društvenih mreža ima svoje objektivne i mjerljive benefite. Slično kao i odlazak Vinceku.

Ali društvene mreže samo su dio jednadžbe

Priča nas nastavno uvodi u probleme anksioznosti, društvenog udaljavanja i depresije što postaje sve veći problem, pogotovo kod tinejdžera.

Istina je da postoji podosta istraživanja na temu – spominju se termini kao što su Facebook-Envy ili Fear-Of-Missing-Out no ta istraživanja treba uzeti sa zrnom soli. Naime, nisu sve društvene mreže iste.

Kontekst i okolina korisnika ekstremno variraju, kao i financijski status individue. Na primjer, u industriji video igara, koja žari i pali već preko 5 desetljeća, nisu pronađeni relevantni uzorci pozitivnog/negativnog utjecaja na mentalno zdravlje umjerenih igrača. Sjajan primjer kvalitetnog i dugoročnog autoriteta na temu je Sonia Livingstone koja u ovom deset minutnom videu osporava mitove o utjecaju društvenih mreža na mentalno zdravlje djece…

Social Dilemma inače dobro poentira da je mentalno zdravlje izloženo novim i do sada nepoznatim apetitima za korištenje društvenih mreža. Potencijalni problem je kada korištenje prelazi u bijeg od realnosti tj. kako to cilja urednica Ana Marija u razgovoru na temu: “problem sa stvarima koje utječu na psiho-fizičko stanje jest što se one nekad koriste kako bi se potisnuli drugi problemi i to je začarani krug zbog ovisničkog dijela koji dovodi do novih problema.”

No, kao što sam pisao ranije, društvene mreže nisu niti jedini niti najveći faktor u toj jednadžbi.

Kako su nam prodali jeftinu Skynet dramu

A kada smo već kod jednadžbi, autorova potreba da ekranizira umjetnu inteligenciju (AI) kao ogromni Skynet će zgrčiti želudac svima koji se sustavno bave tim poljem.

Social Dilemma, Netflix

U filmu ima sijaset igranih scena gdje je Facebookov AI “kadriran” ekstremno humanizirano: tri bijela muškarca (u filmu je udio sugovornika bijelaca, uz iznimku Rashide Richardson, ali baš 100 % čega ću se dotaknuti kasnije) dramatično upravljaju enterprise-like komandnim centrom, servirajući taj zlokoban sadržaj prema naivnom korisniku. Ekipa je vjerojatno htjela približiti kako ta “black box” umjetna inteligencija funkcionira i tako promašila kompletni smisao strojnog učenja.

Za početak, klasificiranje ekstremne količine sadržaja je prije svega tehnički izazov – Facebook trenutno ima 2,7 milijardi korisnika. Svaki od tih korisnika ima u prosjeku 338 prijatelja te vjerojatno isto toliko “lajkanih” poslovnih stranica. Facebookov Research blog opisuje da njihov data warehouse “Hive” skuplja barem 4 petabajta podataka svaki dan. Jedino umjetne neuronske mreže mogu riješiti taj skalabilan “što kome prikazati” izazov.

No nisu ti algoritmi robovlasnički Skynet odnosno svjesna i budna generalna umjetna inteligencija. Realno stanje je dijametralno suprotno.

U AI području vlada velika debata jesu li ti algoritmi zapravo napredna statistika!? Iliti kako se kaže: “When you’re fundraising, it’s AI. When you’re hiring, it’s ML. When you’re implementing, it’s logistic regression.” Već najavljujem temu za drugu kolumnu, no svakako pročitajte odličan esej o toj Skynet debati iz pera Joe Davisona.

Machine Learning comic, @sandserifcomics

Drugo, nije baš da Facebook, Google ili Twitter ne znaju što njihovi algoritmi rade. U branši od 1970-ih postoji koncept XAI tj. eXplainable Artificial Intelligence, u sklopu kojeg velik broj developera razvija AI module gdje se zna kako je algoritam došao do nekog zaključka. Prevedeno, nisu sve kutije baš tako crne.

No, postoji jedan bitniji moment. Facebook i Google skrivaju svoje algoritme upravo zato da bi spriječile gejmanje sustava i to dokumentarac svjesno ignorira. Povijest SEO-a iz 90-ih nas je naučila da algoritamske sustave zlorabe manjinski black hat šaneri i platforme stoga čuvaju svoje algoritme kao zmija noge.

Upravo bi dokoni urednici hrvatskih portala najviše koristili možebitnu transparentnost pravila Facebook feeda, servirajući nam svoju klikbejtersku istinu. S druge strane, autor dobro opisuje da društvene mreže imaju ogromnu moć u distribuciji i klasifikaciji sadržaja koji nikako nije ispoliran i to je validan problem. Nekoliko istaknutih istraživača je opisivalo problematiku Google SERP-a i Facebook AI algoritama poput Safiya Noble, Sarah T. Roberts i Siva Vaidhyanathan, no autor ignorira navedene radove te se odlučuje na jeftino strašenje gledatelja i forsiranje Skynet drame.

Digitalni oglašivački stroj nastavlja svoje

Dio dokumentarca se vrti oko namjernog dizajna korisničkog iskustva ne bi li se korisnika čim više ljepilo na gledanje oglasa. Razgovor o etičnosti dizajna je pogođena tema i mislim da nitko ne osporava dubioznost digitalnog oglašivačkog stroja, izašao iz neumornog A/B testiranja techbro dizajnera Silicijske doline.

Ars Technica je objavila podatak da proizvodni timovi u 2020. upravljaju sa 100x više koda nego 2010., a poznato je npr. da Amazon dizajneri svake sekunde vrte desetine simultanih A/B testova ne bi li ubrzali debljanje vaše Kindle knjižnice. Fuzija opisane umjetne inteligencije, dizajna za interaktivu i prodaje oglasnog prostora je toliko slojevita da nije čudna prikazana praksa dizajn timova koji se više “igraju” nego etično poslovno rezoniraju. Etičnost odluke otežava i moment gdje se disciplina UX dizajna mijenja iz dana u dan (o čemu su Iva i Martina iz Neuralaba već pričale) tj. današnji pop-up je sutrašnje zabranjeno voće.

Jim Salter, ArsTechnica (Sourcegraph)

Ono što dokumentarac također pravilno poentira je i problem samog korijenskog poslovnog modela – prodaje oglasnog prostora. Doista JE čudno da živimo u vremenima gdje BigTech kompanije u dubine Atlantika spuštaju shark-proof svjetlosne kablove, Alexa i Siri međusobno pričaju, a Google AI pobjeđuje ljudske Go igrače – i sve to da bi im poslovni model bila prodaja glorificiranih bannera!?

Prisjetite se, udio Adwordsa u cijelom Google poslovanju je cca 70%, dok je kod Facebooka udio oglašivačkog prihodovnog stupa otprilike 98%. Istina, kad je stigao Facebook Shop već smo komentirali kako Mark pokušava disperzirati strukturu zarade prema eCommerce transakcijama, no to je kap u crvenom oceanu.

Suze sina razmetnoga

Forsiranje oglašavanja kao glavnog poslovnog modela proizlazi iz dinamike platformi s VC fondovima, ovisnicima o hockey-stick rastu. Naime, sve digitalne platforme na početku ovise o injekcijama kapitala te je za očekivati kako će fondovi htjeti brzi povrat na uloženo što je žrvanj koji se okreće i nakon izlaska na burzu (IPO-a).

Prevedeno, istraživanje modernijih, inkluzivnih i etičnih poslovnih praksi nije na listi prioriteta, a takve “move fast, break things” ShitOpse smo isto opisivali na Netokraciji.

Dokumentarac ignorira tu VC dinamiku + krivnju pripisuje uglavnom prema benevolentnim libertarijanskim dizajnerima koji su eto “htjeli napraviti dobro u svijetu, no zeznuli su stvar”. Takav narativ tehnološkog determinizma je djetinjast te kritiziran više puta, na primjer u Barbrookovom/Cameronovom klasiku The Californian Ideology koji 1995. između ostaloga kaže:

While learning from the can-do attitude of the Californian individualists, we also must recognise that the potentiality of hypermedia can never solely be realised through market forces.

Netflix, Social Dilemma
Social Dilemma inače dobro poentira da je mentalno zdravlje izloženo novim i do sada nepoznatim apetitima za korištenje društvenih mreža.

Ironično je slušati bijele sredovječne muškarce koji se žale na vlastite tvorevine kada je temeljni problem (koji su oni sami stvorili) nedostatak inkluzivnosti žena, manjina i udruga koje bi po defaultu ukazale na manjkavost predloženih dizajn odluka.

I ovo je ujedno najveći propust dokumentarca – dajući prostor i vrijeme da sijaset razmetnih techbro momaka liju suze pred kamerama, autori zapravo podržavaju status quo ignorirajući glavne probleme. Produkcijska ekipa time uskraćuje vrijeme i mjesto aktivistima poput Electric Frontier Foundationa koji već preko tri desetljeća ukazuju na nedostatak inkluzivnosti Silicijske doline.

Tko je kriv za naš screen time?

I koji zaključak izvući na kraju balade? Social Dilemma je nesumnjivo vrijedno vizualno ostvarenje na koje neće biti teško utrošiti 2 sata. Ostaje žal za relativno jednostranom i plitkom premisom koja se mogla (i morala) podrobnije obraditi! Imajte na umu da:

I za kraj, ugasite jebene notifikacije. Online sadržaj se konzumira kada vama paše, a ne kada drugi to traže (iliti “asinkrono” kako se to uredski kaže) pa vidite ima li smisla “photo tag” tretirati kao i važan telefonski poziv. A sada off.

(op.a, u članku ima podosta izvora no dva su klasici vrijedni detaljnog čitanja; to su “The Californian Ideology” te sjajan esej Irske spisateljice Marie Farrell “The Prodigal Techbro”)

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome)
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime (Hrvoje Lončar) ili barem ime i inicijala (Hrvoje L.) te pravu email adresu. Kako koristimo podatke koje tamo ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Komentari

  1. Mario Sever

    Mario Sever

    04. 11. 2020. u 2:45 pm Odgovori

    Super članak, jedino mi nije jasan ovaj dio: “nedostatak inkluzivnosti žena, manjina i udruga koje bi po defaultu ukazale na manjkavost predloženih dizajn odluka.” Gdje je neki dokaz da bi automatski nešto bilo bolje, pa google i facebook zadnjih godina baš puno ulažu u inkluzivnost ali i dalje imaju isti business model po kojem rade.

  2. Ian

    Ian

    04. 11. 2020. u 9:17 pm Odgovori

    Misam baš shvatio koja je poanta članka, a i pogrešno je navedeno da Google zarađuje ‘samo’ 70% od oglasa (zarađuje 95%).

    Inače sve je to samo trendy hype. Psihološki principi na kojima sve navedeno počiva stari su barem 100 godina i komercijalno su iskorištavani davno prije digitalne ere zadnjih 20 godina. Ljudi koriste navedene servise jer su im iz nekog razloga korisni, a to što ovi dodatno zarađuju koristeći psihologiju ne znači puno. Ne raditi slona od buhe.

  3. Stručnjak za sve

    Stručnjak za sve

    12. 11. 2020. u 12:01 pm Odgovori

    Moram priznati da nisam uopće shvatio smisao članka gospodina Krešimira, koji se nevjerojatnom lakoćom vrlo prozaično razbacuje statističkim interpretacijama socijalnih tema o kojoj ni približno nije stručan. U ovoj “analizi” g. Krešimir komentira i navodi razna socijalna i psihološka istraživanja koja odgovaraju cjelini koju pokušava zaokružiti (i dalje nije jasno što je to točno). Također meritus članka je branjenje tehnoloških tvrtki da “ne rade ništa loše”, što i je istina. Jer te tvrtke proizvode softvere koji imaju za cilj monetizaciju istih i povrat na uložene resurse. Tu nema ništa sporno.

    Prava tema dokumentarca Social dilema nije kako i zašto nešto rade tehnološki divovi, nego je skretanje pozornosti da njihovi proizvodi imaju nekakve učinke na društveno stanje i pojedince. Namjerno sam napisao “nekakve učinke” jer se oni još uvijek istražuju. A istražuju se još uvijek jer se radi o društvenoj znanosti koja nije egzaktna i eksplicitna kao što je prirodna znanost i za istu treba vremena. Često su to desetljeća. Pozvati se na dva-tri istraživanja, a ne uzimajući u obzir njihove interpretacije, meta podatke, model analize i slično je u najmanju neozbiljno i neutemeljno. Kao i jednostrani pristup g. Krešimira koji očito ne znajući da kvaliteta interpretacije kao nužan uvjet mora imati sučeljavanje dva ekstremna istraživanja kako bi se otvorila konstruktivna rasprava. Za što ga ne krivim jer nije znanstvenik, ali bi zbog kvalitete članka trebao znati kako se u znanosti donose konsenzusi. Ponavljam, social dilema kao dokumentarac je imao zadaću skrenuti pozornost na stavove o novim pojavama u društvu pojavom novih disruptivnih faktora, a to su digitalni proizvodi koji se intenzivno konzumiraju u određenim socijalnim skupinama. Trenutno se istražuju utjecaji tih disruptivnih faktora na, primjerice, mentalno zdravlje djece, utjecaj na javno mjenje, utjecaji na izbore i slično.

    Način na koji će neki FB,Google ili netko treći dizajnirati svoje algoritme će kasnije regulirati zakon koji će se temeljiti na konsezusu stručnjaka koji će prvo dokazati učinke njihovih tehnologija, a zatim te učinke evaluirati kao pozitivne ili negativne. Ako se dokažu kao negativni, zakon će odrediti kako će netko dizajnirati svoj algoritam.

    Ali ono o čemu bi g. Krešimir mogao napisat članak je kako doslovno kontrolirati svaki korak i rad svojih zaposlenika u Neuralabu. Siguran sam da tu ima puno toga za reći….

    Sretno svima,

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Startupi i poslovanje

Mate Rimac transparentno o financijama, svojoj plaći, kampusu i uključivanju radnika kao suvlasnika Rimac Automobila

U izuzetno dobrodošlom primjeru transparentnosti koji rijetko viđamo u svjetskoj, a kamoli hrvatskoj tehnološkoj industriji, Mate Rimac je na YouTubeu objavio sat vremena dug pregled izvještaja Rimac Automobila za treći kvartal 2020. Izdvajamo neke od zanimljivijih informacija.

Startupi i poslovanje

Borealis: Kako je programer Dennis Puzak startup “fail” pretvorio u uspješnu agenciju za digitalne proizvode

Dennis je počeo kao programer i teško zarađene novce uložio u startup - koji nije uspio. No naučeno iskustvo u samo je nekoliko godina pretvorio u agenciju za digitalne proizvode koje želi zadržati malom i izuzetno kvalitetnom.

Izrada web stranica

WordPressov prvi VIP partner u srednjoj i istočnoj Europi je – hrvatski Neuralab!

Zagrebačka digitalna agencija sad je među samo 30-ak svjetskih tvrtki koje su potvrdile svoj status u kvaliteti razvoja na sustavima koje koristi većina svjetskih web stranica i internetskih trgovina.

Što ste propustili

Tehnologija

Ako želimo AI industriju, prvo moramo izgraditi zajednicu

Ciklus razvoja AI proizvoda je poprilično drugačiji od drugih vrsta softverskih proizvoda, a ako želimo da se Hrvatska ucrta na AI mapu svijeta, morat ćemo poraditi na dijeljenju znanja i iskustava među našim stručnjacima i tvrtkama.

Kultura 2.0

Kako je digitalna industrija došla do “Spavat ću kad umrem” stava i što možemo učiniti da to promijenimo

Želimo li u brzopromjenjivoj industriji poput digitalne ostvariti sve što smo zamislili - dan se čini prekratak. Jesu li neprospavane noći investicija ili trošak koji dolazi na naplatu? Možda oboje, a možda možemo bolje...

Startupi i poslovanje

Postaju li IT inženjeri digitalni “prepperi”?

Digitalna tvrtka koja se bavi pružanjem usluge o kojoj ovisi svakodnevica korisnika mora biti dostupna u svim situacijama. Kao IT inženjeri jednostavno morate očekivati - neočekivano. 2020. nije ništa značajno promijenila - samo nam je to još više potvrdila.

Kultura 2.0

4 koraka koja će vas sigurno pripremiti za Black Friday i Cyber Monday!

Prije par godina još se i moglo dogoditi da neke web trgovine potpuno ignoriraju Black Friday, ali ne i u 2020. Puno je izbora, a vremena su neizvjesna - kako pronaći najbolje ponude? Ovi savjeti mogli bi vam poslužiti.

Startupi i poslovanje

Kriza medicinskog kanabisa splitsku tvrtku Agilno pripremila za healthtech boom 2020.

Tržište medicinskog kanabisa prošle je godine doživjelo velike probleme, a što je uvelike utjecalo na glavni projekt splitske tvrtke Agilno - Strainprint aplikaciju. Kako su poučeni tim iskustvom pivotirali u smjer healthtecha?

Kultura 2.0

Sigurnije ne znači lošije – iskustvo, što dvostruka autentifikacija donosi za kupce i trgovce?

Do kraja godine u svim zemljama EU počet će primjena regulative koja će naše digitalne transakcije osigurati s dvostrukom autentifikacijom. Postoje vrlo dobri razlozi zašto zbog toga ne bismo trebali gunđati, već biti sretni i zadovoljni.