Povijest i utjecaj algoritama na ljudsku kulturu: Uvod u digitalni kapitalizam

Riječ algoritam u ljudskoj je svijesti 1200 godina. Izvedena je iz prezimena bagdadskog astronoma i matematičara koji je živio na prijelazu iz osmog u deveto stoljeće, Muhameda ibn-Muse al-Hwarizmija, u prijevodu jednog njegovog djela na latinski.

Nakon toga, sve do revolucije osobnih računala u sedamdesetim i osamdesetim godinama prošlog stoljeća algoritam prebiva pretežno u glavama matematičara, inženjera i informatičara, a od tada sve više ulazi u medije pa i svakodnevicu. Tijekom prva dva desetljeća 21. stoljeća riječ algoritam proširila se, ustalila i učestala u ljudskom govoru, zapisima i primjeni na internetu.

Organiziranje, sortiranje i klasifikacija

No, što je, zapravo, algoritam? Stručni naziv za programiranje procesa donošenja odluka, koje se ostvaruju primjenom tehnologija. Te odluke su prije sveprisutnosti računala i interneta donosili ljudi, a danas ih sve više preuzimaju razni ekspertni sustavi i umjetna inteligencija na svim platformama koje svakodnevno, u razne svrhe, koristimo – kao što su Google, Facebook, Amazon, Netflix, Uber, TikTok, X (Twitter), Tinder, Spotify, LinkedIn, Instagram, YouTube, i tako dalje. To su najpoznatije tvrtke koje danas upravljaju algoritmima za organiziranje, sortiranje i klasifikaciju stvari i ljudi te njihovih ideja i osjećaja, tvrtke koje sve više usmjeravaju naše ponašanje – uglavnom prema njihovim, a manje prema našim željama.

Tehnologije su uvijek utjecale na ljudsku kulturu, a kultura je u svim povijesnim razdobljima uvijek određivala i način i opseg primjene tehnologija. Kulturu ovdje shvaćamo u najširem mogućem smislu – kao općenito prihvaćen sustav vrijednosti na kojima je društvo utemeljeno, sustav koji definira kako će ljudi, u prostoru u kojem dana kultura prevladava, živjeti. Tehnologiju ovdje shvaćamo nešto uže, kao informatičku tehnologiju – iako možemo reći da su sve današnje tehnologije zapravo informatičke tehnologije jer su, više ili manje, kompjutorizirane, a to znači utemeljene u softveru, u algoritmima.

Drugim riječima, današnja globalna, tehnologijom sve više posredovana ljudska kultura je algoritamska kultura. Gotovo sve u njoj je programirano i automatizirano logičkim i matematičkim odnosima.

Bilo je algoritma u ljudskim kulturama i prije interneta, no u ovom serijalu bavit ćemo se utjecajem algoritama u naše, internetsko doba, kao paradigmom kulture u kojoj živimo (u ovom, prvom dijelu), kao alatom gospodarskog sustava u kojem radimo (digitalni kapitalizam – drugi dio) te primjeni algoritamskog menadžmenta u radnim odnosima, počevši od globalnih primjera (treći dio) do situacije u našoj zemlji (četvrti i peti dio).

Želite li saznati više pojedinosti o filozofiji, matematici, lingvistici i povijesti algoritma i njegovoj konvergenciji s kulturom, pročitajte knjigu Algorithmic culture before Internet, profesora sa Sveučilišta Colorado, Teda Striphasa, koji tu temu razvija više od jednog desetljeća, u svojim knjigama i na svom blogu.

Računalom posredovano donošenje odluka

Problem s automatiziranim računalno posredovanim algoritamskim donošenjem odluka jest što, uz sve dobro koje donosi može, poput svake druge tehnologije biti i alat sustavne eksploatacije i izvor niza zlouporaba. Algoritamsko donošenje odluka, koje je danas utkano u mnoge aspekte naše svakodnevice, utemeljeno je, uz matematiku i logiku, na modelima bihevioralne psihologije. Problem s tim modelima je što u njih mogu biti, a često i jesu, ugrađene razne predrasude, pristranosti pa i nesporazumi.

Rečeno informatičkim slengom, predrasude i pristranosti u algoritmima često su feature – namjerna funkcionalnost, a ne bug – pogreška. Razmjere i domišljatost tih uporaba i zlouporaba, “bugova” i “featurea”, ilustrirat ćemo ovdje uvodno i ukratko s par globalnih, većini čitatelja više ili manje poznatih primjera.

Kontekstualni oglasi i psihološki profili

Prije točno dvadeset godina tvrtka Google pokrenula je uslugu Gmail. I što je odmah napravila? Skenirala je privatne poruke svojih korisnika kako bi na temelju tako stečenih informacija generirala personalizirane oglase od kojih je solidno zarađivala. Kad se za tu povredu privatnosti saznalo, mnogima nije bilo ugodno.

No, zorno ilustrira ovu činjenicu: vaši podaci na internetu, sviđalo se to vama ili ne, na raspolaganju su onima preko čijih poslužitelja kolaju. Svako vaše pretraživanje, svaki lajk i svaki klik bit će prisvojen i unovčen kao imovina tvrtke gdje ste to pretraživanje, lajk i klik obavili. I sve je to legalizirano famoznim uvjetima korištenja (terms and conditions) – koje gotovo nitko ne čita, te pravilima zaštite privatnosti (privacy policy) koju smo do GDPR uredbe preslabo branili.

Prije pet godina saznali smo za slučaj Cambridge Analytica – podružnicu londonske tvrtke za politički konzalting SCL Group – koja je prije deset godina prikupila podatke s profila i privatnih poruka 87 milijuna korisnika društvene mreže Facebook te je primjenom algoritama strojnog učenja izradila psihološke profile glasača na izborima u Ujedinjenoj Kraljevini i Sjedinjenim Državama. Spoznaje do kojih se tako došlo bile su iskorištene za izradu precizno dizajniranih političkih poruka i oglasa s ciljem postizanja željenih rezultata na referendumu o Brexitu u Velikoj Britaniji i na predsjedničkim izborima 2016. u Sjedinjenim Državama.

Danas se zna da je tim pothvatom upravljao Steve Bannon, tadašnji politički savjetnik Donalda Trumpa. O tome je poslije napisano nekoliko knjiga i snimljen dugometražni dokumentarac na Netflixu, The Great Hack. Poslije se raspravljalo je li i koliko Cambridge Analytica uspjela utjecati na procese u koje se upetljala, no ono što je sigurno – iskoristila je skandal kada se sve to saznalo kako bi podigla svoju reputaciju i privukla nove klijente. Preciznije rečeno, Cambridge Analytica nije hakirala Facebook, već je iskoristila tadašnje slabosti njegovih algoritama za zaštitu korisničkih podataka te ih poslije toga monetizirala.

Digitalni kapitalizam

Ciljani internetski oglasi kreirani na temelju konteksta stečenog analizom sadržaja u porukama e-pošte i posebno dizajnirane digitalne sugestije nastale analizom profila korisnika društvenih mreža tek su dva razvikanija primjera komercijalno i politički iskorištenih računalno posredovanih transakcija obrađenih posebnim algoritmima. Sustav je to koji se već više od dvadeset godina automatizira, unaprjeđuje i razvija  stalnim eksperimentiranjem i primjenom sve snažnijih i usavršenijih tehnologija.

Riječ je o (više i ne tako) novom gospodarskom sustavu koji se u znanstvenoj literaturi i medijima naziva raznim imenima – digitalni, nadzorni, podatkovni, i – algoritamski kapitalizam. Osnovna sirovina su mu podaci koje svi stvaramo, a koje obrađuju i prerađuju strojevi: automatizirani ekspertni računalni sustavi i sustavi umjetne inteligencije.

Kratku povijest digitalnog kapitalizma, kako je nastao i razvijao se te kamo nas vodi, opisali smo u drugom dijelu ovog serijala, u članku Nova vrsta kapitalizma.

Još iz serijala:

Sve je sirovina: Kako je tehnologija stvorila novu vrstu kapitalizma

Što je radnik nakon što ga softveriziramo?

Ustajte vi algoritamsko roblje, vi sužnji aplikacija!

Kako će izgledati budućnost rada u doba umjetne inteligencije?

Članak je objavljen uz financijsku potporu Agencije za elektroničke medije na temelju Programa ugovaranja kvalitetnih novinarskih radova u elektroničkim publikacijama.