Jedan od najutjecajnijih intelektualaca današnjice smatra da je AI novi temelj svjetske dominacije. Tvrdi kako države koje ne razviju vlastite AI sustave riskiraju gubitak političke, ekonomske i kulturne autonomije.
Što će se dogoditi kad umjetna inteligencija postane bolji pripovjedač od čovjeka? Kad algoritmi počnu oblikovati naše emocije, političke odluke i vjeru? I može li demokracija preživjeti u takvom svijetu?
U Lisinskom je Yuval Noah Harari, izraelski povjesničar i filozof te autor Sapiensa i Homo Deusa, pokušao ponuditi odgovore na ta pitanja. U razgovoru s Marijanom Grbešom s Fakulteta političkih znanosti istaknuo je da glavni problem našeg vremena nije tehnologija sama po sebi, nego kombinacija ljudske gluposti, loših informacija i sustava koji ih ubrzavaju.
Inteligencija nije isto što i mudrost
Informacije više nisu luksuz, nego višak, vjeruje Harari te oštro tvrdi da će i pametni ljudi donositi glupe odluke ako im damo loše informacije:
Sve nam je dostupno, ali rijetko što razumijemo. Podaci su postali pozadinska buka, a ne oslonac za donošenje odluka.
Harari upozorava da nas najsofisticiraniji informacijski sustavi koje trenutno imamo uz sve svoje benefite istovremeno “preplavljuju smećem”.
Civilizacija nikad nije imala više znanja, a nikad manje povjerenja u institucije, znanost i ljude koji te sustave održavaju. Problem nije u količini informacija, nego u našoj sposobnosti da ih filtriramo. Umjetna inteligencija dodatno pojačava taj jaz te ne donosi mudrost, kaže Harari, nego efikasnost:
AI optimizira sve, ali ne pita zašto. A ako je cilj pogrešan, svaka optimizacija vodi nas brže u pogrešnom smjeru.
AI nam, tvrdi Harari, daje sve odgovore, ali nas odvlači od najvažnijeg pitanja – što zapravo želimo sa svim tim znanjem.
Novi svjetski (ne)red
Početkom 21. stoljeća čovječanstvo je prvi put trošilo više na zdravstvo nego na vojsku. Danas se taj trend okreće: ponovno rastu ulaganja u sigurnost, zidove i oružane sukobe. Tabu o osvajanju teritorija silom više praktički ne postoji, a međunarodni poredak koji je desetljećima držao svijet stabilnim vidljivo se urušava. U takvom okruženju, vjeruje Harari, umjetna inteligencija postaje ono što je parni stroj bio u 19. stoljeću – temelj nove globalne dominacije.
On taj trenutak naziva razdobljem “namjernog razaranja poretka”, procesom u kojem se svjesno ruše strukture stvorene nakon Drugog svjetskog rata te upozorava:
Kad uništiš poredak, a ne ponudiš ništa umjesto njega, dobiješ kaos. U kaosu svi pate.
Umjesto suradnje ponovno se vraćaju logika blokova i geopolitika s narativnom “svatko za sebe”. A u tom novom nadmetanju umjetna inteligencija postaje ključni resurs moći. Ono što je parni stroj nekoć omogućio Britaniji, Francuskoj i SAD-u, danas AI može omogućiti državama koje uspiju ovladati njenom infrastrukturom:
AI bi mogao postati ono što je nekad bila industrijska revolucija, alat kojim šačica zemalja dominira nad svima ostalima.
Tko kontrolira umjetnu inteligenciju, tvrdi Harari, kontrolira i političku percepciju, ekonomski utjecaj i društvene narative. To više nije samo tehnološka prednost, nego nova geopolitička poluga.
Zato upozorava da bi se svijet mogao vratiti u oblik digitalne asimetrije nalik kolonijalnom dobu. Države koje ne razviju vlastite AI sustave riskiraju ovisnost o tuđoj tehnologiji i time gubitak političke, ekonomske i kulturne autonomije u desetljećima koja dolaze.
Algoritmi kao moderatori društva
Nakon globalnog poretka, Harari se okrenuo politici i demokraciji. Demokracija, kaže, nikada nije postojala bez tehnologije. Nekad je to bio tiskarski stroj, kasnije radio i televizija, a danas su to naravno algoritmi:
Demokracija nije ideologija, ona je razgovor. A kad razgovor nestane, nestaje i demokracija.
U teoriji, internet je trebao biti najveći alat slobode u povijesti. U praksi, dogodilo se suprotno. Komunikacija se fragmentirala, a javni prostor raspao na tisuće paralelnih feedova. Harari tvrdi da je posljedica toga gubitak osnovne ljudske sposobnosti – slušanja:
Ljudi još uvijek znaju govoriti, ali ne znaju više slušati.
Više se vjeruje AI-ju nego ljudima
Prema njegovoj analizi, problem više nije razlika između politički suprotnih strana, već između stvarnosti i dojma. Tehnološka revolucija u komunikaciji stvorila je svijet u kojem sadržaj ne mora biti istinit da bi bio učinkovit. Dovoljno je da bude privlačan. Ili još gore iritantan. U takvom okruženju povjerenje u institucije prirodno erodira, tvrdi Harari:
Povjerenje nije nestalo iz svijeta. Samo se preselilo iz ljudi u algoritme.
Ljudi danas sve manje vjeruju novinarima, profesorima, političarima ili bankama, ali zato sve više vjeruju sustavima umjetne inteligencije koji im biraju vijesti, glazbu, partnere ili investicije. Zato nije čudno da su mnogi spremniji vjerovati kriptovalutama nego bankama, ili algoritmu koji filtrira sadržaj više nego novinaru koji ga piše. Povjerenje nije nestalo samo se preselilo u tehnologiju.
Što nas čeka?
Harari nas je u svom intervju upozorio na razne scenarije koje nam po njegovu mišljenju donosi umjetna inteligencija. On AI vidi kao gotovo neizbježni izvor kaosa i dominacije, ali očigledno potcjenjuje ljudsku sposobnost prilagodbe, kao i povijesnu otpornost društava.
Tehnologija nikada nije bila val koji sve nosi pred sobom, uvijek je bila rezultat suradnje ljudi, institucija i pravila koja je usmjeravaju. AI nije iznimka. Iako AI može ubrzati fragmentaciju, produbiti nepovjerenje i pojačati političke sukobe, isto tako može stvoriti snažnije mehanizme provjere informacija, kvalitetnije obrazovanje i transparentnije institucije kao i nove poslove.
Budućnost oblikujemo zajedno
Harari često prikazuje ljude kao pasivne pred tehnologijom, iako nas povijest uči suprotno: društva se prilagođavaju, mijenjaju i iznova oblikuju svoje alate. Hoće li AI postati instrument kontrole ili alat za bolje društvo, ovisi manje o algoritmima, a puno više o ljudima koji ih stvaraju, reguliraju i koriste.
Najveći rizik nije sama AI, nego uvjerenje da su tehnološki ishodi unaprijed zadani. Budućnost nije nešto što nam se događa, već ono što zajedno oblikujemo.
Istina je da današnji pomak povjerenja prema algoritmima stvara pukotine u institucijama i demokratskim procesima, ali to ne znači da su oni osuđeni na propast. Njihova budućnost ovisit će o tome hoćemo li tehnologiju koristiti kao zamjenu za ljudsku prosudbu ili kao način da je ojačamo.
