Harari AI smatra izvorom kaosa, ali i novog poretka: Tko kontrolira AI, kontrolirat će svijet

Što će se dogoditi kad umjetna inteligencija postane bolji pripovjedač od čovjeka? Kad algoritmi počnu oblikovati naše emocije, političke odluke i vjeru? I može li demokracija preživjeti u takvom svijetu?

U Lisinskom je Yuval Noah Harari, izraelski povjesničar i filozof te autor Sapiensa i Homo Deusa, pokušao ponuditi odgovore na ta pitanja. U razgovoru s Marijanom Grbešom s Fakulteta političkih znanosti istaknuo je da glavni problem našeg vremena nije tehnologija sama po sebi, nego kombinacija ljudske gluposti, loših informacija i sustava koji ih ubrzavaju.

Inteligencija nije isto što i mudrost

Informacije više nisu luksuz, nego višak, vjeruje Harari te oštro tvrdi da će i pametni ljudi donositi glupe odluke ako im damo loše informacije:

Sve nam je dostupno, ali rijetko što razumijemo. Podaci su postali pozadinska buka, a ne oslonac za donošenje odluka.

Harari upozorava da nas najsofisticiraniji informacijski sustavi koje trenutno imamo uz sve svoje benefite istovremeno “preplavljuju smećem”.

Civilizacija nikad nije imala više znanja, a nikad manje povjerenja u institucije, znanost i ljude koji te sustave održavaju. Problem nije u količini informacija, nego u našoj sposobnosti da ih filtriramo. Umjetna inteligencija dodatno pojačava taj jaz te ne donosi mudrost, kaže Harari, nego efikasnost:

AI optimizira sve, ali ne pita zašto. A ako je cilj pogrešan, svaka optimizacija vodi nas brže u pogrešnom smjeru.

AI nam, tvrdi Harari, daje sve odgovore, ali nas odvlači od najvažnijeg pitanja – što zapravo želimo sa svim tim znanjem.

Novi svjetski (ne)red

Početkom 21. stoljeća čovječanstvo je prvi put trošilo više na zdravstvo nego na vojsku. Danas se taj trend okreće: ponovno rastu ulaganja u sigurnost, zidove i oružane sukobe. Tabu o osvajanju teritorija silom više praktički ne postoji, a međunarodni poredak koji je desetljećima držao svijet stabilnim vidljivo se urušava. U takvom okruženju, vjeruje Harari, umjetna inteligencija postaje ono što je parni stroj bio u 19. stoljeću – temelj nove globalne dominacije.

On taj trenutak naziva razdobljem “namjernog razaranja poretka”, procesom u kojem se svjesno ruše strukture stvorene nakon Drugog svjetskog rata te upozorava:

Kad uništiš poredak, a ne ponudiš ništa umjesto njega, dobiješ kaos. U kaosu svi pate.

Umjesto suradnje ponovno se vraćaju logika blokova i geopolitika s narativnom “svatko za sebe”. A u tom novom nadmetanju umjetna inteligencija postaje ključni resurs moći. Ono što je parni stroj nekoć omogućio Britaniji, Francuskoj i SAD-u, danas AI može omogućiti državama koje uspiju ovladati njenom infrastrukturom:

AI bi mogao postati ono što je nekad bila industrijska revolucija, alat kojim šačica zemalja dominira nad svima ostalima.

Tko kontrolira umjetnu inteligenciju, tvrdi Harari, kontrolira i političku percepciju, ekonomski utjecaj i društvene narative. To više nije samo tehnološka prednost, nego nova geopolitička poluga.

Zato upozorava da bi se svijet mogao vratiti u oblik digitalne asimetrije nalik kolonijalnom dobu. Države koje ne razviju vlastite AI sustave riskiraju ovisnost o tuđoj tehnologiji i time gubitak političke, ekonomske i kulturne autonomije u desetljećima koja dolaze.

Algoritmi kao moderatori društva

Nakon globalnog poretka, Harari se okrenuo politici i demokraciji. Demokracija, kaže, nikada nije postojala bez tehnologije. Nekad je to bio tiskarski stroj, kasnije radio i televizija, a danas su to naravno algoritmi:

Demokracija nije ideologija, ona je razgovor. A kad razgovor nestane, nestaje i demokracija.

U teoriji, internet je trebao biti najveći alat slobode u povijesti. U praksi, dogodilo se suprotno. Komunikacija se fragmentirala, a javni prostor raspao na tisuće paralelnih feedova. Harari tvrdi da je posljedica toga gubitak osnovne ljudske sposobnosti – slušanja:

Ljudi još uvijek znaju govoriti, ali ne znaju više slušati.

Više se vjeruje AI-ju nego ljudima

Prema njegovoj analizi, problem više nije razlika između politički suprotnih strana, već između stvarnosti i dojma. Tehnološka revolucija u komunikaciji stvorila je svijet u kojem sadržaj ne mora biti istinit da bi bio učinkovit. Dovoljno je da bude privlačan. Ili još gore iritantan. U takvom okruženju povjerenje u institucije prirodno erodira, tvrdi Harari:

Povjerenje nije nestalo iz svijeta. Samo se preselilo iz ljudi u algoritme.

Ljudi danas sve manje vjeruju novinarima, profesorima, političarima ili bankama, ali zato sve više vjeruju sustavima umjetne inteligencije koji im biraju vijesti, glazbu, partnere ili investicije. Zato nije čudno da su mnogi spremniji vjerovati kriptovalutama nego bankama, ili algoritmu koji filtrira sadržaj više nego novinaru koji ga piše. Povjerenje nije nestalo samo se preselilo u tehnologiju.

Što nas čeka?