Vojnik i filozof, Emmanuel Goffi o tome što će se dogoditi ako oružja postanu – pametnija

Emmanuel Goffi, francuski je filozof s pozadinom kakvom ne bi očekivali od jednog filozofa koji se odlučio usmjeriti na etiku. Služio je 27 godina u francuskom ratnom zrakoplovstvu te se kao vojnik filozof odlučuje usredotočiti na područje vojne etike, točnije – etiku primjenjuje u analiziranju smrtonosnog autonomnog oružja (lethal autonomous weapon, ili skraćeno LAW) i samim time na umjetnu inteligenciju.

Povodom održavanja konferencije Data Science Adria koja se održava od 16. do 19. svibnja, imali smo priliku razgovarati s vojnikom-etičarem o raznim pitanjima koja dolaze na tapet s napretkom vojne tehnologije. 

Za većinu ljudi postoji samo jedan odgovor: neprihvatljivo.

Emmanuela, koji se tijekom svoje karijere dosta bavio LAW tehnologijom, upitali smo prvo da nam objasni glavne razloge zašto bi neko autonomno oružje bilo etično odnosno neetično. Kako to obično zna biti s etikom, odgovor nije jednostavan zbog čega nam Emmanuel daje dvije teze. Prva, za koju kaže da mu je ujedno i najdraža, govori kako je LAW uvijek “etičan”.

Zapravo, etičnost se često zamjenjuje s pojmom “dobar”, “ispravno” ili “prihvatljivo”, dok etika pokriva puno veći spektar djelovanja od pukog sažimanja stvari u potpuno prihvatljive i potpuno neprihvatljive. Riječi nisu neutralne i zato mogu voditi krivoj interpretaciji. Riječi isto mogu biti oružje.

Drugu tezu možemo često čuti, ali nju je potrebno preformulirati na temelju onoga što je Emmanuel prethodno naveo:

Uzmimo pojam “etički prihvatljivo” kao istoznačnicu za etično i pojam “etički neprihvatljivo” kao istoznačnicu za neeitčno. Odgovor kojeg mogu dati na početno pitanje je li LAW etičan glasi ovako: Ovisi.

Svjestan sam kako ovo nije zadovoljavajući odgovor. Etička prihvatljivost ili neprihvatljivost ovisi o kontekstu, a bez konteksta nema jasnog odgovora. Problem s ovakvim pitanjima je što traže jednostavan odgovor na složeni problem.

Ono što nam Emmanuel pokušava je reći kako ne postoji jednostavan odgovor. Etička prihvatljivost ili neprihvatljivost LAW oružja može se proučavati samo od slučaja do slučaja – koji ovise o kontekstu:

Izvan ovog okvira, bilo kakva rasprava je besmislena kao što pokazuje trenutna rasprava u CCW-u (Konvencija o određenim konvencionalnim oružjem). Regulacija LAW-a rješava se na vrlo apstraktnoj razini, dok se države time bave na nižoj razini apstrakcije.

Je li “napredak u načinu ubijanja” sam po sebi problematičan?

Rekli smo kako etika nije najjednostavnija grana filozofije, a kako bismo u njoj bili što bolji, tako moramo ispravno koristiti riječi. Odgovor na pitanje o problematičnosti napretka ubijanja, ovisi o tome što mislimo pod “napredak”, ističe Emmanuel:

Pretpostavljam da problem nije u napretku ili ne, nego u samom vođenju ratova. U svakoj takvoj situaciji, gdje su životi u pitanju, svaki način da unaprijedite sigurnost svojih ljudi i povećate svoju vojnu učinkovitost, smatra se poželjnim.

Ubijanje je problematično. Alati i metode koji se koriste su, po mom mišljenju, sekundarni.

Nadogradnja (ili poboljšanje) načina na koji se međusobno ubijamo nije ništa novo. To je dio povijesti ratovanja, tehnologija je samo poluga, zaključuje naš sugovornik, vojnik i filozof.

Na bojištu se već neko vrijeme koriste roboti…

Danas se na bojišnicama koriste tisuće robota. Najpoznatiji su trenutno dronovi zvani Unmanned Aerial Vehicles (UAV) poput američkog Predatora i Reapera. To su oružja koja imaju različite razine autonomnosti i širok spektar primjena: od prikupljanja obavještajnih podataka, do traženja mina, logistike i do isporuke naoružanja na unaprijed identificirane ciljeve (ljudske ili materijalne):

Oni se danas naširoko koriste u sukobu između Rusije i Ukrajine. Tamo možemo vidjeti bespilotne letjelice kamikaze (ili samoubojice) poput drona Shahed-136 iranske proizvodnje koji koristi Rusija ili američkog Switchbladea koji koriste Ukrajinci.

UAV nisu jedni robotizirani oružani sustavi u sukobu između Rusije i Ukrajine. Bespilotna kopnena vozila te bespilotna površinska ili podvodna vozila također se koriste za izviđanje i nadzor, vatrenu potporu ili medicinske intervencije:

Neki od njih kao što su TALON (SAD), Uran-9 (Rusija), Sea Hunter (SAD), kineski Yak ili izraelski M-RCV su poznati. Ovi sustavi mogu biti opremljeni umjetnom inteligencijom i mogu im se dodijeliti različite razine autonomije.

Big data također nije isključen iz vojne svrhe

Big data može se koristiti u operacijama izviđanja i nadzora za definiranje obrazaca, precizniju identifikaciju ciljeva, pa čak i točnije pogađanje, objašnjava nam Emmanuel:

Može se još koristiti za informiranje samog oružanog sustava, kao i vojnika na terenu (koji moraju brzo donositi odluke), pružajući vrlo precizne podatke koji se mogu koristiti za donošenje informiranijih odluka. Pomaže ubrzati petlju OODA (Promatraj, Orijentiraj se, Odluči, Djeluj); znajući da je vrijeme ključni strateški faktor.

U osnovi, kao i u civilnim tehnologijama, veliki podaci, ako se ispravno obrađuju, znače brže i točnije procese donošenja odluka.

“Zakoni i propisi koji se tiču vojske uvijek su ograničeni i preblagi!”

Upitali smo Emmanuela i možemo li tijekom ovog stoljeća očekivati više regulacije i potencijalnu demilitarizaciju u svijetu – te da li postoji mogućnost da tehnologija pomogne u vezi s tim.

Emmanuel odgovara kako je regulacija uvijek moguća, ali kako se AI razvija, tako je sve teže pratiti ritam. “Propisi su uvijek plitki, temeljeni na kompromisima koji otvaraju zakonske rupe i stvaraju sive zone u koje će sukobljene strane rado srljati”, naglašava Emmanuel:

Možda mislite da sam pesimist, ali nisam. Već godinama proučavam ratovanje, a svi su propisi vrlo ograničeni. To je uglavnom zbog činjenice da je obrana pitanje suvereniteta država i da reguliranje alata ili metoda koje se koriste izmiče međunarodnim tijelima.

U tom slučaju mnogi bi istaknuli kako postoje međunarodni propisi – što je istina, ali Emmanuel nije siguran koliko su oni učinkoviti:

Ženevske konvencije i njihovi protokoli, na primjer, pokazali su svoja ograničenja. Trenutna rasprava o LAW-u i Članku 36. dokaz je nedosljednosti između međunarodnih propisa i stvarnosti suvremenog bojnog polja.

Možemo zauzeti stav kako je to “bolje nego ništa”, ali Emmanuel smatra kako je to vrlo lijen argument, a propisi u vojnoj domeni uvijek će biti ili preblagi ili zastarjeli:

Razmislite o činjenici da se, kada je riječ o upravljanju umjetnom inteligencijom, vojna tehnologija jedva uzima u obzir. Pogledajte Montrealsku deklaraciju ili nadolazeći Zakon o umjetnoj inteligenciji. To nam govori nešto o specifičnom statusu vojnih sustava u raspravi.

Umjesto robota, ljudi bi mogli ostati u središtu ratova

Emmanuel nije vičan futurizmu, ali smatra kako će LAW sustave naširoko koristiti akteri koji imaju sredstva za dizajn, razvoj i korištenje takvih sustava. To ne znači kako će ratove voditi roboti jer uništavanje robota nema isti psihološki učinak kao ubijanje ili ozljeđivanje ljudskih bića, pojašnjava Emmanuel:

Dakle, ljudska bića će ostati u središtu ratova, a suradnja ljudi i strojeva bit će u porastu.

Također, Emmanuel vidi velike razlike među akterima. Točnije, između onih koji si mogu priuštiti razvoj visokotehnoloških sustava i onih koji su u slabijem položaju zbog nedostatka sredstava:

Lako možemo zamisliti da će ratovi i dalje izmicati kontroli država (što će usput pogoršati poteškoće u reguliranju sustava oružja). Zatim, možemo vidjeti da će se ratovi preseliti s bojnog polja u kibernetički prostor (pa čak i svemir) što znači da će tradicionalni sustavi oružja biti zamijenjeni, ojačani ili dopunjeni drugim sredstvima.

Ovo su trendovi koji su već identificirani, a možemo samo zamisliti na koje sve načine će ih dalje poticati tehnologije, zaključuje Emmanuel.

O etičkim pitanjima u poslovanju općenito, Emmanuel će pričati na Data Science Adria konferenciji 17. svibnja.