Vojnik i filozof, Emmanuel Goffi o tome što će se dogoditi ako oružja postanu - pametnija

Vojnik i filozof, Emmanuel Goffi o tome što će se dogoditi ako oružja postanu – pametnija

Kada spojimo autonomna smrtonosna oružja, big data, umjetnu inteligenciju i nedovoljno stroge zakone, čovjek prvo pomisli kako smo sve bliže nekom distopijskom ratnom filmu. Daleko smo (još) od Terminatora, ali za svaki slučaj možemo se pripremiti tražeći odgovore na pitanja: kako takve strojeve učiniti etičnima... i mogu li to uopće biti?

Emmanuel Goffi, francuski je filozof s pozadinom kakvom ne bi očekivali od jednog filozofa koji se odlučio usmjeriti na etiku. Služio je 27 godina u francuskom ratnom zrakoplovstvu te se kao vojnik filozof odlučuje usredotočiti na područje vojne etike, točnije – etiku primjenjuje u analiziranju smrtonosnog autonomnog oružja (lethal autonomous weapon, ili skraćeno LAW) i samim time na umjetnu inteligenciju.

Povodom održavanja konferencije Data Science Adria koja se održava od 16. do 19. svibnja, imali smo priliku razgovarati s vojnikom-etičarem o raznim pitanjima koja dolaze na tapet s napretkom vojne tehnologije. 

Za većinu ljudi postoji samo jedan odgovor: neprihvatljivo.

Emmanuela, koji se tijekom svoje karijere dosta bavio LAW tehnologijom, upitali smo prvo da nam objasni glavne razloge zašto bi neko autonomno oružje bilo etično odnosno neetično. Kako to obično zna biti s etikom, odgovor nije jednostavan zbog čega nam Emmanuel daje dvije teze. Prva, za koju kaže da mu je ujedno i najdraža, govori kako je LAW uvijek “etičan”.

Zapravo, etičnost se često zamjenjuje s pojmom “dobar”, “ispravno” ili “prihvatljivo”, dok etika pokriva puno veći spektar djelovanja od pukog sažimanja stvari u potpuno prihvatljive i potpuno neprihvatljive. Riječi nisu neutralne i zato mogu voditi krivoj interpretaciji. Riječi isto mogu biti oružje.

Drugu tezu možemo često čuti, ali nju je potrebno preformulirati na temelju onoga što je Emmanuel prethodno naveo:

Uzmimo pojam “etički prihvatljivo” kao istoznačnicu za etično i pojam “etički neprihvatljivo” kao istoznačnicu za neeitčno. Odgovor kojeg mogu dati na početno pitanje je li LAW etičan glasi ovako: Ovisi.

Svjestan sam kako ovo nije zadovoljavajući odgovor. Etička prihvatljivost ili neprihvatljivost ovisi o kontekstu, a bez konteksta nema jasnog odgovora. Problem s ovakvim pitanjima je što traže jednostavan odgovor na složeni problem.

General Atomics MQ-1 Predator.

Ono što nam Emmanuel pokušava je reći kako ne postoji jednostavan odgovor. Etička prihvatljivost ili neprihvatljivost LAW oružja može se proučavati samo od slučaja do slučaja – koji ovise o kontekstu:

Izvan ovog okvira, bilo kakva rasprava je besmislena kao što pokazuje trenutna rasprava u CCW-u (Konvencija o određenim konvencionalnim oružjem). Regulacija LAW-a rješava se na vrlo apstraktnoj razini, dok se države time bave na nižoj razini apstrakcije.

Je li “napredak u načinu ubijanja” sam po sebi problematičan?

Rekli smo kako etika nije najjednostavnija grana filozofije, a kako bismo u njoj bili što bolji, tako moramo ispravno koristiti riječi. Odgovor na pitanje o problematičnosti napretka ubijanja, ovisi o tome što mislimo pod “napredak”, ističe Emmanuel:

Pretpostavljam da problem nije u napretku ili ne, nego u samom vođenju ratova. U svakoj takvoj situaciji, gdje su životi u pitanju, svaki način da unaprijedite sigurnost svojih ljudi i povećate svoju vojnu učinkovitost, smatra se poželjnim.

Ubijanje je problematično. Alati i metode koji se koriste su, po mom mišljenju, sekundarni.

Nadogradnja (ili poboljšanje) načina na koji se međusobno ubijamo nije ništa novo. To je dio povijesti ratovanja, tehnologija je samo poluga, zaključuje naš sugovornik, vojnik i filozof.

Na bojištu se već neko vrijeme koriste roboti…

Danas se na bojišnicama koriste tisuće robota. Najpoznatiji su trenutno dronovi zvani Unmanned Aerial Vehicles (UAV) poput američkog Predatora i Reapera. To su oružja koja imaju različite razine autonomnosti i širok spektar primjena: od prikupljanja obavještajnih podataka, do traženja mina, logistike i do isporuke naoružanja na unaprijed identificirane ciljeve (ljudske ili materijalne):

Oni se danas naširoko koriste u sukobu između Rusije i Ukrajine. Tamo možemo vidjeti bespilotne letjelice kamikaze (ili samoubojice) poput drona Shahed-136 iranske proizvodnje koji koristi Rusija ili američkog Switchbladea koji koriste Ukrajinci.

UAV nisu jedni robotizirani oružani sustavi u sukobu između Rusije i Ukrajine. Bespilotna kopnena vozila te bespilotna površinska ili podvodna vozila također se koriste za izviđanje i nadzor, vatrenu potporu ili medicinske intervencije:

Neki od njih kao što su TALON (SAD), Uran-9 (Rusija), Sea Hunter (SAD), kineski Yak ili izraelski M-RCV su poznati. Ovi sustavi mogu biti opremljeni umjetnom inteligencijom i mogu im se dodijeliti različite razine autonomije.

Big data također nije isključen iz vojne svrhe

Big data može se koristiti u operacijama izviđanja i nadzora za definiranje obrazaca, precizniju identifikaciju ciljeva, pa čak i točnije pogađanje, objašnjava nam Emmanuel:

Može se još koristiti za informiranje samog oružanog sustava, kao i vojnika na terenu (koji moraju brzo donositi odluke), pružajući vrlo precizne podatke koji se mogu koristiti za donošenje informiranijih odluka. Pomaže ubrzati petlju OODA (Promatraj, Orijentiraj se, Odluči, Djeluj); znajući da je vrijeme ključni strateški faktor.

U osnovi, kao i u civilnim tehnologijama, veliki podaci, ako se ispravno obrađuju, znače brže i točnije procese donošenja odluka.

“Zakoni i propisi koji se tiču vojske uvijek su ograničeni i preblagi!”

Upitali smo Emmanuela i možemo li tijekom ovog stoljeća očekivati više regulacije i potencijalnu demilitarizaciju u svijetu – te da li postoji mogućnost da tehnologija pomogne u vezi s tim.

Emmanuel odgovara kako je regulacija uvijek moguća, ali kako se AI razvija, tako je sve teže pratiti ritam. “Propisi su uvijek plitki, temeljeni na kompromisima koji otvaraju zakonske rupe i stvaraju sive zone u koje će sukobljene strane rado srljati”, naglašava Emmanuel:

Možda mislite da sam pesimist, ali nisam. Već godinama proučavam ratovanje, a svi su propisi vrlo ograničeni. To je uglavnom zbog činjenice da je obrana pitanje suvereniteta država i da reguliranje alata ili metoda koje se koriste izmiče međunarodnim tijelima.

U tom slučaju mnogi bi istaknuli kako postoje međunarodni propisi – što je istina, ali Emmanuel nije siguran koliko su oni učinkoviti:

Ženevske konvencije i njihovi protokoli, na primjer, pokazali su svoja ograničenja. Trenutna rasprava o LAW-u i Članku 36. dokaz je nedosljednosti između međunarodnih propisa i stvarnosti suvremenog bojnog polja.

Možemo zauzeti stav kako je to “bolje nego ništa”, ali Emmanuel smatra kako je to vrlo lijen argument, a propisi u vojnoj domeni uvijek će biti ili preblagi ili zastarjeli:

Razmislite o činjenici da se, kada je riječ o upravljanju umjetnom inteligencijom, vojna tehnologija jedva uzima u obzir. Pogledajte Montrealsku deklaraciju ili nadolazeći Zakon o umjetnoj inteligenciji. To nam govori nešto o specifičnom statusu vojnih sustava u raspravi.

Umjesto robota, ljudi bi mogli ostati u središtu ratova

Emmanuel nije vičan futurizmu, ali smatra kako će LAW sustave naširoko koristiti akteri koji imaju sredstva za dizajn, razvoj i korištenje takvih sustava. To ne znači kako će ratove voditi roboti jer uništavanje robota nema isti psihološki učinak kao ubijanje ili ozljeđivanje ljudskih bića, pojašnjava Emmanuel:

Dakle, ljudska bića će ostati u središtu ratova, a suradnja ljudi i strojeva bit će u porastu.

Također, Emmanuel vidi velike razlike među akterima. Točnije, između onih koji si mogu priuštiti razvoj visokotehnoloških sustava i onih koji su u slabijem položaju zbog nedostatka sredstava:

Lako možemo zamisliti da će ratovi i dalje izmicati kontroli država (što će usput pogoršati poteškoće u reguliranju sustava oružja). Zatim, možemo vidjeti da će se ratovi preseliti s bojnog polja u kibernetički prostor (pa čak i svemir) što znači da će tradicionalni sustavi oružja biti zamijenjeni, ojačani ili dopunjeni drugim sredstvima.

Ovo su trendovi koji su već identificirani, a možemo samo zamisliti na koje sve načine će ih dalje poticati tehnologije, zaključuje Emmanuel.

O etičkim pitanjima u poslovanju općenito, Emmanuel će pričati na Data Science Adria konferenciji 17. svibnja.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Društvene mreže

Biste li plaćali za korištenje Facebooka i Instagrama? A YouTubea i X-a?

Nova epizoda Netokracijina podcasta kao da se nije odmaknula od Noći vještica jer strava se nastavlja - big tech ekipa uvodi pretplate na sve strane. No, dogodila se jedna stvar koja nam daje nadu... Elon Musk održao je prvi "all hands" sastanak!

Ekskluzivno

Daytona osigurala 2 milijuna dolara od investitora poput CEO-a Stack Overflowa i Damira Sabola

U najranijoj, pre-seed rundi financiranja, Daytona je osigurala investiciju od čak 2 milijuna dolara, primarno od poznatih američkih i hrvatskih (su)osnivača.

Netokracija Podcast

Ovo je email strategija kojom je Burazin privukao investitore poput direktora Stack Overflowa

U novoj epizodi ulazimo u detalje o: (vjerojatno) najvećoj pre-seed rundi u hrvatski startup; tome kako SAD namjerava kontrolirati AI sustave koji bi mogli napraviti atomsku bombu te zašto osnivača Netokracije Ivana Brezaka Brkana izbacuju iz zagrebačkih kavana?

Što ste propustili

Digitalni proizvodi

LAQO opet u potrazi za najodrživijim tech rješenjima koja će nagraditi s 18 tisuća eura

Nakon uspješnog prvog izdanja s više od 250 prijava, krenule su prijave za drugo izdanje LAQOthona, nagradnog natječaja idejnih tech rješenja na temu održivosti u organizaciji Croatijinog LAQO osiguranja, prvog 100 posto digitalnog osiguranja.

Analiza

Hoće li robotaksiji na ulice Zagreba i – kad?

I je li uopće realno očekivati da će se to dogoditi? U ovoj epizodi Netokracijinog podcasta pretresli smo tu vruću temu i to iz svih kutova - tehnološkog, operativnog, financijskog i komunikacijskog.

Tvrtke i poslovanje

10 godina Lean Startup Hrvatska: Ekosustav nekad i danas, što je plan za Smion?

Nakon 10 godina i na desetke radionica, edukacija i događaja Lean Startup Hrvatska postaje Smion te se nastavlja još više fokusirati na razvoj poduzetničkog i inovacijskog ekosustava. U velikom intervjuu, komentiramo desetljeće iza njih, kao i okolnosti na domaćoj sceni nekada i danas.

Analiza

Diskriminira li PlayStation Store Hrvate? Popusta nemamo, euro se tek uveo, a plaćali smo bonovima…

Domaće obožavatelje PlayStation konzole ova godina nije nimalo mazila. Štoviše cijelu godinu obilježio ih je osjećaj "zadnje rupe na svirali" jer sve do sredine studenog nisu mogli kupovati karticama. Zašto? PlayStation Store 11 mjeseci nije prešao na euro niti je dvojno iskazivao cijene...

Tvrtke i poslovanje

Volontiranje zaposlenika donosi dugoročne benefite i njima samima i poslodavcima i zajednici

Kada danas pričamo o volontiranju, unutar kompanije postoji sve više ljudi koji su upoznati s tim pojmom ili su se čak i sami okušali u volontiranju koje je bilo organizirano kroz tvrtku. To pokazuje da napredujemo, ali ima prostora za rast i uključivanje još većeg broja ljudi. 

Tvrtke i poslovanje

Poljski konzultant poručuje: Bez daljnjih odgoda, prilagodite propise i prakse gig ekonomiji

Radite kada želite, koliko želite, s kime želite. Ovo su pogodnosti rada na kojima se gig ekonomija proslavila, ali to ne znači da u praksi uvijek cvate cvijeće...