Postoji AI koji je toliko moćan da ga njegovi tvorci ne žele pustiti u javnost – i to s razlogom. U ovoj epizodi otkrivamo kako takvi modeli pronalaze sigurnosne propuste stare desetljećima i zašto bi ista tehnologija mogla biti jednako opasna koliko i korisna.
Dok AI kompanije razvijaju sve moćnije modele, neki od njih možda nikada neće biti dostupni javnosti. U ovoj epizodi analiziramo zašto Anthropic tvrdi da je njihov novi model preopasan za širu upotrebu, kako OpenAI razvija vlastiti odgovor i što to znači za budućnost sigurnosti na internetu. Uz to, donosimo i presedan iz SAD-a gdje su Meta i YouTube proglašeni odgovornima za narušavanje mentalnog zdravlja korisnika.
AI koji otkriva sigurnosne rupe stare desetljećima
Marin: Krenimo s možda najzanimljivijom pričom – AI koji je toliko moćan da ga ne žele pustiti u javnost.
Nikolina: Da, Anthropic je predstavio Claude Mythos Preview, model koji je dostupan samo malom broju velikih kompanija.
Marin: Zašto ga ne daju pristup svima?
Nikolina: Zato što je fokusiran na kibernetičku sigurnost i može otkrivati ranjivosti koje su ljudima godinama promicale. Problem je što bi isti alat mogli koristiti i hakeri.
Marin: Znači dvostruki mač.
Nikolina: Upravo to. Model je već pronašao više od tisuću sigurnosnih propusta, uključujući bugove u operativnim sustavima i softverima koji su godinama smatrani sigurnima.
Nikolina: Jedan od najzanimljivijih primjera je OpenBSD, gdje je pronađena ranjivost stara čak 27 godina.
Marin: To je prilično zastrašujuće.
Nikolina: I dodatno zabrinjava to što može otkrivati tzv. zero-day ranjivosti – greške za koje ni developeri nisu znali da postoje.
AI kao alat za sigurnost – ili za napade
Marin: Ako može pronaći takve propuste, to znači da može i ubrzati cyber napade.
Nikolina: Da, i zato je pristup ograničen. Trenutno ga koriste samo velike kompanije poput tehnoloških divova.
Marin: Znači opet dolazimo do pitanja tko ima pristup najmoćnijoj tehnologiji.
Nikolina: I tu se otvara tema digitalne nejednakosti – najjači dobivaju najbolje alate, a ostali ostaju iza.
Marin: “Pay to win” model i u stvarnom svijetu.
Nikolina: Upravo tako. Sigurnost bi mogla postati jedna od najvrjednijih “valuta” u digitalnom svijetu.
OpenAI razvija vlastiti model
Marin: Naravno, OpenAI ne stoji po strani.
Nikolina: Odmah su najavili da rade na sličnom modelu, za sada pod nazivom Spud, koji bi mogao biti jednako moćan ili čak moćniji.
Marin: I opet će pristup biti ograničen?
Nikolina: Da, barem u početku. Već imaju program koji omogućuje odabranim organizacijama pristup naprednim sigurnosnim alatima.
Marin: Znači utrka se nastavlja.
Nikolina: Bez pauze.
AI rat i percepcija u javnosti
Marin: Imam osjećaj da se ovaj AI rat sve više vodi i kroz percepciju u javnosti.
Nikolina: Da, pogotovo nakon što je OpenAI potpisao ugovor s Pentagonom, dok je Anthropic to odbio.
Marin: I to je utjecalo na korisnike.
Nikolina: Da, Anthropic je dobio simpatije dijela javnosti i više korisnika, dok je OpenAI morao reagirati drugim potezima poput najave IPO-a.
Sud protiv platformi: Meta i YouTube proglašeni odgovornima
Marin: Prelazimo na drugu veliku temu – sud u Kaliforniji. Meta i YouTube proglašeni su odgovornima za narušavanje mentalnog zdravlja jedne korisnice.
Nikolina: To je presedan.
Marin: Sud je zaključio da su platforme dizajnirane na način koji potiče ovisnost i nisu dovoljno upozorile korisnike na moguće posljedice.
Nikolina: Kolika je kazna?
Marin: Ukupno oko 3 milijuna dolara, s tim da Meta snosi 70% odgovornosti.
Nikolina: Zanimljivo je da je jedna osoba dobila spor protiv tako velikih kompanija.
Marin: I to bi moglo otvoriti vrata za brojne slične tužbe u budućnosti.
Tko je odgovoran: platforma ili korisnik?
Nikolina: Ali ovo otvara i šire pitanje – tko je zapravo odgovoran?
Marin: Teško je točno odrediti. Postoje istraživanja koja pokazuju da platforme potiču ovisnost, ali isto tako postoji i osobna odgovornost.
Nikolina: I pitanje je gdje povući granicu.
Marin: Upravo tako. Ova presuda bi mogla biti početak strože regulacije.
Flop: pritisak na Anthropic i rast cyber napada
Nikolina: Moj flop je vezan uz Anthropic. Američki sud odbio je njihov zahtjev da se privremeno makne oznaka sigurnosnog rizika. To znači da organizacije povezane s Pentagonom ne smiju koristiti njihove modele i dalje.
Marin: Moj flop je rast zlonamjernog prometa – hakerske aktivnosti porasle su za više od 200% u kontekstu globalnih sukoba.
Nikolina: Digitalni rat je već tu.
Top: robot za istraživanje Marsa i novi Metin AI
Marin: Moj top je robot iz Švicarske koji bi mogao ubrzati istraživanje Marsa – poluautonomni sustav koji može obavljati zadatke bez stalne kontrole ljudi.
Nikolina: Moj top je Metin novi AI model koji bi trebao poboljšati korisničko iskustvo na njihovim platformama – od preporuka do praktičnih funkcija poput procjene kalorija iz fotografija tanjura.
Zaključak: AI postaje sve moćniji – i sve opasniji
Marin: Ako nešto možemo zaključiti, to je da AI postaje sve moćniji.
Nikolina: I da s tom moći dolazi sve više pitanja – o sigurnosti, dostupnosti i odgovornosti.
Marin: A odgovori na ta pitanja tek dolaze.
