AI razvija AI brže nego što ga ljudi mogu razumijeti

AI razvija AI brže nego što ga ljudi mogu razumijeti

AI modeli napreduju brže nego što ih možemo razumjeti, testirati i kontrolirati. U drugoj epizodi sedme sezone Netokracija podcasta razgovaramo o novoj fazi AI utrke, u kojoj umjetna inteligencija postaje alat kojim razvijamo novu generaciju AI-ja.

Je li umjetna inteligencija napredovala brže nego što je možemo razumjeti i kontrolirati? U drugoj epizodi sedme sezone Netokracijinog podcasta razgovaramo o novoj fazi AI utrke, mogućem usporavanju razvoja najnaprednijih modela i problemu koji nastaje kada AI počne pomagati u razvoju nove generacije AI sustava.

Dok velike AI kompanije istovremeno govore o sigurnosti i natječu se za tehnološku i tržišnu prednost, otvaramo i pitanje Europe, njezine AI infrastrukture i regulacije društvenih mreža.

Molimo da prihvatite sve kolačiće kako biste mogli vidjeti ovaj sadržaj

Ne sluša vam se ili ne gleda? Zahvaljujući AI-ju, donosimo najvažnije momente!

AI više nije samo proizvod koji ljudi razvijaju

Marin: Prošlu sezonu dosta smo pričali o AI-ju, a sada otvaramo sedmu sezonu upravo s AI ratovima. Prije dva tjedna Dario Amodei, direktor Anthropica, objavio je tekst We Must Pace the Frontier, u kojem govori da bi trebalo usporiti utrku u razvoju AI-ja.

Ivan: Tu je zanimljivo što se AI u međuvremenu promijenio. Više nije samo proizvod koji ljudi razvijaju. Postao je alat kojim ljudi razvijaju sljedeću generaciju AI-ja.

Marin: AI agenti danas mogu pisati i popravljati kod, pokretati eksperimente, analizirati rezultate, pretraživati dokumentaciju i koristiti različite alate. Mogu čak raditi zajedno. Time se otvara mogućnost svojevrsne povratne petlje u kojoj AI pomaže ubrzati razvoj novog AI-ja.

Ivan: Još nismo došli do potpuno autonomne superinteligencije. Ljudi i dalje definiraju ciljeve, razvijaju sustave i kontroliraju infrastrukturu. Ali granica između toga da čovjek razvija AI i toga da AI pomaže čovjeku razvijati AI postaje sve manje jasna.

Što kada AI napravi nešto što nismo predvidjeli?

Marin: Problem nije samo u tome može li AI dati štetan odgovor. Pitanje je možemo li uopće dovoljno brzo razumjeti i testirati ono što razvijamo.

Ivan: Imali smo i situacije u kojima su AI sustavi tijekom sigurnosnih testiranja pronašli načine zaobilaženja postavljenih ograničenja. U jednom testu iz kibernetičke sigurnosti AI agenti uspjeli su riješiti probleme na načine koje ljudi nisu očekivali.

Marin: Zato Amodei predlaže neovisne evaluatore za najnaprednije modele. Anthropic je već počeo suradnju s Accentureom, a planiraju i ulaganja u neovisne evaluatore.

Ivan: Ideja je da AI kompanije pokušaju surađivati. Ako se pojavi određena razina sposobnosti koja nosi ozbiljan rizik, trebalo bi imati zajedničke kriterije prema kojima odlučujemo nastavljamo li razvoj ili ćemo zastati i dodatno evaluirati sustav.

Tko će prvi pritisnuti kočnicu?

Marin: Tu dolazimo do problema. OpenAI, Google i Anthropic međusobno su konkurenti. Koliko će stvarno međusobno dijeliti informacije o tome što njihovi modeli mogu?

Ivan: A tu je i Kina. Ako se SAD i Europa dogovore oko nekih pravila, ne znači da će Kina prihvatiti ista pravila.

Marin: Zato je ovo puno više od pitanja sigurnosti AI-ja. Tu su nacionalna sigurnost, tehnološka konkurencija, tržišno natjecanje i ogromne investicije koje ulaze u AI. Sva četiri elementa teško je pomiriti.

Ivan: Nitko vjerojatno ne želi biti prvi koji će pritisnuti kočnicu ako zna da će konkurencija nastaviti ubrzavati.

Marin: To pomalo podsjeća na nuklearnu utrku. Europa možda može prihvatiti određena pravila, ali pitanje je što će napraviti Kina. A Europa pritom nema ni vlastite frontier modele na razini SAD-a.

Europa nema najbolji model, ali želi najbolje koristiti AI

Ivan: Zato je zanimljivo ono što je Ursula von der Leyen govorila u State of the Union govoru. Europa želi biti neovisnija, a trenutno ovisi o drugima za energiju, AI i druge ključne tehnologije.

Marin: Europa nema “gas”, pa nemaš ni kočnice.

Ivan: Upravo zato se fokus pomiče s pitanja tko ima najbolji model prema pitanju tko će najbolje primijeniti AI. Europa možda nema frontier modele, ali želi AI uvesti u tvornice, bolnice, poljoprivredu, energetiku, pametne gradove, autonomnu vožnju i obranu. EP01

Marin: Recimo, liječnik može koristiti AI uz mamografiju kako bi ranije otkrio rak. To je zapravo ono što se često naziva human in the loop. AI pomaže čovjeku, ali čovjek i dalje ima kontrolu.

Ivan: Ideja je da AI bude u službi ljudi. Europa je jaka u regulaciji, ali slabija u inovacijama. Zato se govori i o specijaliziranim AI modelima i korištenju velike količine podataka koju Europa ima.

Može li Europa razviti vlastitu AI infrastrukturu?

Marin: Europa zato ulaže i u AI startupe, AI tvornice i podatkovne centre. Ali kada pogledamo popis zemalja koje bi trebale dobiti takvu infrastrukturu, Hrvatske zasad nema.

Ivan: Najbliže nam je Slovenija, a tu su i Španjolska, Italija i Francuska.

Marin: Pitanje je hoće li Hrvatska ikada imati takvu AI tvornicu. To nisu mali projekti i imaju velik utjecaj na okoliš. Kod nas odmah dolazimo i do pitanja lokalne zajednice i korištenja resursa.

Ivan: O tome smo razgovarali i s Hennom Virkkunen. Postoje razgovori, ali zasad nema konkretnih znakova da bi Hrvatska dobila takvu infrastrukturu.

AI će promijeniti i tržište rada

Marin: AI već utječe na različite industrije, a s tim dolaze i otkazi. Zato je zanimljiv europski pristup kroz Quality Jobs Act, koji pokušava povezati razvoj AI-ja s vještinama, kvalitetnim radnim mjestima i prilagodbom radnika automatizaciji.

Ivan: Ne radi se samo o tome hoće li AI nekome uzeti posao. Pitanje je kako će se ljudi prilagoditi i koje će vještine biti potrebne u svijetu u kojem se dio posla automatizira.

Europa želi stroža pravila za društvene mreže

Marin: AI nije jedina tema. EU je najavio i EU Kids Act, prema kojem bi društvene mreže trebale biti zabranjene djeci mlađoj od 13 godina, dok bi za one od 13 do 15 godina bila potrebna roditeljska kontrola. Platforme bi pritom trebale dokazati da su njihovi proizvodi sigurni.

Ivan: Pitanje je kako provjeriti dob. Možeš imati sustav koji će djecu tražiti osobni dokument, ali onda otvaraš potpuno drugi problem privatnosti.

Marin: Zato je ideja strožeg dizajna platformi zanimljivija od samog pitanja koliko godina korisnik ima. Ako je proizvod dizajniran tako da štiti djecu, ne moraš se oslanjati samo na to da će korisnik iskreno upisati svoje godine.

Ivan: Tu se nadovezuje i Digital Fairness Act, koji bi se trebao baviti dizajnom proizvoda koji potiče ovisničko ponašanje i načinima na koje platforme utječu na ponašanje korisnika.

Deepfakeovi postaju problem za demokraciju

Marin: Uz to, sve veći problem postaju deepfakeovi i AI-generirana propaganda. Ako više ne možemo znati je li ono što gledamo stvarno, to postaje problem koji nadilazi tehnologiju.

Ivan: To je izravno povezano s demokracijom. AI može omogućiti stvaranje sadržaja koji izgleda uvjerljivo, a koristi se za manipulaciju javnošću.

Nova tehnološka savezništva

Marin: Europa pritom pokušava graditi i nova tehnološka partnerstva. Tu je i Tech Alliance, odnosno suradnja Europske unije i Kanade na području AI-ja, kvantnih tehnologija, kibernetičke sigurnosti, inteligentne proizvodnje, energije i kritičnih sirovina.

Ivan: Kanada se u tom kontekstu nameće kao dobar partner.

Marin: A pitanje je kako će na takvo savezništvo gledati SAD. Trumpu se možda neće svidjeti.

Što nas čeka u 2027.?

Marin: Mislim da nas u 2027. čeka jako zanimljivo razdoblje.

Ivan: AI utrka očito više nije samo pitanje toga tko će napraviti najbolji model. Pitanje je i tko će postaviti pravila, tko će kontrolirati infrastrukturu i tko će najbolje primijeniti tehnologiju.

Marin: Time smo otvorili sedmu sezonu Netokracijinog podcasta. Ove sezone mijenjamo format pa će uredničke epizode trajati oko 30 minuta, dok Slažem se, ne i 1on1 ostaju u dugom formatu.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Veliki intervjui

Hrvatski dizajner napravio idealnu mobilnu igru za ribiče sa 76 pravih vrsta riba i 40 lokacija

Claude Code pisao je kod, Codex je pomogao s ilustracijama i tako je grafički dizajner osmislio mobilnu video igru za ribiče. No izraditi igru koja radi i osmisliti igru kojoj će ljubitelji ribolova vjerovati dvije su različite stvari.

Vodič

Imate pretplatu na AI alate? Evo što računovođe kažu o ispravnom evidentiranju

U novoj kolumni Bruno Cvitanović, direktor računovodstvenog i konzultantskog servisa Brojevi objašnjava kako računovodstveno tretirati AI alate, što vrijedi za poduzetnike izvan sustava PDV-a i na koje pogreške treba paziti.

Veliki intervjui

Ako AI može napraviti film ili igru, što ostaje kreativcima? Odgovara CEO Nanobita

Može li umjetna inteligencija promijeniti način na koji nastaju filmovi i igre, a da pritom ne žrtvujemo kvalitetu priče i kreativnu viziju? Nanobit već testira odgovor na to pitanje, razvijajući AI produkcijske procese koji otvaraju mogućnost stvaranja sadržaja velikom brzinom.

Što ste propustili

Umjetna inteligencija

Biste li AI-ju prepustili odluke o svojoj vezi?

Domaća aplikacija Shrink: Go Deeper koristi knjige i predavanja jednog psihoterapeuta kako bi korisnicima ponudila AI sugovornika za razgovore o emocijama i odnosima. S njim smo o svojim, doduše fiktivnim emocijama razgovarali i mi.

Veliki intervjui

Kako djecu naučiti upravljati novcem?

Kako djeci objasniti štednju, budžet, dug ili razliku između želja i potreba? Jakša Tomović odlučio je taj problem riješiti vlastitom aplikacijom TONKO, koja kroz zadatke, tri virtualne staklenke i kratke lekcije djecu od 6 do 14 godina uči financijskoj pismenosti.

Netokracija Podcast

Hrvatska planira uložiti 932 milijuna eura u umjetnu inteligenciju

U novoj epizodi Netokracija Podcasta razgovaramo o hrvatskom Nacionalnom planu za razvoj umjetne inteligencije, u koji se do 2032. planira uložiti 932 milijuna eura, a dotaknuli smo se i globalne AI utrke gdje se troše milijarde.

Analiza

Kako Hrvatska oblikuje stajališta o europskim digitalnim zakonima?

Europski digitalni propisi oblikuju se puno prije nego što stignu na stol europskih institucija. Hrvatska pritom ima priliku zastupati vlastite interese, ali i uključiti domaću tehnološku industriju u pripremu nacionalnih stajališta. Istražili smo kako taj proces izgleda, ali i što bi moglo bolje.

Veliki intervjui

Digitalna pomoć za roditelje: aplikacija za dječja igrališta, zdravlje i obiteljske aktivnosti

Kako pronaći dobar parkić ili... najbliže gradilište? Hrvatski roditelji napravili su Parkich, aplikaciju koja na jednom mjestu okuplja više od 3400 igrališta i niz korisnih funkcija za obitelji.

Netokracija Podcast

Puca li AI balon u 2027. godini?

Što se događa kada AI obećanja sudare sa stvarnošću? Dok tehnološke kompanije ulažu milijarde u umjetnu inteligenciju, developeri se suočavaju s promjenama u svakodnevnom radu, juniori sve teže pronalaze prve prilike, a kompanije tek otkrivaju koliko je zahtjevno AI implementirati u poslovanje.