Da AI sutra nestane, biste li još uvijek znali raditi svoj posao?
Ivan Pelivanović

Da AI sutra nestane, biste li još uvijek znali raditi svoj posao?

AI alate danas koristi oko 85 posto developera, a AI agenti na GitHubu već stvaraju desetke milijuna pull requestova mjesečno. No što više posla prepuštamo umjetnoj inteligenciji, to je važnije pitanje što se događa s našim vlastitim razumijevanjem koda i odluka koje donosimo.

Manje rutinskog posla i više vremena za ono što je važno…

Tako bi u idealnom scenariju trebao izgledati naš suživot s AI alatima. Ipak, svaki put kada nam AI napiše kod, pronađe grešku, predloži rješenje ili gotovo samostalno odradi cijeli zadatak, mi zapravo manje vremena provodimo razmišljajući kako se do rješenja nekog problema uopće dolazi.

Zato je važno povući granicu i promišljeno koristiti AI i to na način da nam pomogne raditi brže i učinkovitije, ali da pritom ne preuzme proces razmišljanja umjesto nas.

O toj strani “AI revolucije” na WeAreDevelopers konferenciji u San Joseu govorila je Cassidy Williams, direktorica GitHubova odjela za developersko iskustvo.

AI piše kod, a tko ga razumije?

Cassidy je navela da je GitHub u ožujku ove godine zabilježio 17,8 milijuna pull requestova koje su generirali agenti. Do kolovoza taj je broj narastao na 71,1 milijun, a u istom je mjesecu broj svih commitova dosegnuo 1,15 milijardi.

To znači da se količina koda koji nastaje uz pomoć AI-ja povećava iznimno brzo pa se postavlja i pitanje razumije li uopće itko taj kod?

Cassidy Williams, direktorica odjela za developersko iskustvo u GitHubu na WeAreDevelopers World Congress North America. Ivan Pelivanović

Ako AI napiše dio koda, developer i dalje mora moći razumjeti taj kod i znati kako reagirati kada nešto pođe po zlu, ističe Cassidy te dodaje kako dodatan problem stvaraju i situacije u kojima agenti donose odluke koje developer nije izravno odobrio ili zadao:

Možda ćete debugirati kod koji niste napisali, a možda ćete braniti i odluku koju zapravo niste ni donijeli.

Jedan od problema AI alata je to što uklanjaju velik dio “trenja” iz razvoja, rekla je Cassidy. Sve postaje jednostavnije, umjesto da problem rastavimo, istražimo i pokušamo riješiti sami, možemo samo opisati što želimo i dobiti gotovo rješenje. Iako je to često produktivnije, to ne znači da je nužno dobro za učenje i naš razvoj.

Cassidy je pritom izdvojila istraživanje MIT-a u kojem su sudionici jedne skupine pisali esej uz pomoć LLM-a, oni u drugoj skupini esej su pisali uz pomoć tražilice teksta, a treći bez ikakvih alata. Nakon pisanja provjeravalo se koliko dobro pamte ono što su upravo napisali. Čak 83,3 posto korisnika LLM-a nije moglo citirati nijednu rečenicu vlastitog eseja, dok je među sudionicima koji su radili bez LLM-a ili samo uz tražilicu njih 88,9 posto moglo točno citirati vlastiti tekst.

Poanta, naglasila je Cassidy, nije da su tražilice dobre, a AI loš. Razlika je u tome što tražilica može pomoći u pronalaženju informacija, dok LLM može preuzeti velik dio samog procesa razmišljanja.

Kad agenti polude

Problem je i to što AI agent ponekad donosi odluke koje mu mi nismo potvrdili. Cassidy je zato ispričala primjer developera koji je svom AI agentu zadao jednostavan zadatak koji je uključivao izradu financijske nadzorne ploče, uz naglasak da to napravi “pod svaku cijenu”.

Agent je tijekom rada naišao na problem u biblioteci Matplotlib, popularnom alatu koji se koristi za rad s podacima i grafovima. Umjesto da pronađe drugo rješenje unutar vlastitog projekta, odlučio je poslati izmjenu izravno u Matplotlib.

Maintainer je prijedlog odbio. No agent se tada nije zaustavio, nego je počeo istraživati osobu koja je održavala projekt, pregledavati njezine javne aktivnosti i na kraju objavio stranicu kojom ju je pokušao ucijeniti da prihvati njegov prijedlog.

Agent je kasnije sve povukao i objavio ispriku, no za Cassidy je to primjer problema koji dolazi s autonomnim alatima. Ako sustavu zadamo cilj bez dovoljno jasnih ograničenja, on može pronaći način da ga ostvari koji čovjek nikada nije namjeravao.

Još jedan problem vidi i u načinu na koji AI ulazi u industriju. Sve češće kaže susreće ljude koji se na te alate oslanjaju toliko da im je teško samostalno objasniti vlastite ideje ili odluke. To posebno primjećuje kod ljudi koji tek ulaze u industriju i AI koriste kao zamjenu za vlastito razmišljanje:

AI alati su odlični za produktivnost. Volim graditi uz njih. Ali ako se toliko oslonimo na njih da više ne možemo razmišljati sami, tada imamo problem.

Cassidy Williams, direktorica odjela za developersko iskustvo u GitHubu na WeAreDevelopers World Congress North America. Ivan Pelivanović

Jesmo li i dalje sposobni raditi bez AI-ja?

Cassidy smatra da kompanije moraju graditi sustave u kojima se znanje ne nalazi samo u AI alatima. Dokumentacija, bilješke, primjeri, zapisi odluka i način komunikacije unutar tima postaju važniji baš zato što omogućuju ljudima da zadrže kontekst.

Da neki AI alat sutra prestane raditi, pitanje je može li tim nastaviti posao bez njega. Ako je odgovor “ne”, problem nije samo u dostupnosti alata, nego u tome što je dio znanja završio izvan ljudi koji bi trebali razumjeti isti taj sustav.

Cassidy zato zagovara i više prostora za juniore u razvojnim timovima. Realno, kompanije žele što brže doći do rezultata, pa se može činiti logičnim osloniti se na iskusne developere koji uz pomoć AI-ja mogu napraviti više u kraćem vremenu.

No upravo je sposobnost prenošenja znanja drugima, smatra Cassidy, jedna od stvari koja razlikuje dobrog senior developera od izvrsnog. Juniori pritom nisu samo oni koji uče od iskusnijih kolega. Njihova pitanja prisiljavaju cijeli tim da objasni zašto se nešto radi na određeni način, umjesto da se svaki problem jednostavno prepusti AI alatu.

Umjereno s AI-jem!

Ipak, rješenje Cassidy ne vidi u tome da jednostavno prestanemo koristiti AI. I sama ga koristi u svakodnevnom radu, ali ga ne tretira kao konačni autoritet. Primjerice, može od AI-ja tražiti da napravi plan ili kritizira njezinu ideju, a zatim taj rezultat odnese iskusnim kolegama i prijateljima da ga dodatno preispitaju.

Upravo taj ljudski faktor, smatra Cassidy, AI još uvijek teško može zamijeniti. Netko tko ima drugačije iskustvo može primijetiti problem koji nama promakne, postaviti pitanje koje nismo uzeli u obzir ili jednostavno reći da nešto nema smisla. Alat koji može proizvesti rješenje je super, ali bez ljudi koji to rješenje mogu propitati, nismo postigli ništa.

To vrijedi i za svakodnevni razvoj softvera. AI može napisati kod, predložiti arhitekturu ili pronaći grešku, ali konačna odgovornost i dalje ostaje na ljudima koji taj sustav grade i održavaju. Zato je važno dokumentirati odluke, razgovarati o njima i imati nekoga tko će naš rad moći pogledati svježim očima.

Na kraju, možda je najvažnije pitanje ono koje se rijetko postavlja kada govorimo o sve sposobnijim AI alatima, što se događa ako ih sutra više nema?

Ako bi AI alati nestali, bismo li i dalje znali objasniti kako naš sustav radi, zašto smo ga napravili baš tako i kako riješiti problem kada nešto pođe po zlu? Ili smo dio tog znanja već prepustili alatima?

AI ne moramo izbaciti iz svog rada. Možemo ga koristiti za ubrzavanje rutinskih zadataka, provjeru ideja i pomoć u učenju, ali ako želimo da nam zaista povećava sposobnosti, a ne da ih zamjenjuje, moramo zadržati sposobnost samostalnog razmišljanja naglašava Cassidy. A biste li vi mogli raditi svoj posao da AI sutra nestane?

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Veliki intervjui

Hrvatski dizajner napravio idealnu mobilnu igru za ribiče sa 76 pravih vrsta riba i 40 lokacija

Claude Code pisao je kod, Codex je pomogao s ilustracijama i tako je grafički dizajner osmislio mobilnu video igru za ribiče. No izraditi igru koja radi i osmisliti igru kojoj će ljubitelji ribolova vjerovati dvije su različite stvari.

Vodič

Imate pretplatu na AI alate? Evo što računovođe kažu o ispravnom evidentiranju

U novoj kolumni Bruno Cvitanović, direktor računovodstvenog i konzultantskog servisa Brojevi objašnjava kako računovodstveno tretirati AI alate, što vrijedi za poduzetnike izvan sustava PDV-a i na koje pogreške treba paziti.

Veliki intervjui

Ako AI može napraviti film ili igru, što ostaje kreativcima? Odgovara CEO Nanobita

Može li umjetna inteligencija promijeniti način na koji nastaju filmovi i igre, a da pritom ne žrtvujemo kvalitetu priče i kreativnu viziju? Nanobit već testira odgovor na to pitanje, razvijajući AI produkcijske procese koji otvaraju mogućnost stvaranja sadržaja velikom brzinom.

Što ste propustili

Netokracija Podcast

Hrvatska planira uložiti 932 milijuna eura u umjetnu inteligenciju

U novoj epizodi Netokracija Podcasta razgovaramo o hrvatskom Nacionalnom planu za razvoj umjetne inteligencije, u koji se do 2032. planira uložiti 932 milijuna eura, a dotaknuli smo se i globalne AI utrke gdje se troše milijarde.

Analiza

Kako Hrvatska oblikuje stajališta o europskim digitalnim zakonima?

Europski digitalni propisi oblikuju se puno prije nego što stignu na stol europskih institucija. Hrvatska pritom ima priliku zastupati vlastite interese, ali i uključiti domaću tehnološku industriju u pripremu nacionalnih stajališta. Istražili smo kako taj proces izgleda, ali i što bi moglo bolje.

Veliki intervjui

Digitalna pomoć za roditelje: aplikacija za dječja igrališta, zdravlje i obiteljske aktivnosti

Kako pronaći dobar parkić ili... najbliže gradilište? Hrvatski roditelji napravili su Parkich, aplikaciju koja na jednom mjestu okuplja više od 3400 igrališta i niz korisnih funkcija za obitelji.

Netokracija Podcast

Puca li AI balon u 2027. godini?

Što se događa kada AI obećanja sudare sa stvarnošću? Dok tehnološke kompanije ulažu milijarde u umjetnu inteligenciju, developeri se suočavaju s promjenama u svakodnevnom radu, juniori sve teže pronalaze prve prilike, a kompanije tek otkrivaju koliko je zahtjevno AI implementirati u poslovanje.

Umjetna inteligencija

Tko plaća AI alate na poslu? Tvrtka, zaposlenik ili oboje?

Tko plaća AI alate koje zaposlenici koriste za posao, koliko takva ulaganja stoje i trebaju li zaposlenici sudjelovati u podmirivanju računa? Istražili smo globalne prakse i razgovarali s hrvatskim IT tvrtkama.

Umjetna inteligencija

Hrvatski inženjerski trojac ušao u vrh europskog AI natjecanja s rješenjem u poljoprivredi

Zagrebački Motiq spaja robotiku, strojarstvo, mehatroniku i AI. Nastao kao ideja u noćnim Discord razgovorima, sada je prepoznat i u Europi, a konkurencija su mu bile velike tvrtke i sveučilišta.