Ivan Pelivanović
Da AI sutra nestane, biste li još uvijek znali raditi svoj posao?
AI alate danas koristi oko 85 posto developera, a AI agenti na GitHubu već stvaraju desetke milijuna pull requestova mjesečno. No što više posla prepuštamo umjetnoj inteligenciji, to je važnije pitanje što se događa s našim vlastitim razumijevanjem koda i odluka koje donosimo.
Manje rutinskog posla i više vremena za ono što je važno…
Tako bi u idealnom scenariju trebao izgledati naš suživot s AI alatima. Ipak, svaki put kada nam AI napiše kod, pronađe grešku, predloži rješenje ili gotovo samostalno odradi cijeli zadatak, mi zapravo manje vremena provodimo razmišljajući kako se do rješenja nekog problema uopće dolazi.
Zato je važno povući granicu i promišljeno koristiti AI i to na način da nam pomogne raditi brže i učinkovitije, ali da pritom ne preuzme proces razmišljanja umjesto nas.
O toj strani “AI revolucije” na WeAreDevelopers konferenciji u San Joseu govorila je Cassidy Williams, direktorica GitHubova odjela za developersko iskustvo.
AI piše kod, a tko ga razumije?
Cassidy je navela da je GitHub u ožujku ove godine zabilježio 17,8 milijuna pull requestova koje su generirali agenti. Do kolovoza taj je broj narastao na 71,1 milijun, a u istom je mjesecu broj svih commitova dosegnuo 1,15 milijardi.
To znači da se količina koda koji nastaje uz pomoć AI-ja povećava iznimno brzo pa se postavlja i pitanje razumije li uopće itko taj kod?

Ako AI napiše dio koda, developer i dalje mora moći razumjeti taj kod i znati kako reagirati kada nešto pođe po zlu, ističe Cassidy te dodaje kako dodatan problem stvaraju i situacije u kojima agenti donose odluke koje developer nije izravno odobrio ili zadao:
Možda ćete debugirati kod koji niste napisali, a možda ćete braniti i odluku koju zapravo niste ni donijeli.
Jedan od problema AI alata je to što uklanjaju velik dio “trenja” iz razvoja, rekla je Cassidy. Sve postaje jednostavnije, umjesto da problem rastavimo, istražimo i pokušamo riješiti sami, možemo samo opisati što želimo i dobiti gotovo rješenje. Iako je to često produktivnije, to ne znači da je nužno dobro za učenje i naš razvoj.
Cassidy je pritom izdvojila istraživanje MIT-a u kojem su sudionici jedne skupine pisali esej uz pomoć LLM-a, oni u drugoj skupini esej su pisali uz pomoć tražilice teksta, a treći bez ikakvih alata. Nakon pisanja provjeravalo se koliko dobro pamte ono što su upravo napisali. Čak 83,3 posto korisnika LLM-a nije moglo citirati nijednu rečenicu vlastitog eseja, dok je među sudionicima koji su radili bez LLM-a ili samo uz tražilicu njih 88,9 posto moglo točno citirati vlastiti tekst.
Poanta, naglasila je Cassidy, nije da su tražilice dobre, a AI loš. Razlika je u tome što tražilica može pomoći u pronalaženju informacija, dok LLM može preuzeti velik dio samog procesa razmišljanja.
Kad agenti polude
Problem je i to što AI agent ponekad donosi odluke koje mu mi nismo potvrdili. Cassidy je zato ispričala primjer developera koji je svom AI agentu zadao jednostavan zadatak koji je uključivao izradu financijske nadzorne ploče, uz naglasak da to napravi “pod svaku cijenu”.
Agent je tijekom rada naišao na problem u biblioteci Matplotlib, popularnom alatu koji se koristi za rad s podacima i grafovima. Umjesto da pronađe drugo rješenje unutar vlastitog projekta, odlučio je poslati izmjenu izravno u Matplotlib.
Maintainer je prijedlog odbio. No agent se tada nije zaustavio, nego je počeo istraživati osobu koja je održavala projekt, pregledavati njezine javne aktivnosti i na kraju objavio stranicu kojom ju je pokušao ucijeniti da prihvati njegov prijedlog.
Agent je kasnije sve povukao i objavio ispriku, no za Cassidy je to primjer problema koji dolazi s autonomnim alatima. Ako sustavu zadamo cilj bez dovoljno jasnih ograničenja, on može pronaći način da ga ostvari koji čovjek nikada nije namjeravao.
Još jedan problem vidi i u načinu na koji AI ulazi u industriju. Sve češće kaže susreće ljude koji se na te alate oslanjaju toliko da im je teško samostalno objasniti vlastite ideje ili odluke. To posebno primjećuje kod ljudi koji tek ulaze u industriju i AI koriste kao zamjenu za vlastito razmišljanje:
AI alati su odlični za produktivnost. Volim graditi uz njih. Ali ako se toliko oslonimo na njih da više ne možemo razmišljati sami, tada imamo problem.

Jesmo li i dalje sposobni raditi bez AI-ja?
Cassidy smatra da kompanije moraju graditi sustave u kojima se znanje ne nalazi samo u AI alatima. Dokumentacija, bilješke, primjeri, zapisi odluka i način komunikacije unutar tima postaju važniji baš zato što omogućuju ljudima da zadrže kontekst.
Da neki AI alat sutra prestane raditi, pitanje je može li tim nastaviti posao bez njega. Ako je odgovor “ne”, problem nije samo u dostupnosti alata, nego u tome što je dio znanja završio izvan ljudi koji bi trebali razumjeti isti taj sustav.
Cassidy zato zagovara i više prostora za juniore u razvojnim timovima. Realno, kompanije žele što brže doći do rezultata, pa se može činiti logičnim osloniti se na iskusne developere koji uz pomoć AI-ja mogu napraviti više u kraćem vremenu.
No upravo je sposobnost prenošenja znanja drugima, smatra Cassidy, jedna od stvari koja razlikuje dobrog senior developera od izvrsnog. Juniori pritom nisu samo oni koji uče od iskusnijih kolega. Njihova pitanja prisiljavaju cijeli tim da objasni zašto se nešto radi na određeni način, umjesto da se svaki problem jednostavno prepusti AI alatu.
Umjereno s AI-jem!
Ipak, rješenje Cassidy ne vidi u tome da jednostavno prestanemo koristiti AI. I sama ga koristi u svakodnevnom radu, ali ga ne tretira kao konačni autoritet. Primjerice, može od AI-ja tražiti da napravi plan ili kritizira njezinu ideju, a zatim taj rezultat odnese iskusnim kolegama i prijateljima da ga dodatno preispitaju.
Upravo taj ljudski faktor, smatra Cassidy, AI još uvijek teško može zamijeniti. Netko tko ima drugačije iskustvo može primijetiti problem koji nama promakne, postaviti pitanje koje nismo uzeli u obzir ili jednostavno reći da nešto nema smisla. Alat koji može proizvesti rješenje je super, ali bez ljudi koji to rješenje mogu propitati, nismo postigli ništa.
To vrijedi i za svakodnevni razvoj softvera. AI može napisati kod, predložiti arhitekturu ili pronaći grešku, ali konačna odgovornost i dalje ostaje na ljudima koji taj sustav grade i održavaju. Zato je važno dokumentirati odluke, razgovarati o njima i imati nekoga tko će naš rad moći pogledati svježim očima.
Na kraju, možda je najvažnije pitanje ono koje se rijetko postavlja kada govorimo o sve sposobnijim AI alatima, što se događa ako ih sutra više nema?
Ako bi AI alati nestali, bismo li i dalje znali objasniti kako naš sustav radi, zašto smo ga napravili baš tako i kako riješiti problem kada nešto pođe po zlu? Ili smo dio tog znanja već prepustili alatima?
AI ne moramo izbaciti iz svog rada. Možemo ga koristiti za ubrzavanje rutinskih zadataka, provjeru ideja i pomoć u učenju, ali ako želimo da nam zaista povećava sposobnosti, a ne da ih zamjenjuje, moramo zadržati sposobnost samostalnog razmišljanja naglašava Cassidy. A biste li vi mogli raditi svoj posao da AI sutra nestane?

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.
Pravila ponašanja
Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:
Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.
Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.