Infobip Shift 2023: Ne morate trenirati modele da biste bili AI inženjeri

Nakon rekordnog prošlogodišnjeg izdanja, te ovogodišnjeg američkog prvijenca, Shift u Hrvatskoj nastavlja rasti brojem sudionika i govornika, ali što je najvažnije – i kvalitetom sadržaja.

Ove godine, u zadarskoj “Peki”, Infobip Shift okupio je čak 90 predavača, 600 kompanija i posjetitelje iz 30 država svijeta. Poznata dvorana na Višnjiku osim velebne, kružne, glavne pozornice, grana se u 7 različitih programskih smjerova na kojima se posjetitelji mogu fokusirati na predavanja vezana uz AI, cloud, DevEx, startupe, web, optimizaciju, a tu je i prostor rezerviran za radionice.

Organizaciju svega ovoga nose pleća 6 izvrsnih ljudi, koje ove godine predvode Mirna Opolcer i Nikola Radišić. Mirna je u tome naslijedila Ivana Burazina, koji nakon odlaska iz Infobipa nastavlja poduzetničku priču s Daytonom. Unatoč tome, uz Izabela Jelenića, CTO-a Infobipa, Ivan se također obratio brojnoj publici i posvetio par riječi svom iskustvu vođenja kako Shift konferencije tako i DevEx odjela u hrvatskom jednorogu. Tu ulogu dalje preuzima Nikola Pavešić, koji je dao završnu riječ otvorenju i uveo nas u bogati program Shifta.

Nove uloge za nova vremena

A jedno od upečatljivih predavanja s prvog dana Shifta definitivno je ono Shawna Wanga, osnivača Smol.ai, koji se kroz svoju developersku karijeru ponajviše bavio JavaScriptom, serverlessom i cloudom u kompanijama kao što su Netlify, AWS i Temporal. Ujedno je pokretač nekih od većih dev zajednica – od poznatog subreddita posvećenom ReactJS-u do Svelte Societyja.

Shawn svoje predavanje pod naslovom “Software 3.0 and The Emerging AI Developer Landscape” temelji na tezi da je došlo do duboke transformacije u AI krajoliku, zahvaljujući pristupačnosti naprednih modela putem API-ja. Primjerice, rješenja za koja ste u 2013. trebali napraviti opsežna istraživanja i uložiti godine truda, u 2023. mogu se izgraditi u roku od nekoliko sati korištenjem API dokumentacije.

No, nemojte da vas zavaraju mogućnosti koje danas imate, poručuje Shawn inženjerima. One ne znače da je posao koji čeka novi val inženjera jednostavan i da će se svesti na smišljanje pametnijih upita LLM-ovima. Dapače, Shawn ističe kako je to intenzivan posao koji će zahtijevati od budućih AI inženjera da informirano evaluiraju modele i alate koje će koristiti. Da bi u tome bili uspješni, morat će biti u toku s ogromnim brojem novih znanstvenih radova, tehnika i modela kojih je sve više.

Shawn zato smatra da će softversko inženjerstvo izroditi jednu posve novu ulogu, specijaliziranu za razvoj AI aplikacija i uz to povezan tech stack, kao što je bilo s DevOps, Analytics ili Data inženjerima.

Rođenje AI inženjera možemo pripisati nekoliko faktora

1. Temeljni modeli i njihove mogućnosti. Određene mogućnosti temeljnih modela omogućuju im da generaliziraju izvan onoga za što su trenirani, drugim riječima, ljudi koji treniraju modele ni sami nisu svjesni njihovih mogućnosti. Osobe koje nisu LLM istraživači imaju priliku pronaći i iskoristiti te veće mogućnosti samo time što će provoditi više vremena s modelima te ih primjenjivati na područja koja su često podcijenjena (npr. Jasper za copywriting).
2. Istraživača nema dovoljno! Big tech i njihovi veliki istraživački laboratoriji iscrpili su talente kako bi nam isporučili “AI Research as a Service”. Ne možete ih zaposliti, ali ih možete unajmiti…? U svijetu postoji oko 5 tisuća LLM istraživača, ali i oko 50 milijuna softverskih inženjera, dodaje Wang, a takva ograničenja ponude diktiraju da će se stvoriti “među” klasa inženjera umjetne inteligencije kako bi se zadovoljila potražnja.
3. Modeli se nemaju na čemu vrtjeti. GPU resursi ključni su za treniranje i učinkovit rad modela dubokog učenja. Mnogi startupi i tvrtke ulažu u GPU klastere kako bi podržali svoje interne AI inicijative, ali GPU-ova nema dovoljno za sve…(niti su jeftini”). Ove okolnosti dovode do toga da će za AI inženjere imati više smisla usavršiti se u korištenju postojećih AI modela, umjesto u treniranju novih.
4. Fire, ready, aim. Ako je nekad vrijedilo ono “pripremi se, naciljaj, pucaj” sada je obrnuto. Umjesto da tražimo od ML znanstvenika i inženjera da rade mukotrpno prikupljanje podataka kako bi istrenirali model za neku specifičnu domenu i provjerili je li vrijedno za produkciju, voditelj proizvoda i/ili softverski inženjer može postaviti upit LLM-u poput ChatGPT-ja kako bi postavio ili potvrdio ideju proizvoda i prije nego što dobije konkretne podatke za treniranje.

1. Programerski jezici. Znamo da je Data/AI scena ponajviše fokusirana na Python, a AI inženjerski alati poput LangChaina i Guardrailsa došli su iz iste zajednice. Međutim, u dev sferi postoji jednako toliko JavaScript developera koji sada napokon dobivaju svoje AI alate (npr. LangChain.js i Transformers.js) čime se privlačnost razvoja umjetne inteligencije širi i na druge dev zajednice.
2. Generative AI vs Classifier ML. Generativni AI pomalo gubi na važnosti. Dok se postojeća generacija ML inženjera fokusirala na sigurnost, sprječavanje prijevara, sustave preporuka, detekciju anomalija, klasificiranja i sl. – nova generacija AI inženjera fokusirat će se stvari poput razvoja aplikacija, personalizacije alata za učenje i razvoj vizualnih programskih jezika.

Nakon istraživača, slijedi vrijeme AI inženjera

U tzv. softveru 2.0 programeri su se oslanjali na detaljne, ručno izrađene programske jezike koji su precizno definirali logiku. Međutim, softver 3.0 označava značajan pomak, budući da se oslanja na neuronske mreže koje su naučene da aproksimiraju logiku, objašnjava Shawn. Ova promjena omogućuje da se nove generacije softvera bave složenijim i zamršenijim problemima koji su prije bili izazov za ljudske programere.

Međutim, to ne znači da će ljudski programeri postati nepotrebni, dapače. U raznim industrijama, potražnja za aplikacijama i proizvodima koji su upogonjeni umjetnom inteligencijom tim više nastavlja rasti. Kao rezultat toga, postoji velika potreba za stručnjacima koji mogu premostiti jaz između istraživanja umjetne inteligencije i praktične primjene. Takvi inženjeri mogu dosadašnji napredak AI tehnologije pretočiti u rješenja koja su potrebna u svijetu, zaključuje Shawn.