Infobip Shift 2023: Ne morate trenirati modele da biste bili AI inženjeri

Infobip Shift 2023: Ne morate trenirati modele da biste bili AI inženjeri

Zaključen je prvi dan hrvatskog Infobip Shifta, jedne od najvećih tehnoloških konferencija u Europi, a mi svoje prve retke posvećujemo gorućoj temi koja je posebno obilježila ovogodišnji program.

Nakon rekordnog prošlogodišnjeg izdanja, te ovogodišnjeg američkog prvijenca, Shift u Hrvatskoj nastavlja rasti brojem sudionika i govornika, ali što je najvažnije – i kvalitetom sadržaja.

Ove godine, u zadarskoj “Peki”, Infobip Shift okupio je čak 90 predavača, 600 kompanija i posjetitelje iz 30 država svijeta. Poznata dvorana na Višnjiku osim velebne, kružne, glavne pozornice, grana se u 7 različitih programskih smjerova na kojima se posjetitelji mogu fokusirati na predavanja vezana uz AI, cloud, DevEx, startupe, web, optimizaciju, a tu je i prostor rezerviran za radionice.

Organizaciju svega ovoga nose pleća 6 izvrsnih ljudi, koje ove godine predvode Mirna Opolcer i Nikola Radišić. Mirna je u tome naslijedila Ivana Burazina, koji nakon odlaska iz Infobipa nastavlja poduzetničku priču s Daytonom. Unatoč tome, uz Izabela Jelenića, CTO-a Infobipa, Ivan se također obratio brojnoj publici i posvetio par riječi svom iskustvu vođenja kako Shift konferencije tako i DevEx odjela u hrvatskom jednorogu. Tu ulogu dalje preuzima Nikola Pavešić, koji je dao završnu riječ otvorenju i uveo nas u bogati program Shifta.

Izabel Jelenić, Chief Technical Office Infobipa

Nove uloge za nova vremena

A jedno od upečatljivih predavanja s prvog dana Shifta definitivno je ono Shawna Wanga, osnivača Smol.ai, koji se kroz svoju developersku karijeru ponajviše bavio JavaScriptom, serverlessom i cloudom u kompanijama kao što su Netlify, AWS i Temporal. Ujedno je pokretač nekih od većih dev zajednica – od poznatog subreddita posvećenom ReactJS-u do Svelte Societyja.

Shawn svoje predavanje pod naslovom “Software 3.0 and The Emerging AI Developer Landscape” temelji na tezi da je došlo do duboke transformacije u AI krajoliku, zahvaljujući pristupačnosti naprednih modela putem API-ja. Primjerice, rješenja za koja ste u 2013. trebali napraviti opsežna istraživanja i uložiti godine truda, u 2023. mogu se izgraditi u roku od nekoliko sati korištenjem API dokumentacije.

No, nemojte da vas zavaraju mogućnosti koje danas imate, poručuje Shawn inženjerima. One ne znače da je posao koji čeka novi val inženjera jednostavan i da će se svesti na smišljanje pametnijih upita LLM-ovima. Dapače, Shawn ističe kako je to intenzivan posao koji će zahtijevati od budućih AI inženjera da informirano evaluiraju modele i alate koje će koristiti. Da bi u tome bili uspješni, morat će biti u toku s ogromnim brojem novih znanstvenih radova, tehnika i modela kojih je sve više.

Shawn zato smatra da će softversko inženjerstvo izroditi jednu posve novu ulogu, specijaliziranu za razvoj AI aplikacija i uz to povezan tech stack, kao što je bilo s DevOps, Analytics ili Data inženjerima.

Rođenje AI inženjera možemo pripisati nekoliko faktora

  1. Temeljni modeli i njihove mogućnosti. Određene mogućnosti temeljnih modela omogućuju im da generaliziraju izvan onoga za što su trenirani, drugim riječima, ljudi koji treniraju modele ni sami nisu svjesni njihovih mogućnosti. Osobe koje nisu LLM istraživači imaju priliku pronaći i iskoristiti te veće mogućnosti samo time što će provoditi više vremena s modelima te ih primjenjivati na područja koja su često podcijenjena (npr. Jasper za copywriting).
  2. Istraživača nema dovoljno! Big tech i njihovi veliki istraživački laboratoriji iscrpili su talente kako bi nam isporučili “AI Research as a Service”. Ne možete ih zaposliti, ali ih možete unajmiti…? U svijetu postoji oko 5 tisuća LLM istraživača, ali i oko 50 milijuna softverskih inženjera, dodaje Wang, a takva ograničenja ponude diktiraju da će se stvoriti “među” klasa inženjera umjetne inteligencije kako bi se zadovoljila potražnja.
  3. Modeli se nemaju na čemu vrtjeti. GPU resursi ključni su za treniranje i učinkovit rad modela dubokog učenja. Mnogi startupi i tvrtke ulažu u GPU klastere kako bi podržali svoje interne AI inicijative, ali GPU-ova nema dovoljno za sve…(niti su jeftini”). Ove okolnosti dovode do toga da će za AI inženjere imati više smisla usavršiti se u korištenju postojećih AI modela, umjesto u treniranju novih.
  4. Fire, ready, aim. Ako je nekad vrijedilo ono “pripremi se, naciljaj, pucaj” sada je obrnuto. Umjesto da tražimo od ML znanstvenika i inženjera da rade mukotrpno prikupljanje podataka kako bi istrenirali model za neku specifičnu domenu i provjerili je li vrijedno za produkciju, voditelj proizvoda i/ili softverski inženjer može postaviti upit LLM-u poput ChatGPT-ja kako bi postavio ili potvrdio ideju proizvoda i prije nego što dobije konkretne podatke za treniranje.

  1. Programerski jezici. Znamo da je Data/AI scena ponajviše fokusirana na Python, a AI inženjerski alati poput LangChaina i Guardrailsa došli su iz iste zajednice. Međutim, u dev sferi postoji jednako toliko JavaScript developera koji sada napokon dobivaju svoje AI alate (npr. LangChain.js i Transformers.js) čime se privlačnost razvoja umjetne inteligencije širi i na druge dev zajednice.
  2. Generative AI vs Classifier ML. Generativni AI pomalo gubi na važnosti. Dok se postojeća generacija ML inženjera fokusirala na sigurnost, sprječavanje prijevara, sustave preporuka, detekciju anomalija, klasificiranja i sl. – nova generacija AI inženjera fokusirat će se stvari poput razvoja aplikacija, personalizacije alata za učenje i razvoj vizualnih programskih jezika.

Nakon istraživača, slijedi vrijeme AI inženjera

U tzv. softveru 2.0 programeri su se oslanjali na detaljne, ručno izrađene programske jezike koji su precizno definirali logiku. Međutim, softver 3.0 označava značajan pomak, budući da se oslanja na neuronske mreže koje su naučene da aproksimiraju logiku, objašnjava Shawn. Ova promjena omogućuje da se nove generacije softvera bave složenijim i zamršenijim problemima koji su prije bili izazov za ljudske programere.

Međutim, to ne znači da će ljudski programeri postati nepotrebni, dapače. U raznim industrijama, potražnja za aplikacijama i proizvodima koji su upogonjeni umjetnom inteligencijom tim više nastavlja rasti. Kao rezultat toga, postoji velika potreba za stručnjacima koji mogu premostiti jaz između istraživanja umjetne inteligencije i praktične primjene. Takvi inženjeri mogu dosadašnji napredak AI tehnologije pretočiti u rješenja koja su potrebna u svijetu, zaključuje Shawn.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

eUsluge

Grad Zagreb omogućio potpun uvid u proračun kroz aplikaciju iTransparentnost

Nova aplikacija omogućuje svakom građaninu da detaljno prouči gradski porarčun po različitim parametrima.

Startupi

Što je to R&D potencijal – i kakve veze ima s razvojem startupa?

Je li startup nacija u kojoj su nastali tech giganti kao Skype, Wise, Bolt i Pipedrive to postala slučajno, otkrijte sa mnom na putu u Estoniju.

Nesortirano

Što je Akt o čipovima – i kako će doprinjeti tehnološkom razvitku Hrvatske

Jačanje konkurentnosti Europske unije u industriji poluvodiča prilika je i za Hrvatsku koja u sklopu 43 milijarde eura vrijedne incijative priprema otvaranje edukacijskih centara.

Što ste propustili

Panel

Hrvatski game developeri o stvaranju “ozbiljnih” videoigara

S predstavnicima game dev studija, ali i drugih privatnih tvrtki i dobrotvornih organizacija, raspravljamo o razvoju videoigara kojima svrha nije samo zabava, već i edukacija.

Intervju

Ivan Mrvoš: “Include više nije samo ‘onaj mali s pametnim klupama'”

Include, solinski startup poznat po pametnim klupama Steora, okrenuo se razvoju i proizvodnji novih proizvoda. Mrvoš, koji još nema ni 30 godina, a već je iskusni poduzetnik s respektabilnom karijerom, za Netokraciju je ispričao kako se i koliko ta tvrtka promijenila. Nedavno smo mogli pročitati da bi mogli promijeniti i vlasnika...

Esport

Peta sezona SET-a zaključena u Infobipu: Od 22 fakulteta pobjednički je varaždinski FOI

Student Esports Tournament, jedan od najpoznatijih studentskih esport događaja u Hrvatskoj, petu sezonu završio je u spektakularnoj LAN završnici koja se održala u prostorima Infobipa u Zagrebu.

Novost

Goran Bosankić u Field39 stiže na poziciju Chief Revenue Officera

Nakon više od 6 godina u Assecu SEE, a potom isto toliko u ABC Tech grupi, Goran Bosankić dolazi u Field39 kao Chief Revenue Officer i član Upravnog odbora.

Digitalni marketing

Super Bowl fenomen iliti “Vrijeme je da se vratite pred TV. Počinju reklame.”

Dok sam bio u Americi netom prije Super Bowla jedno mi je postalo jasno. Američki nogomet tamo je religija, a SuperBowl kao Božić. Samo što se za ovaj Božić svi okupe oko TV-a gledati reklame!

Novost

Teo Širola iz Muzeja iluzija proglašen najboljim mladim menadžerom 2023. godine

Hrvatsko udruženje menadžera i poduzetnika (HUM) CROMA dodijelilo je predsjedniku tvrtke Metamorfoza, koja upravlja globalnom mrežom Muzeja iluzija, nagradu za mladog menadžera 2023. godine.