Infobip Shift 2023: Ne morate trenirati modele da biste bili AI inženjeri

Infobip Shift 2023: Ne morate trenirati modele da biste bili AI inženjeri

Zaključen je prvi dan hrvatskog Infobip Shifta, jedne od najvećih tehnoloških konferencija u Europi, a mi svoje prve retke posvećujemo gorućoj temi koja je posebno obilježila ovogodišnji program.

Nakon rekordnog prošlogodišnjeg izdanja, te ovogodišnjeg američkog prvijenca, Shift u Hrvatskoj nastavlja rasti brojem sudionika i govornika, ali što je najvažnije – i kvalitetom sadržaja.

Ove godine, u zadarskoj “Peki”, Infobip Shift okupio je čak 90 predavača, 600 kompanija i posjetitelje iz 30 država svijeta. Poznata dvorana na Višnjiku osim velebne, kružne, glavne pozornice, grana se u 7 različitih programskih smjerova na kojima se posjetitelji mogu fokusirati na predavanja vezana uz AI, cloud, DevEx, startupe, web, optimizaciju, a tu je i prostor rezerviran za radionice.

Organizaciju svega ovoga nose pleća 6 izvrsnih ljudi, koje ove godine predvode Mirna Opolcer i Nikola Radišić. Mirna je u tome naslijedila Ivana Burazina, koji nakon odlaska iz Infobipa nastavlja poduzetničku priču s Daytonom. Unatoč tome, uz Izabela Jelenića, CTO-a Infobipa, Ivan se također obratio brojnoj publici i posvetio par riječi svom iskustvu vođenja kako Shift konferencije tako i DevEx odjela u hrvatskom jednorogu. Tu ulogu dalje preuzima Nikola Pavešić, koji je dao završnu riječ otvorenju i uveo nas u bogati program Shifta.

Izabel Jelenić, Chief Technical Office Infobipa

Nove uloge za nova vremena

A jedno od upečatljivih predavanja s prvog dana Shifta definitivno je ono Shawna Wanga, osnivača Smol.ai, koji se kroz svoju developersku karijeru ponajviše bavio JavaScriptom, serverlessom i cloudom u kompanijama kao što su Netlify, AWS i Temporal. Ujedno je pokretač nekih od većih dev zajednica – od poznatog subreddita posvećenom ReactJS-u do Svelte Societyja.

Shawn svoje predavanje pod naslovom “Software 3.0 and The Emerging AI Developer Landscape” temelji na tezi da je došlo do duboke transformacije u AI krajoliku, zahvaljujući pristupačnosti naprednih modela putem API-ja. Primjerice, rješenja za koja ste u 2013. trebali napraviti opsežna istraživanja i uložiti godine truda, u 2023. mogu se izgraditi u roku od nekoliko sati korištenjem API dokumentacije.

No, nemojte da vas zavaraju mogućnosti koje danas imate, poručuje Shawn inženjerima. One ne znače da je posao koji čeka novi val inženjera jednostavan i da će se svesti na smišljanje pametnijih upita LLM-ovima. Dapače, Shawn ističe kako je to intenzivan posao koji će zahtijevati od budućih AI inženjera da informirano evaluiraju modele i alate koje će koristiti. Da bi u tome bili uspješni, morat će biti u toku s ogromnim brojem novih znanstvenih radova, tehnika i modela kojih je sve više.

Shawn zato smatra da će softversko inženjerstvo izroditi jednu posve novu ulogu, specijaliziranu za razvoj AI aplikacija i uz to povezan tech stack, kao što je bilo s DevOps, Analytics ili Data inženjerima.

Rođenje AI inženjera možemo pripisati nekoliko faktora

  1. Temeljni modeli i njihove mogućnosti. Određene mogućnosti temeljnih modela omogućuju im da generaliziraju izvan onoga za što su trenirani, drugim riječima, ljudi koji treniraju modele ni sami nisu svjesni njihovih mogućnosti. Osobe koje nisu LLM istraživači imaju priliku pronaći i iskoristiti te veće mogućnosti samo time što će provoditi više vremena s modelima te ih primjenjivati na područja koja su često podcijenjena (npr. Jasper za copywriting).
  2. Istraživača nema dovoljno! Big tech i njihovi veliki istraživački laboratoriji iscrpili su talente kako bi nam isporučili “AI Research as a Service”. Ne možete ih zaposliti, ali ih možete unajmiti…? U svijetu postoji oko 5 tisuća LLM istraživača, ali i oko 50 milijuna softverskih inženjera, dodaje Wang, a takva ograničenja ponude diktiraju da će se stvoriti “među” klasa inženjera umjetne inteligencije kako bi se zadovoljila potražnja.
  3. Modeli se nemaju na čemu vrtjeti. GPU resursi ključni su za treniranje i učinkovit rad modela dubokog učenja. Mnogi startupi i tvrtke ulažu u GPU klastere kako bi podržali svoje interne AI inicijative, ali GPU-ova nema dovoljno za sve…(niti su jeftini”). Ove okolnosti dovode do toga da će za AI inženjere imati više smisla usavršiti se u korištenju postojećih AI modela, umjesto u treniranju novih.
  4. Fire, ready, aim. Ako je nekad vrijedilo ono “pripremi se, naciljaj, pucaj” sada je obrnuto. Umjesto da tražimo od ML znanstvenika i inženjera da rade mukotrpno prikupljanje podataka kako bi istrenirali model za neku specifičnu domenu i provjerili je li vrijedno za produkciju, voditelj proizvoda i/ili softverski inženjer može postaviti upit LLM-u poput ChatGPT-ja kako bi postavio ili potvrdio ideju proizvoda i prije nego što dobije konkretne podatke za treniranje.

  1. Programerski jezici. Znamo da je Data/AI scena ponajviše fokusirana na Python, a AI inženjerski alati poput LangChaina i Guardrailsa došli su iz iste zajednice. Međutim, u dev sferi postoji jednako toliko JavaScript developera koji sada napokon dobivaju svoje AI alate (npr. LangChain.js i Transformers.js) čime se privlačnost razvoja umjetne inteligencije širi i na druge dev zajednice.
  2. Generative AI vs Classifier ML. Generativni AI pomalo gubi na važnosti. Dok se postojeća generacija ML inženjera fokusirala na sigurnost, sprječavanje prijevara, sustave preporuka, detekciju anomalija, klasificiranja i sl. – nova generacija AI inženjera fokusirat će se stvari poput razvoja aplikacija, personalizacije alata za učenje i razvoj vizualnih programskih jezika.

Nakon istraživača, slijedi vrijeme AI inženjera

U tzv. softveru 2.0 programeri su se oslanjali na detaljne, ručno izrađene programske jezike koji su precizno definirali logiku. Međutim, softver 3.0 označava značajan pomak, budući da se oslanja na neuronske mreže koje su naučene da aproksimiraju logiku, objašnjava Shawn. Ova promjena omogućuje da se nove generacije softvera bave složenijim i zamršenijim problemima koji su prije bili izazov za ljudske programere.

Međutim, to ne znači da će ljudski programeri postati nepotrebni, dapače. U raznim industrijama, potražnja za aplikacijama i proizvodima koji su upogonjeni umjetnom inteligencijom tim više nastavlja rasti. Kao rezultat toga, postoji velika potreba za stručnjacima koji mogu premostiti jaz između istraživanja umjetne inteligencije i praktične primjene. Takvi inženjeri mogu dosadašnji napredak AI tehnologije pretočiti u rješenja koja su potrebna u svijetu, zaključuje Shawn.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Analiza

Kad im USB-om procure podaci milijun građana – javne institucije mogu proći bez sankcija?!

Sa stručnjacima raspravljamo o nedavnom curenju podataka vlasnika svih registriranih vozila u Hrvatskoj i zašto je ono problematično na više razina. Može li ovaj slučaj biti poruka javnim institucijama za ubuduće?

Obrazovanje

Maturanti, pazite koje AI alate koristite za pripremu mature, nisu svi pouzdani…

Jeste primijetili kako je sve više raznih AI alata koji obećavaju uspjeh u školi i pomoć na maturi? Iako imamo pozitivne primjere, nisu svi od povjerenja.

Novost

Ars Futurin Along, alat za ljudske resurse, postaje PontaHR

Ars Futurin alat za ljudske resurse dobio je novo ime kojim će sad bezbrižnije osvajati nova tržišta. Zašto su se odlučili na promjenu - i zašto baš PontaHR?

Što ste propustili

Veliki intervjui

Kreće Priša! Tjedni izazov za djecu i mlade koji stvara pozitivne navike

Priša je prilika za djecu i mlade da prije početka ljetne zabave i zaslužene lijenosti, naprave nešto pozitivno za svoje navike!

Veliki intervjui

Kad će zaživjeti “hrvatski gaming san”? Ovo su faze 60 milijuna vrijednog projekta u Novskoj

Fakultet, studentski dom, fotonaponska elektrana i sva potrebna infrastruktura uskoro dolaze u Novsku - Centar za gaming industriju bit će prvi takvog tipa u Europi.

Veliki intervjui

“Kao Engineering Manager nisam izgubio dodir s inženjerstvom, naprotiv – naučio sam još više”

Kako izgleda posao Engineering Managera kad radiš za tvrtku koja nezaustavljivo raste saznali smo od Antonia Krističevića. Prošle je godine postao EM u Fonoi, tvrtki koja je prva na svijetu razvila cloud platformu za automatizaciju obračuna poreza na globalnoj razini.

Digitalni mediji

Uloženo je 280 milijuna eura u digitalno oglašavanje u Hrvatskoj u 2023. godini

Hrvatska udruga digitalnih izdavača (HUDI) objavila je rezultate najnovijeg istraživanja HUDI Digitalni AdEx za 2023. godinu.

Startupi

Kako vam HR i financije olakšavaju rast, otkriva Infobipov CBO

Infobipov Chief Business Officer Ivan Ostojić podijelio je iskustva iz procesa skaliranja hrvatskog jednoroga te što im je pomoglo da rast učine održivim.

Startupi

Stižu bolja vremena za SaaSove! Paddleov CMO savjetuje kako ih iskoristiti

Od Paddleovog Chief Marketing Officera na konferenciji SaaStanak 2024 saznali smo kako prebroditi ova neizvjesna vremena na tržištu.