Shift Miami: Iza svakog uspješnog AI agenta stoji čovjek – koji ga kritizira

Program Infobipove konferencije koja se treći put odvija u Miamiju proveo nas je kroz razne smjerove razvoja umjetne inteligencije. Tehnologija je to s tisuću lica koju developeri još uvijek uče koristiti i voljeti. Oduzima nam poslove, napomenuli su predavači u nekoliko navrata, ali iznijeli su i mnogo njezinih dobrih strana.

Promptanje je novo programiranje, to je i put kako izbjeći sve one naporne sastanke s timom koji raspravlja oko tehnikalija i gubi vrijeme umjesto da krene raditi na proizvodu. Doći do prototipa proizvoda lakše je nekog ikada. No, umjetna inteligencija se dodvorava i laže, stoga treba imati dobro otvorene oči i ni na sekundu ne isključivati dobru staru visoku dozu kritičnosti.

Dio je to zanimljivosti s ovogodišnje Shift konferencije koju je, zajedno s predsjednikom Infobipa za Sjevernu Ameriku Ethan Gustavom, u muzeju suvremene umjetnosti Pérez Art Museum Miami otvorio tehnološki direktor Infobipa Izabel Jelenić.

Pred punom dvoranom naglasio je kako je ideja eventa druženje i zajedničko učenje o AI-ju, programiranju, debugiranju, troubleshoutingu, ali i o tome kako nadoknaditi tehnološki dug i pomoću AI-ja postati bolji inženjeri.

Ne znam jesu li inženjeri uspjeli postati bolji sudjelovanjem, a ni hoće li sada lakše smanjiti tehnološki dug, ali bilo je vrlo zanimljivo čuti kako s AI-jem rade i kakve bitke vode developeri i inženjeri iz Amazon Web Servicesa (AWS), Google DeepMinda, Postmana, AutoZonea i mnogih drugih tvrtki.

Multimodalni pristup Google Deep Minda

Već na početku Stefania Druga, znanstvena istraživačica iz Google DeepMinda, demonstrirala je projekte na kojima koristi multimodalne AI modele. Priznajemo, bilo je cool kad je u demo dijelu pokazala integraciju Geminija i Google Homea na kojoj radi.

„Ako je u Seattleu vruće, upali klimu u kući“, izrecitirala je zadatak koji je AI poslušno izvršio koristeći podatke sa senzora. Spustio je i sjenila na prozore, a pripremio je i kuću za romantičnu večeru. Nismo to vidjeli, doduše, ali svejedno.

Predstavila je i druge projekte na kojima radi poput ChemBuddyja koji na sličan način korištenjem LLM modela pomaže znanstvenicima u praćenju pokusa te MathMind koji pomaže srednjoškolcima s ispravljanjem najčešćih pogrešaka u matematičkim zadacima. Podsjetilo je malo na naš Photomath.

No, možda je i najupečatljiviji dio njezinog predavanja bio predstavljanje Cognimates Copilota – projekta kojim djeca uče o korištenju umjetne inteligencije, treniraju svoje modele primjerima slika na Scratchu i ujedno dobivaju uvid u to kako strojno učenje radi. Napredni korisnici stvaraju se od malih nogu.

Optimizacija – korak koji se ne propušta

Iz svih tih interakcija koje korisnici prvi put imaju s multimodalnom umjetnom inteligencijom može se mnogo naučiti, istaknula je. Budući da je riječ o odmaku od standardnog tipkanja naredbi te da se korisnici prvi puta služe usmenim promptovima, kombiniraju razne video streamove, podatke sa senzora i slično, valja promatrati kako to rade i pomoću tih saznanja optimizirati buduće modele, smatra Googleova znanstvenica.

Upravo je taj moment iskoristivosti dosadašnjih iskustava s AI-jem za poboljšanje njihova rada apostrofirao i Ervin Jagatić, direktor proizvoda u Infobipu. Govorio je pritom o agentskom AI-ju, čiji bi rad, kako kaže, trebalo ocjenjivati:

Trebalo bi prolaziti kroz odgovore AI asistenta i procijeniti njihovu kvalitetu, provjeravati koliko su utemeljeni na podacima i to ponavljati. Tako da čovjek može pratiti analitiku i ocijeniti koji su odgovori bili dobri, a koji nisu i time poboljšavati sustav.

Ervin je to rekao na panelu o tehnološkom dugu koji je moderirao Ivan Brezak Brkan, direktor developerskog iskustva u Infobipu, a na kojem su sudjelovali i Nick Kljajić, suosnivač i izvršni direktor AskHandleipa, i Prabu Ramaj, direktor inženjeringa, generativnog AI-ja i automatizacije u teksaškoj tvrtki AutoZone.

Izazovi u izgradnji agent-agent sustava

Nick je također ustvrdio kako je važno provjeravati jesu li odgovori agenata točni jer povezivanje s drugim agentima prije no što se otklone sitne greške u velikim sustavima može dovesti do velikih problema.

Stoga je savjetovao da agente treba graditi pomalo, davati im jednostavne zadatke i neprestano provjeravati kako rade, ponavljati radnje i sve im mjeriti dok modeli ne postanu optimalni. Tek tada spremni su za povezivanje s drugim agentima.

Prabu kaže kako će nam složeni agentski sustavi donijeti rast, ali, složio se, trebamo graditi AI agente specijalizirane za vrlo specifične zadatke i trebamo ih graditi više. I on je, kao i više govornika prije njega, istaknuo da čovjek ima ključnu ulogu u tom procesu:

Morate znati koji vam je cilj, to je prvo. Isto tako, možete koristiti najskuplji LLM model, ali ako nemate čovjeka koji će provjeravati što on radi, nemojte ni počinjati projekt.

MCP projekt

Infobipov glavni inženjer Emanuel Lacić predstavio je u Miamiju zanimljiv projekt koji razvojnim inženjerima daje novu ulogu – umjesto ručne integracije API-ja trebaju samo opisati željeni ishod agentu.

Riječ je o Model Connector Protocolu (MCP) koji mijenja način na koji se rade AI aplikacije, a jedan je od glavnih trendova u tech industriji koji razvija sve više tvrtki.

Uz taj protokol više neće biti potrebno pisati integracijski kod, već će to činiti generativna umjetna inteligencija. Pomoću tog novog otvorenog standarda, AI agenti imat će izravan pristup i moći će bez “glue” koda raditi API povezivanja.

Infobipov MCP endpoint trenutno je u beta verziji, a njime su komunikacijski alati tvrtke otvoreni agentskoj umjetnoj inteligenciji. Drugim riječima, programeri mogu zatražiti od jezičnog modela da pošalje poruku, dohvati podatke o računu ili upravlja korisnicima jednostavnim promptom. Emanuel je objasnio:

Naši API-ji sada su strojno čitljivi i razumljivi modelima. To znači da agenti mogu samostalno istraživati što naša platforma može učiniti i koristiti je bez ikakve ljudske intervencije.

Čovjek je još uvijek mjerilo stvari

AI mijenja način na koji programiramo, promtovi se zadaju u prirodnom jeziku, programeri naizgled gube poziciju. No, upravo taj humanocentrični pristup koji stavlja AI pod kontrolu čovjeka osigurava očuvanje radnih mjesta.

AI traži najbrži i najučinkovitiji način za rješavanje problema, dok inženjeri i developeri uzimaju u obzir sve detalje i traže rješenje koje će pokriti sve aspekte problema. Takvo inženjersko razmišljanje razlog je zašto su oni još uvijek vrlo vrijedni i ne može ih se tek tako zamijeniti.

Izjavio je to Aedit Sheth, izvršni direktor Neatpromptsa, koji je iznio i podatke kako već sada četvrtini startupova koje je financijski podržao Y Combinator 95 posto koda piše AI te kako je čak i šef Microsofta priznao da im 30 posto koda piše AI.

Nova vremena su tu, AI definitivno vedri i oblači naveliko, ali čovjek je još uvijek mjerilo stvari.