AI je kao tvoj pas. Sjajan, dok ima svog čovjeka – i povodac

Nije baš uobičajeno da na developerskoj konferenciji slušamo predavanje o psima. Stoga, kad je na pozornicu Shift konferencije u Kuala Lumpuru stupio Dugald Morrow, principal developer advocate iz Atlassiana, i začinio temu o umjetnoj inteligenciji uspoređujući tu tehnologiju sa psom, imao je svu našu pozornost.

AI je kao pas, entuzijastičan, spreman pomoći… ali ponekad napravi glupost koja vas natjera da se zapitate zašto ste mu uopće vjerovali, rekao developer je pažljivo gradeći svoj ‘AI-pas slučaj’.

Test koji AI ne prolazi

Morrow AI zadatke dijeli u tri razine, a samo na jednoj od njih umjetna inteligencija uistinu zna što čini. To su jednostavni zadaci kao što su pretraživanje ili obrada velikih količina podataka.

Kada zadatak postane složeniji i zahtijeva razumijevanje odnosa između podataka, drugim riječima, kada je u pitanju analiza koja zahtijeva određenu razinu znanja, AI i dalje može odraditi posao, ali rezultat nije uvijek zadovoljavajući.

Na trećoj, ujedno i najzahtjevnijoj razini, koja uključuje duboko zaključivanje, prosuđivanje i stvaranje potpuno novog sadržaja, naša su očekivanja previsoka. Na tom testu AI najčešće ne prolazi.

Nema mudrosti, ali ima dijagnozu?

Iako se čini sposobnim, AI zapravo nema potrebnu mudrost. On dobro radi na poznatom terenu, ali teško mu je izaći iz tih okvira, objašnjava Dugald.

Našao mu je i dijagnozu:

AI pati od Dunning–Krugerovog efekta! Uvijek je spreman odgovoriti na pitanje, ali ponekad jednostavno nije sposoban dati dobar odgovor.

Kao da umjetna inteligencija nije u prostoriji, nastavio je govoriti o njoj proširujući svoju teoriju o sličnosti sa psom:

Ima beskrajni entuzijazam. Veselo će pokušati napraviti što god tražite, ali rezultati su često upitni. Ponekad su briljantni. Znamo da psi imaju nevjerojatne instinkte, neki mogu nanjušiti i rak. Ali jednako tako, mogu napraviti poprilično glupe stvari. Kao što AI može halucinirati ili propustiti očite činjenice.

I prije nas je uvjerio da mu ta simpatična usporedba dobro funkcionira, ali zabavno je pa vam prenosimo i ovu potpuniju verziju. Slijedi dio predavanja s mračnijim tonom.

Developer priznao pred tisućom ljudi: Osjećam se usamljeno programirati bez Cursora

Cijena delegiranja

Atlassianov pricipal developer advocate, koji ima živopisnu karijeru – radio je na sustavima borbenih podmornica (Collins-class), a zatim na kanadskom sustavu kontrole zračnog prometa, postavlja pitanje koje si mnogi od nas sve češće postavljaju: Koja je cijena toga što sve prepuštamo AI-ju?

Ponudio je nekoliko odgovora na to pitanje. Nijedan nije pretjerano laskav.

Koristeći AI za stvaranje sadržaja, ne upoznajete dubinski materiju, što bi se dogodilo da sami izrađujete taj izvještaj, prezentaciju, analizu ili što ste već delegirali AI-ju. Takvo nepoznavanje teme i površnost dovode do opasnosti da ne možete procijeniti je li vaš sadržaj doista kvalitetan i je li stopostotno točan, ispričao je Dugald.

Upozorio je i developere u dvorani da se u njihovom kodu mogu skrivati bugovi ili problemi s performansama, koji im se ne bi potkrali da su kod pisali sami.

Naglasio je i da pretjerana upotreba AI-ja nagriza kreativne vještine:

Svi znamo izreku da vježba čini majstora. Ne možete naučiti igrati tenis gledajući druge kako ga igraju ili moleći nekoga drugog da igra umjesto vas.

Kontrolirani pristup 

Sve ove posljedice dodatno riskiramo koristeći AI i tamo gdje nije potrebno. Nedavno objavljeno Atlassianovo istraživanje pokazalo je koliko smo postali ovisni o LLM-ovima. Zanimljivo, pokazalo je i koliko često AI ne uspije ispuniti naša očekivanja.

Iako 62% menadžera tvrdi da im AI povećava učinkovitost, 37% kaže da je samo potrošio vrijeme njihovih timova. Od 12.000 sudionika istraživanja, 42% priznalo je da AI-ju vjeruju previše. Možda je ipak najzanimljiviji podatak taj da 96% kompanija još uvijek nije vidjelo nikakva dramatična poboljšanja zahvaljujući AI-ju.

Dugald zagovara kontrolirani pristup AI-ju – korištenje umjetne inteligencije uz odgovarajuću razinu ljudskog nadzora, ovisno o složenosti i važnosti zadatka. U ovoj razvojnoj fazi, ne može se svaki zadatak u potpunosti prepustiti AI-ju. Valjda biti svjestan na kojim razinama on funkcionira i što može odraditi gotovo samostalno, a gdje su mu ograničenja.

Harari AI smatra izvorom kaosa, ali i novog poretka: Tko kontrolira AI, kontrolirat će svijet

AI treba svog čovjeka

Kad AI treba izgraditi nešto potpuno novo, čovjek mora biti prisutan u procesu. Također, Dugald savjetuje da se proces pojednostavni, umjesto jednog velikog da se pred AI servira niz manjih zadataka te da mu se za svaki napiše detaljna specifikacija.

To je još važnije kada se od AI-ja očekuje da implementira složenije algoritme. Na programerima je da definiraju input, očekivani output, logiku algoritma te da sve potkrijepe dokumentacijom. Tek kada je kontekst jasan i sve upute definirane, proces se može prepustiti u ruke AI-ju, tumači Atlassianov developer. Pokazao je to i primjerom koda za svoju prezentaciju.

Njegov ‘kontrolirani pristup’ (managed AI) temelji se na balansiranju automatizacije i ljudske prosudbe. Umjesto da bezglavo delegiramo zadatke AI-ju, trebali bi za svaki od njih napraviti realnu procjenu i odlučiti koja razina vođenja i nadzora je za to AI-ju potrebna jer, kao što to Dugald zaključuje:

AI je kao vaš pas. Nevjerojatan, ali ga morate voditi.

Članak je objavljen i na ShiftMagu.