Zach Kass, ex-Open AI na Vizionaru godine: “AGI će možda biti zadnja tehnologija koju će ljudi izumiti”

Hrvatski Vizionar godine (i vizionar u tehnološkoj kategoriji) je Damir Sabol, ključna ličnost naše tech scene u kojem, vjerujemo, čuči još mnogo vizionarskih ideja i pothvata!

No, nas je na ovom velikom događaju tportala, koji je prošle godine napunio 20. godina, zaokupio i jedan strani vizionar. Stručnjak za umjetnu inteligenciju, AI futurist, konzultant i bivši voditelj Go-To-Marketa u OpenAI-ju – Zach Kass.

Kako početi izvještaj o 30 minuta predavanja koje je sabilo niz velikih pitanja i problema u tako kratko vrijeme, a koje je mnoge prisutne prvi put prenulo o tome kakva vremena nas čekaju? Možda najbolje od kraja: Kass smatra da ćemo AGI (Artificial General Intelligence) ostvariti do 2030. godine, ma 2027. čak, dodaje.

Ako ste upoznati s tim terminom i što nam donosi to predviđanje će vas malo lecnuti. Ako niste, čitajte dalje…

Bila je privilegija raditi za OpenAI, ali još je veća pričati o tome što nam nova vremena donose, kaže Kass. Mnogi će reći da Kass gleda kroz roze naočale, što i sam za sebe dodaje, no to je donekle i nužno ako želimo svijet gurati prema dobrome, smatra on.

Idemo prema tehnologiji koja će sama sebe moći naučiti kako postići nova znanstvena otkrića. Idemo prema tehnologiji koja će izliječiti rak, Alzheimerovu… čije se sposobnosti mogu mjeriti ekvivalentom toga da stavite milijune najboljih medicinskih umova u jednu prostoriju i date im 100 godina da traže rješenje.

Ne čudi stoga što Zach komentira:

AGI će možda biti zadnja tehnologija koju će ljudi izumiti.

Zastane malo dah pred tim stvarima, a nepovjerenje i sumnja kao da dolaze u paketu nečega tako velikog i teško zamislivog. Upravo zato Zach odmah na početku spominje da jedinu stvar koju želi da odnese publika s predavanja: da nas čeka uspješno i prosperitetno doba… Živi bili pa vidjeli!

Kako smo došli do ovoga?

Od akvedukta, pisaćeg stroja, struje do AI-ja… Na domaku smo najveće tehnološke prekretnice ikada. Iako se čini da još puno toga trebamo prevaliti do te prekretnice, dalje smo dogurali nego što mislite, napominje Kass.

Tehnologija u pozadini ChatGPT-ja postignuta je dvije godine prije nego što je ChatGPT ugledao svjetlo dana, isto tako, tehnologije na kojima se danas radi, koje su otkrivene, doći će do nas, krajnjih korisnika, tek za 2-3 godine.

Međutim, Kass ističe i kako smo do toga svega stigli i ranije nego što smo mislili. Dodaje kako su mnogi znanstvenici i stručnjaci s priznatih sveučilišta i sami bili zatečeni nekim nedavnim otkrićima i kojom brzom napredujemo kad su u pitanju AI tehnologije.

Kad sam 2020. stigao u OpenAI, samo je mali dio tima bio svjestan da je moguće to što su zamislili – i kasnije ostvarili.

I ima to smisla ako se podsjetimo istraživanja o predviđanjima stručnjaka o napretku AI-ja: mnogi su potpuno promašili, točnije – podcijenili su gdje ćemo biti za 10 godina.

Zadnjih 6-7 godina, uz transformere, sve veću komputacijsku moć, kao i značajnu količinu podataka te generalno sve veći interes znanstvenika i kolaboracije došli smo do AI mogućnosti koje nisu ni ti sami stručnjaci očekivali. Kass je stoga iskoristio priliku da u predavanju, iako kratko, objasni kako je svaka od tih stavki utjecala na razvoj AI-ja zadnjih godina. Ovdje ćemo se samo dotaknuti par faktora, poput transformera koji su s jednim znanstvenim člankom transformirali AI sustave (Attention Is All You Need).

Iako je povećana računalna snaga svakako odigrala ključnu ulogu u razvoju umjetne inteligencije, važno je naglasiti da sami napreci u hardveru ne bi omogućili ovakav skok u mogućnosti AI sustava. Bilo je potrebno i softversko unapređenje, a tu dolaze u igru upravo transformatori. Umjesto sustava koji razmišljaju u ravnim linijama, došli smo do sustava, koji poput ljudi, može učiti i povezivati podatke iz raznih instanci, simultano. Vektorizacija podataka koja se postigla transformerima višestruko premašuje ono što smo do sada mogli sa statističkim strojnim učenjem.

Hoće li se tempo nastaviti?

Ako pogledamo period od 2010. do 2020. u području razvoja AI-ja dogodile su se nevjerojatne stvari. Između ostalog i transformeri, ova inovativna arhitektura koja je otkrivena 2017. uspješno je iskoristila rastuće računalne resurse, omogućujući AI modelima da se skaliraju i rješavaju složenije probleme nego ikad prije.

Kad smo kod računalne moći, spomenuo je Kass i Mooreov zakon, navodeći da će ubuduće modeli postajati sve manji i jeftiniji. Podsjetimo se, GPT-3 bio je treniran na do tad neviđenom setu od 175 milijardi parametara, no za značajno napredniji GPT-4 modeli su trenirani na “samo” 1.76 milijardi parametara. I Sam Altman je već prošle godine naveo kako smatra da će srednji jezični modeli (MLM) zamijeniti velike jezične modele (LLM) jer su efikasniji, dodaje Kass.

Veliki pregled AI događaja koji su obilježili 2023. godinu

Gledajući os razvoja zadnjih godina, Kass komentira da nemamo razloga misiti da se ubrzani napredak neće nastaviti i narednih.

Što nas čeka?

Kao prvo, ako želimo gurati naprijed, morat ćemo početi razlikovati što je to tehnološka prekretnica, a što društvena prekretnica, napominje Kass dajući primjer kako imamo 0 tolerancije prema tehnološkim neuspjesima dok se posljedice društvenih djelovanja slabo ili nikako sankcioniraju…

Prva i jedna od najvažnijih stvari koja će se dogoditi vrlo brzo jest da ćemo morati naučiti razliku između tehnološke prekretnice: za što smo tehnički sposobni? Što mogu strojevi učiniti? I društvene prekretnice: što mi želimo da strojevi rade? To je veoma važan moment.

Uzmimo za primjer. U Sjedinjenim Državama 50 tisuća ljudi pogine na cestama svake godine, od toga 7 tisuća djece. Ako Tesla skrene u pogrešnu traku, ljudi kažu zatvori pogon. Elon je lud.

Ne toleriramo tehničke kvarove kao društvo. I to je razumljivo, zato avioni ne padaju s neba, zgrade se ne urušavaju. Ali imamo nevjerojatnu toleranciju za ljudske neuspjehe. Kad bih vas pitao, na primjer, želite li biti na suđenju gdje bi vam GPT-4 presudio kaznu, što biste rekli? To je zanimljiv problem koji ćemo morati izvagati, a moramo takve probleme procijeniti i tražiti odgovore jer će se budućnost pred nama otvoriti mnogo brže nego je u prošlosti.

Faze promjena

Osim velikih pitanja i odgovora, kao društvo čeka nas doba prosperiteta, smatra Kass.

U prvoj fazi, navodi da će se najviše vidljivih promjena dogoditi na razini naše interakcije s tehnologijom i kako će to mijenjati naše navike:

• AI agenti (LLM powered) će raditi stvari za vas na vašem mobitelu… vjerojatno unutar godinu dana.
• Laptopi, pametni mobiteli i drugi fizički uređaji s vremenom će postati posve nepotrebni i irelevantni.
• AI će postati element u našim životima kao što je internet danas. Jednako kao što o frižideru više ne razmišljamo o uređaju koji pogoni struja, tako ćemo zaboraviti i da je AI u pozadini alata koje koristimo.

U drugoj fazi bit će zeznuto, bez laganja, iskreno će Kass. Kako AI bude sposobniji mi kao ljudi ulazit ćemo u sferu mediokriteta. Učinit će nas sve to malo glupljima, ali Kass smatra ne zadugo – da se možemo i moramo boriti protiv zaglupljenosti i to – fizičkom aktivnošću i provođenju vremena s ljudima! Smatra da će upravo te dvije stvari postati sve bitnije kako se budu mijenjali i naši odnosi vrijednosti, u koje se dosad ponajviše upletao posao.

A posao će postati isto sfera velikih promjena, i to ne u smislu da će nas AI zamijeniti. Da, bit će promjena po pitanju poslova koji će nestati, ali i novih koji će nastati. No, nije problem u tome da ćemo ostati bez posla ističe Kass dodajući kako su industrijske revolucije u prosjeku donijele 50% više poslova…

Izazov će nas u sferi posla dočekati po pitanju identiteta. Mnogi od nas su generacijski vezani za svoje struke, možda su vam roditelji, djedovi i bake bili u toj industriji, a sada ona nestaje. I bez toga, vežemo se za poslove i gradimo oko njih svoj identitet. Jedno od glavnih pitanja bit će možemo li naći svrhu i identitet van toga što radimo. To je rizik: ne hoćete li naći posao, nego hoćete li naći svrhu u poslovima koje ćete stalno mijenjati?

Uhvatit će nas tu negdje i egzistencijalna pitanja, mogu li strojevi riješiti svoje zadatke tako da ne ugroze pojedince i društvo.

Zamislite da pošaljete AI asistenta da vam kupi cigarete i on to učini, kako je to odradio nas ne zanima… No na svom putu možda je prevalio koje auto, opljačkao trafiku, angažirao SWAT tim. Ali, uspio vam je donijeti cigarete. I to je ono što zovemo postrojavanje (eng. alignment). Problem “alignmenta” iliti stavljanje vrijednosti ljudskih i strojnih sustava u ravnotežu je pitanje mogu li u obavljanju zadataka AI sustavi uzeti u obzir ljudsko iskustvo.

Što će AGI donijeti?

AGI će donijeti neviđene promjene. Evo i koje Kass izdvaja:

1. Znanstvene prekretnice – Kass smatra da ćemo naći lijek za rak i neurodegenerativne bolesti, da ćemo postići nano tehnologiju, kvantno računanje itd.
2. Produktivnost na poslu i zadovoljstvo poslom – mnogi nisu sretni svojim poslom, i to je razumljivo, ispunili smo živote birokracijom. Sve stvari koje nisu zanimljive i koje vam ne donose neku vrijednost zamijenit će AI…
3. Deflacija – monetarna politika neće imati smisla u vremenima kad će usluge i proizvodi biti skoro besplatni.
4. Vrijeme – dobit ćemo toliko više vremena za stvari do kojih nam je stalno. Kass smatra da je najbolje obećanje AI tehnologije ne da će nas učiniti više strojevima nego više ljudima.

Da se te promjene dogode trebat će nam još veća računalna moć, trebat će nam više energije, trebat će nam fuzija. Trenutno bi nam bio potreban solarni panel veličine Arizone da uspijemo razviti GPT-5, dodaje Kass. I zadnje, ali ne manje bitno, regulacija i javne politike će igrati veliku ulogu u slobodi inoviranja.

Kako se pripremiti?

Nije pitanje više KADA ćete AI prihvatiti, nego ŠTO od AI alata trebate. U tom kontekstu pitala sam Kassa za komentar i što kao go-to-market stručnjak savjetuje tvrtkama koje će implementirati AI u svoje usluge ili sustave u narednom periodu, pogotovo u vremenima kad sve vrvi “AI powered” etiketama…

Kompanije bi trebale tretirati AI na sličan način kao što su se odnosile prema cloudu, stoga bismo trebali samo pretpostaviti da će AI postati sveprisutan i da će sve biti izgrađeno s AI-jem na isti način na koji je sve danas na cloud infrastrukturi. Ne mislim da bi ljudi to trebali gledati kao segment razlikovanja. Mislim da bi diferencijacija od konkurencije trebala biti i dalje u poslovnoj strategiji, prodaji i marketingu te korisničkom iskustvu. Nastavite se diferencirati u onom pogledu kao što ste radili do sada.

Osim savjeta za tvrtke, Kass je imao i savjet za mlade.

Nove generacije bih savjetovao da uče što vole, profesionalne vještine kao do sada neće biti bitne u svijetu koji nas čeka. Trebat ćemo se optimizirati za humanističke kvalitete i vještine. Ono po čemu ćete se izdvojiti su: vizija, znatiželja, hrabrost, empatija i mudrost.

A za kraj predavanja, u optimističnom, ali upozoravajućem tonu, Kass nas je uputio s:

Mi nismo dosad sj**ali koliko se čini, cijelo vrijeme napredujemo. I pred nama je svijetla budućnost, ali će biti takva samo ako je zamislimo i gradimo takvu zajedno.