Google DeepMind: AI više ne može napredovati učeći od ljudi, mora početi učiti sam

Googleov potpredsjednik za tehnologiju u DeepMindu Benoit Schillings istaknuo je kako ćemo u idućim godinama svjedočiti novoj etapi AI evolucije. Podaci za treniranje velikih jezičnih modela koje su pripremili ljudi uskoro će se iscrpiti, a to će ujedno značiti kako nema više napretka za AI. Stoga je vrijeme za idući korak.

AI treba početi stvarati vlastito iskustvo i vlastite podatke. U sljedećih godinu ili dvije upravo će u tom smjeru kretati razvoj AI-ja.

Vrijeme je za rekurzivno samopoboljšavanje (eng. recursive self-improvement). Benoit je pojasnio kako je to proces u kojem bi umjetna inteligencija mogla početi učiti iz vlastitog iskustva tako da pokušava riješiti probleme, provjerava svoje odgovore, pronalazi pogreške i isprobava različite pristupe, umjesto da ovisi isključivo o podacima koje su stvorili ljudi.

Već postoje primjeri, jedan od njih je AlphaGo koji je učio kako igrati drevnu kinesku društvenu igru igrajući protiv samoga sebe. Tako je pronalazio strategije koje nisu potjecale iz ljudskih partija. To mu je toliko dobro išlo da je na kraju uspio poraziti i najboljeg igrača u toj igri.

OpenAI na Shiftu: AI agenti ne žele samo pisati kod, već preuzeti sve poslove

Sofisticirano varanje

Ideja da umjetna inteligencija uči sama od sebe ima ozbiljnu prepreku. A to je što se događa kada je AI u krivu i tko odlučuje jesu li podaci koje proizvede korisni? To je posebno važno jer, kako je Schillings istaknuo tijekom svog predavanja, modeli ponekad mogu pronaći načine da izgledaju kao da su zadatak odradili uspješno, a da zapravo ne riješe problem koji im je zadan.

Jesu li to pokupili od ljudi ili im je samo tako došlo, ali AI modeli naučili su prilično dobro varati, istaknuo je Benoit:

Zatražite od modela da riješi problem u programiranju i on će vam reći da je to napravio. No, kad provjerite, otkrijete da zapravo nije riješio problem. Često se dogodi da je prekopirao postojeći alat i sakrio tragove. Sve sofisticiranije varanje sve je veći problem, a on je utoliko veći jer modeli sami provjeravaju svoje rezultate. Zato i sustav nadzora mora postati sofisticiraniji. 

Način učenja

Drugi dio Schillingsove poruke odnosi se na način na koji se AI sustavi treniraju. Neke je probleme lako provjeriti: dokaz je ispravan ili nije, kod prolazi testove ili ne prolazi. No problemi iz stvarnog svijeta obično su puno složeniji.

Schillings je to usporedio s podučavanjem nekoga penjanju na planinu uz samo jednu vrstu povratne informacije: pao si ili nisi pao. To bi bio užasan način učenja. Dobar učitelj davao bi podrobniju povratnu informaciju:

Ovaj dio je bio dobar. Ovaj dio pokušaj napraviti drugačije. Sve si bliže. Evo gdje se možeš poboljšati.

AI sustavi treniraju se kako bi dobivali takvu povratnu informaciju. To je važnije nego što se na prvi pogled čini: ako modeli mogu učiti ne samo iz uspjeha i neuspjeha, nego i iz toga koliko su bili blizu boljeg rješenja, mogu se nositi s mnogo složenijim problemima, ustvrdio je potpredsjednik Google DeepMinda za tehnologiju.

Put u nepoznato

AI počinje istraživati nepoznato. Programski kod bio je relativno pogodno okruženje za umjetnu inteligenciju jer se može provjeriti funkcionira li nešto ili ne. Schillings očekuje da će nadolazeći val razvoja umjetne inteligencije donijeti veći proboj u područjima fizike, biologije, matematike i inženjerstva.

Ako AI može stvarati hipoteze, testirati ih, odbacivati neuspješne pristupe i nadograđivati uspješne, može početi sam istraživati. To je potpuno drugačija ideja od korištenja AI-ja kao boljeg pretraživača, tumači Benoit.

Vrijednost tih sustava ima potencijal otkriti ljudima nova znanja, a taj put u nepoznato, zaključio je, mogao bi se pokazati kao najvažnija priča o umjetnoj inteligenciji u sljedećih nekoliko godina.