Više alata čini AI agente lošijima, GitHubov inženjer nam je objasnio

To nije nužno problem samih alata, smatra Sam Morrow, viši softverski inženjer u GitHubu koji vodi razvoj GitHubova MCP servera. On tvrdi kako je problem u načinu na koji agenti pronalaze i koriste dostupne alate.

O ključnim promjenama i problemima MCP servera, ali i načinima na koje ih je moguće riješiti, razgovarali smo sa Samom ususret konferenciji Kiss the Future u Sarajevu, na kojoj će održati predavanje o tome kako agentima omogućiti da u pravom trenutku dođu do potrebnih informacija i alata.

Mogu li agenti imati tisuće alata?

U tradicionalnom pristupu modelu smo unaprijed morali pokazati sve dostupne alate što je ujedno značilo i da svaki od njih zauzima dio konteksta (context window), čak i ako agent većinu tih alata nikada neće koristiti, ističe Sam:

To znači da su korisnici od početka plaćali velik broj tokena, zauzimali više prostora u kontekstu, a kako modeli koriste sve veći dio konteksta, tako postaju manje učinkoviti, sporije odgovaraju i zbunjuju se oko toga koji alat trebaju aktivirati.

Problem se zatim pokušao riješiti sažimanjem konteksta, odnosno izbacivanjem manje važnih dijelova prethodnog razgovora. No u tom pristupu agent može zaboraviti i nešto što mu je korisnik ranije izričito naglasio kao važno. Stoga smo danas došli do novog pristupa u kojem AI agent ne mora znati za svaki alat koji postoji, govori nam Sam.

Umjesto učitavanja svih alata na početku sesije, novi pristup koristi pretraživanje alata i njihovo odgođeno učitavanje. Agent može pronaći alat kad mu zatreba, umjesto da mu svi alati budu predstavljeni unaprijed.

Znači li to da agenti mogu imati bezbroj dostupnih alata, pitao sam Sama.

Svi alati bez zatrpavanja konteksta

GitHubov MCP server i dalje ima više od 100 alata, ali se korisnicima prema zadanim postavkama prikazuje tek ograničen skup, ali naš sugovornik smatra kako smo jako blizu pomicanju te granice:

Mislim da smo unutar 12 mjeseci od trenutka kada ćemo s dovoljno samopouzdanja moći napraviti da svi alati budu uključeni prema zadanim postavkama.

Iako je to tek njegova procjena, čini se kako smjer razvoja MCP-a ide upravo prema tome da protokol može podržati veće i složenije agentne sustave. Nova specifikacija MCP-a od sredine 2026. godine uvodi, među ostalim, “stateless jezgru” protokola, poboljšanja autorizacije i službeni okvir za ekstenzije, što je dio šireg pomaka prema skalabilnijoj produkcijskoj upotrebi.

Smanjivanje konteksta

Ako agent može pristupiti stotinama ili tisućama alata, samo njihovo pretraživanje neće biti dovoljno. Sljedeći korak bit će razumjeti odnose među alatima i kontekst u kojem ih treba koristiti.

Sam kao primjer navodi proces u kojem agent kreira “draft pull requesta”. Nakon toga bi mu prirodno trebali moći dati alate za dodavanje komentara ili slanje reviewa:

Mislim da ćemo se odmaknuti od osnovnog pristupa pretraživanju alata koji je danas na vrhuncu i prijeći na naprednije pretraživanje te neku vrstu grafovskog prolaska kroz alate.

Sam zajedno s drugim MCP stručnjacima trenutno istražuje upravo takav model progresivnog otkrivanja. Ideja je da agent ne dobije samo popis dostupnih funkcija, nego da tijekom rada može otkrivati one koji su logično povezani s onime što je već napravio.

Bit će to posebno relevantno za timove koji grade vlastite agente, jer će pravilan odabir alata koje agenti koriste smanjiti zatrpavanje konteksta, tvrdi Sam.

Koliko autonomije dati agentu?

Otkako su AI agenti postali sve prisutniji, teško je  ne postaviti pitanje o tome koliko im autonomije treba dozvoliti. Sam smatra da odgovor nije ni potpuna autonomija ni traženje potvrde za svaku sitnicu:

Mislim da ovo pitanje ima dva važna dijela. Prvi je trebate li ograničiti ono što model može napraviti i čvrsto vjerujem da trebate, slijepo povjerenje nije pametno. Drugi je pitanje koji ljudi trebaju imati kontrolu.

Danas se kontrola često svodi na ručno odobravanje svake aktivacije alata. To može imati smisla za osjetljive radnje, ali ako agent neprestano traži potvrdu, korisnik će ih s vremenom početi automatski prihvaćati. Na drugom kraju spektra nalazi se ono što naš sugovornik naziva “YOLO mod ekipa”, da objasnimo:

Trenutačno imamo korisnike na oba ekstrema: neki pokreću “YOLO mode”, u kojem agent može napraviti bilo što, što je nepromišljeno i već je dovelo do brisanja produkcijskih baza podataka i lokalnih podataka, dok drugi koriste stalne potvrde i agentu daju vrlo ograničenu mogućnost da sam procijeni jesu li radnje sigurne.

Zato Sam očekuje kombinaciju korisničkog pristanka i policy odnosno intent slojeva koji bi dio odluka mogli donositi u pozadini:

Želimo da agenti budu autonomni, pa ovo moramo riješiti. Trenutačno je to jedan od najvećih neriješenih problema u AI-ju i nemamo izbora nego poboljšati to iskustvo.

Što sa sigurnošću?

Sigurnost postaje još kompliciranija kada agent istovremeno može pristupiti privatnim podacima, komunicirati s vanjskim sustavima i čitati sadržaj kojem ne treba vjerovati. Sam taj problem opisuje kroz koncept koji je Simon Willison nazvao lethal trifecta.

Problem nastaje kada agent prijeđe granicu između različitih sigurnosnih domena. Može imati privatne podatke u kontekstu, a zatim ih objaviti na javnom mjestu. Ili može pročitati poruku zlonamjernog korisnika i tretirati je kao novu instrukciju:

Što je agent povezaniji, osobito preko različitih sigurnosnih domena i granica, to morate biti oprezniji.

To je posebno važno za manje razvojne timove koji često nemaju zaseban sigurnosni tim ili kompleksan sustav upravljanja identitetima:

Svakoga bih snažno potaknuo da koristi password managere te dvofaktorsku autentifikaciju. Možda se čini kao gnjavaža, ali obećavam da će vas zaštititi od puno rizika.

Automatizacija se nastavlja

MCP je promijenio kako Sam razvija softver iz temelja:

Kada sam počeo, sve sam radio ručno. Godinama sam koristio GitHub Copilot completions u VS Codeu, ali uglavnom sam i dalje pisao svaki redak koda.

Danas vidi drugačiji smjer:

Softversko inženjerstvo sve se više vrti oko kvalitetne validacije, dobrog osjećaja za rješenje i ideja, a manje oko ručnog pisanja koda.

Isto tako, rast količine posla koji AI agenti mogu obavljati već je vidljiv i na GitHubovoj infrastrukturi. GitHub MCP server krajem 2025. obrađivao je manje od milijun aktivacija alata tjedno, dok ih danas obrađuje više milijuna dnevno:

Očekujem da će se taj obrazac nastaviti.

Protokol je pritom već ušao u fazu u kojoj se eksplicitno rješavaju pitanja skalabilnosti, autorizacije, enterprise implementacija i dugotrajnih agentnih zadataka.

Sam će o razvoju GitHubova MCP servera, problemu konteksta i budućnosti agent developmenta govoriti na Kiss the Future AI Summitu, koji se održava 15. i 16. listopada u Sarajevu. Ulaznice i program konferencije dostupni su na službenoj stranici Kiss the Future AI Summit 2026.