Splitski tim koji traži lijek za prijetnje AI agenata osigurao 7 milijuna dolara

U SplxAI, startup koji nudi zaštitu poduzećima i korisnicima od sigurnosnih rizika umjetne inteligencije, uložili su LAUNCHub Ventures koji predvodi investiciju. Uz njega su u investiciji sudjelovali Rain Capitala, Inova, Runtime Ventures, DNV Ventures i South Central Ventures.

Upravnom odboru SplxAI pridružili su se generalni partner LAUNCHuba Stan Sirakov te bivši CISO Brand Engagement Networka Sandy Dunn koji će preuzeti dužnost glavnog direktora informacijske sigurnosti.

Iz tvrtke kažu kako će financiranjem ubrzati razvoj i usvajanje SplxAI platforme, omogućujući organizacijama da “osiguraju svoje interne AI agente i AI aplikacije za krajnje korisnike putem automatiziranog testiranja sigurnosti, dinamičkog ispravljanja i kontinuiranog praćenja AI sustava”.

Slaba zaštita ranjivih AI agenata

Platforma je usmjerena na rješavanje sigurnosnih izazova koji nastaju zbog AI i LLM tehnologija, a pokriva širok spektar modaliteta, uključujući tekst, slike i glas, te simulira sofisticirane napade koji oponašaju taktike visoko kvalificiranih napadača.

Kristian Kamber, CEO i suosnivač SplxAI-a napominje kako implementacija AI agenata stvara potencijalne ranjivosti koje samo detaljno i kontinuirano testiranje može otkriti.

Prognozira se kako bi do 2028. godine 33% poslovnih aplikacija moglo uključivati agentic AI, a prijelaz s jednostavnih LLM modela na kompleksne agentic AI modele otvorit će brojna sigurnosna pitanja.

Od samih početaka generativne umjetne inteligencije, tehnologija je bila podložna manipulacijama koje uzrokuju sigurnosne propuste i ugrožavaju interne podatke, dodaje. Ističe i da su detektori koje mnoge organizacije koriste kao zaštitne mehanizme često slabo trenirani. To dovodi do toga da su sigurnosne mjere preslabe ili prekomjerno restriktivne.

Automatizacijom stotina naprednih scenarija napada SplxAI nastoji brzo prepoznati ranjivosti unutar AI aplikacija prije nego što ih napadači iskoriste, ističe se u priopćenju iz tvrtke.

Novi softver

SplxAI je nedavno najavio open-source softverski alat Agentic Radar dizajniran za mapiranje ovisnosti u agentičkim radnim tokovima, identifikaciju alata i komponenti te otkrivanje poveznica s nedostajućim sigurnosnim mjerama pomoću statičke analize koda.

Otkako je platforma lansirana u kolovozu 2024. godine, interes za njezinim uslugama raste, zabilježili su kvartalni rast od 127 posto.

Dosad su u njih uložili South Central Ventures, poljski Inovo VC i američki Runtime. Kako će uložiti sredstva prikupljena u investiciji od dva milijuna dolara u rujnu prošle godine je za Netokraciju ispričao suosnivač tvrtke Ante Gojsalić. Fokus im je bio na plaćama, zapošljavanju i širenju na američko tržište, ali imali su i druge planove:

S investicijom planiramo godišnje izlagati na 20 evenata i konferencija te imati preko 10 ljudi koji su fokusirani samo na razvoj našeg proizvoda u Hrvatskoj. Ne očekujemo velike promjene do sljedeće runde investicija, kada će se vjerojatno morati posložiti organizacija na višu razinu.