ChatGPT 1 – Odvjetnici 0, ili kako te umjetna inteligencija može poraziti na domaćem terenu
Jedan američki odvjetnik koristio je umjetnu inteligenciju kako bi pronašao presedane na koje bi se mogao pozvati u tužbi koju je vodio za svog klijenta. Na njegovu nesreću, ispalo je da je ChatGPT baš sve ponuđene odluke - u cijelosti izhalucinirao.
Svega koji mjesec nakon lansiranja, OpenAI je kao dokaz nadmoći svog AI modela obznanio da je njegova GPT-4 verzija uspješno položila američki pravosudni ispit, a globalna su odvjetnička društva krenula razvijati vlastita AI rješenja specijalizirana za pravnu analizu. Sve je to u inače zatvorenoj, tehnološki nerazvijenoj pravnoj profesiji stvorilo neviđeni pritisak – umjetnu inteligenciju treba pod hitno integrirati u svakodnevni rad, kako god se zna i umije.
Najjednostavnije je bilo početi se služiti s besplatnom, online dostupnom verzijom ChatGPT-a. No, ispada, možda i ne najmudrije. Kolega Steven Schwartz iz njujorškog odvjetničkog društva Levidow, Levidow & Oberman naučio je to na teži način.
Slučaj koji je obilježio karijeru
Početkom prošle godine, taman kad je hype oko ChatGPT-a bio najveći, kolega Schwartz preuzeo je zastupanje u slučaju koji će obilježiti njegovu karijeru. Njegov klijent, gospodin Mate, tužio je avioprijevoznika Aviancu, Inc., tvrdeći da su ga uslijed nemara Aviancinog zaposlenika na jednom njihovu letu ozlijedila metalna kolica za posluživanje.
U tijeku postupka Schwartz i kolege iz ureda argumentaciju iz tužbe odlučili su „podebljati“ podužom listom presedana koju su dostavili sudu u potkrijepu svojih navoda. Kako bi ih opovrgnuli, Aviancini odvjetnici žurno su se bacili na analizu dostavljenih slučajeva, no nisu ih mogli pronaći u nijednoj od dostupnih baza podataka.
Kad su o ovome upozorili sud, ispalo je da ni uredujući sudac ne može pronaći zagonetne odluke. Stoga su Schwartz i kolege uljudno zamoljeni da dostave preslike presuda na koje se pozivaju.
No osim jedne odluke (za koju se naknadno ispostavilo da je lažna, kao što su lažne bile i u njoj citirane presude), kolege nisu mogli potkrijepiti svoje tvrdnje. Presude na koje su se dotad pozivali nije bilo moguće ni pronaći ni dostaviti, jer nisu postojale.
ChatGPT da izmisli? Nema šanse!
Čudeći se, sud je zatražio Schwartzovo pisano očitovanje, a kolega je skrušeno priznao da je presedane tražio (i našao) koristeći ChatGPT.
To mu je, tvrdio je, bio prvi susret s umjetnom inteligencijom – držao je da se radi o naprednoj tražilici (pobogu, položila je pravosudni ispit!) koja nikako ne bi mogla ponuditi lažne podatke. Sudu je dostavio i presliku svog “razgovora” s ChatGPT-em, u kojem pita chatbota jesu li slučajevi stvarni i koji mu je izvor.
Iz snimki zaslona, branio se kolega, vidljivo je da je umjetna inteligencija jasno potvrdila kako se svi slučajevi mogu pronaći u renomiranim pravnim zbirkama. Zadovoljen nedvosmislenim odgovorom i ne videći razloga da ovu superiornu tehnologiju dalje provjerava, Schwartz je uključio navedene slučajeve u podnesak sudu. Na njegovu nesreću, ispalo je da je ChatGPT baš sve ponuđene odluke – u cijelosti izhalucinirao.

Novčana kazna i isprike
Naravno, slučaj je munjevito privukao pažnju medija. Tek nekoliko dana nakon Schwartzova očitovanja, u New York Timesu izašao je članak laskavog naslova „Evo što se dogodi kada vaš odvjetnik krene koristiti ChatGPT“. S obzirom na imidž kojeg pravna struka inače uživa, ne čudi da je Schwartzova obrana ismijana i odbačena s prijezirom.
Sve ono što javnost oduvijek spočitava odvjetnicima u ovom se slučaju objelodanilo – od nestručnosti i nebrige za klijente, pa samoživosti i prenapuhanog ega, sve do prekomjernih naknada za usluge koje se, na koncu, niti ne izvrše kako spada.
Ni sucu u predmetu Mata protiv Aviance nije bilo do šale. Odlukom koja se proteže na nekoliko desetaka stranica (a koju je preko dva sata u detalje usmeno obrazlagao) sud je Schwartzu i kolegama iz društva izrekao novčanu kaznu od 5000 dolara i obvezao ih na slanje obrazloženih podnesaka ne samo drugoj strani u sporu, već i svi sucima koji su netočno navedeni kao uredujući u lažnim slučajevima.
Skupa suradnja s umjetnom inteligencijom
Očekivao bi čovjek da se ovakva priča treba desiti samo jednom, pa da ostatku pravne struke (makar od susramlja) ne padne na pamet ponoviti grešku. Mais non!
Samo u drugoj polovici 2023. u javnost je isplivalo nekoliko sličnih slučajeva u Americi, Kanadi, Ujedinjenom Kraljevstvu, Indiji i drugdje. Umjetna inteligencija nemilosrdno je sjekla sve pred sobom – kolega Schwartz imao je preko 30 godina staža, no gafova su imali i pripadnici mlađih generacija. Pod pritiskom rokova, iz neznanja, a možda i nebrige, kolege su kratkoročnu suradnju s umjetnom inteligencijom „platili“ ne samo novcem, već i reputacijom, suspenzijama, pa čak i otkazima.
Općepoznata nekompetentnost odvjetnika s tehnologijom
Osobito se problematičnom pokazala nevoljkost većine posrnulih odvjetnika da iskreno priznaju pogrešku i za nju preuzmu odgovornost. Schwartz i društvo ustrajali su u dostavi lažnih dokumenata sudu i protivnoj strani, a potom se vadili na neznanje i „općepoznatu nekompetentnost odvjetnika pri korištenju tehnologije“ (sic!). U jednom je kasnijem slučaju kolega čak krivnju neuspješno pokušao svaliti na vježbenika, priznavši naknadno ipak da se „uspaničario“.
Uključeni su odvjetnici, nažalost, time demantirali sami sebe – hinjenu nevinost puke pogreške u korištenju tehnologije zamijenili su jalovim pokušajima da otklone odgovornost za višestruke povrede odvjetničke dužnosti. Povrh utroška vremena i novca za suprotnu stranu i sud, da ne govorimo o povredi časti i ugleda sudaca potpisanih na nepostojećim odlukama, ovakvim postupanjem nekolicine kolega nanesena je šteta cjelokupnoj pravnoj profesiji.

Preporuke za korištenje AI u pravnoj praksi
Američkim sudovima nije trebalo dugo da reagiraju. U narednim mjesecima suci iz desetak saveznih američkih država donijeli su odluke kojima i odvjetnike i klijente obvezuju na posvemašnju transparentnost u slučaju korištenja umjetne inteligencije (osobito velikih jezičnih modela poput ChatGPT-a) u podnescima. Reagirala je i Američka odvjetnička komora, pri kojoj je u kolovozu 2023. osnovana posebna radna skupina za umjetnu inteligenciju.
Do sličnih je razvoja došlo i pri komorama drugih pogođenih (uglavnom anglosaksonskih) jurisdikcija. Izdavanjem smjernica, vodiča i preporuka za korištenje umjetne inteligencije i izbjegavanje povezanih rizika u pravnoj praksi, profesionalna udruženja odvjetnika profesiju kao da su nastojala zaštititi od nje same.
Očito, ne bez osnove.
Cjelokupno profesionalno djelovanje odvjetnika protkano je brojnim važnim etičkim dužnostima, osobito onim prema klijentima. U kontekstu rastućeg utjecaja (osobito generativne) umjetne inteligencije, svaka od njih mogla bi se naći pod povećalom. “With great power, kako kažu, comes great responsibility.”
No u osnovi, stvar je jednostavna – obveza tehnološke pismenosti postala je sastavni dio profesionalnog djelovanja današnjice. Kako za odvjetnike, tako i za brojne, brojne druge.
Treba se toga prisjetiti dok veselo tipkarimo jednostavnim i elegantnim korisničkim sučeljima AI alata. Inače ovo neće biti prvi auto-gol kojeg je jedna (u ovom slučaju pravna) profesija pretrpjela u doba umjetne inteligencije.
Proširena verzija ovog članka originalno je objavljena na portalu IUS-Info.
Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.
Pravila ponašanja
Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:
Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.
Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.
Komentari
Novak
20. 10. 2024. u 5:01 pm
ChatGPT je sustav unesenih podataka od strane čovjeka, pa slijedi dobre i loše čovjekove osobine. Jedino što je u brzini baratanja unesenim podacima brži od čovjeka i ne gubi memoriju. U postupovne zakone se mora jasno navesti, kako će sudovi tretirati činjenice pribavljene putem AI.
Nik
22. 10. 2024. u 1:08 pm
Nisam siguran da AI pribavlja činjenice. Čak ni njegovi stvoritelji ne mogu objasniti kako radi.