ChatGPT 1 - Odvjetnici 0, ili kako te umjetna inteligencija može poraziti na domaćem terenu

ChatGPT 1 – Odvjetnici 0, ili kako te umjetna inteligencija može poraziti na domaćem terenu

Jedan američki odvjetnik koristio je umjetnu inteligenciju kako bi pronašao presedane na koje bi se mogao pozvati u tužbi koju je vodio za svog klijenta. Na njegovu nesreću, ispalo je da je ChatGPT baš sve ponuđene odluke - u cijelosti izhalucinirao.

Svega koji mjesec nakon lansiranja, OpenAI je kao dokaz nadmoći svog AI modela obznanio da je njegova GPT-4 verzija uspješno položila američki pravosudni ispit, a globalna su odvjetnička društva krenula razvijati vlastita AI rješenja specijalizirana za pravnu analizu. Sve je to u inače zatvorenoj, tehnološki nerazvijenoj pravnoj profesiji stvorilo neviđeni pritisak – umjetnu inteligenciju treba pod hitno integrirati u svakodnevni rad, kako god se zna i umije.

Najjednostavnije je bilo početi se služiti s besplatnom, online dostupnom verzijom ChatGPT-a. No, ispada, možda i ne najmudrije. Kolega Steven Schwartz iz njujorškog odvjetničkog društva Levidow, Levidow & Oberman naučio je to na teži način.

Slučaj koji je obilježio karijeru

Početkom prošle godine, taman kad je hype oko ChatGPT-a bio najveći, kolega Schwartz preuzeo je zastupanje u slučaju koji će obilježiti njegovu karijeru. Njegov klijent, gospodin Mate, tužio je avioprijevoznika Aviancu, Inc., tvrdeći da su ga uslijed nemara Aviancinog zaposlenika na jednom njihovu letu ozlijedila metalna kolica za posluživanje.

U tijeku postupka Schwartz i kolege iz ureda argumentaciju iz tužbe odlučili su „podebljati“ podužom listom presedana koju su dostavili sudu u potkrijepu svojih navoda. Kako bi ih opovrgnuli, Aviancini odvjetnici žurno su se bacili na analizu dostavljenih slučajeva, no nisu ih mogli pronaći u nijednoj od dostupnih baza podataka.

Kad su o ovome upozorili sud, ispalo je da ni uredujući sudac ne može pronaći zagonetne odluke. Stoga su Schwartz i kolege uljudno zamoljeni da dostave preslike presuda na koje se pozivaju.

No osim jedne odluke (za koju se naknadno ispostavilo da je lažna, kao što su lažne bile i u njoj citirane presude), kolege nisu mogli potkrijepiti svoje tvrdnje. Presude na koje su se dotad pozivali nije bilo moguće ni pronaći ni dostaviti, jer nisu postojale.

ChatGPT da izmisli? Nema šanse!

Čudeći se, sud je zatražio Schwartzovo pisano očitovanje, a kolega je skrušeno priznao da je presedane tražio (i našao) koristeći ChatGPT.

To mu je, tvrdio je, bio prvi susret s umjetnom inteligencijom – držao je da se radi o naprednoj tražilici (pobogu, položila je pravosudni ispit!) koja nikako ne bi mogla ponuditi lažne podatke. Sudu je dostavio i presliku svog “razgovora” s ChatGPT-em, u kojem pita chatbota jesu li slučajevi stvarni i koji mu je izvor.

Iz snimki zaslona, branio se kolega, vidljivo je da je umjetna inteligencija jasno potvrdila kako se svi slučajevi mogu pronaći u renomiranim pravnim zbirkama. Zadovoljen nedvosmislenim odgovorom i ne videći razloga da ovu superiornu tehnologiju dalje provjerava, Schwartz je uključio navedene slučajeve u podnesak sudu. Na njegovu nesreću, ispalo je da je ChatGPT baš sve ponuđene odluke – u cijelosti izhalucinirao.

Novčana kazna i isprike

Naravno, slučaj je munjevito privukao pažnju medija. Tek nekoliko dana nakon Schwartzova očitovanja, u New York Timesu izašao je članak laskavog naslova „Evo što se dogodi kada vaš odvjetnik krene koristiti ChatGPT“. S obzirom na imidž kojeg pravna struka inače uživa, ne čudi da je Schwartzova obrana ismijana i odbačena s prijezirom.

Sve ono što javnost oduvijek spočitava odvjetnicima u ovom se slučaju objelodanilo – od nestručnosti i nebrige za klijente, pa samoživosti i prenapuhanog ega, sve do prekomjernih naknada za usluge koje se, na koncu, niti ne izvrše kako spada.

Ni sucu u predmetu Mata protiv Aviance nije bilo do šale. Odlukom koja se proteže na nekoliko desetaka stranica (a koju je preko dva sata u detalje usmeno obrazlagao) sud je Schwartzu i kolegama iz društva izrekao novčanu kaznu od 5000 dolara i obvezao ih na slanje obrazloženih podnesaka ne samo drugoj strani u sporu, već i svi sucima koji su netočno navedeni kao uredujući u lažnim slučajevima.

Skupa suradnja s umjetnom inteligencijom

Očekivao bi čovjek da se ovakva priča treba desiti samo jednom, pa da ostatku pravne struke (makar od susramlja) ne padne na pamet ponoviti grešku. Mais non!

Samo u drugoj polovici 2023. u javnost je isplivalo nekoliko sličnih slučajeva u Americi, Kanadi, Ujedinjenom Kraljevstvu, Indiji i drugdje. Umjetna inteligencija nemilosrdno je sjekla sve pred sobom – kolega Schwartz imao je preko 30 godina staža, no gafova su imali i pripadnici mlađih generacija. Pod pritiskom rokova, iz neznanja, a možda i nebrige, kolege su kratkoročnu suradnju s umjetnom inteligencijom „platili“ ne samo novcem, već i reputacijom, suspenzijama, pa čak i otkazima.

Općepoznata nekompetentnost odvjetnika s tehnologijom

Osobito se problematičnom pokazala nevoljkost većine posrnulih odvjetnika da iskreno priznaju pogrešku i za nju preuzmu odgovornost. Schwartz i društvo ustrajali su u dostavi lažnih dokumenata sudu i protivnoj strani, a potom se vadili na neznanje i „općepoznatu nekompetentnost odvjetnika pri korištenju tehnologije“ (sic!). U jednom je kasnijem slučaju kolega čak krivnju neuspješno pokušao svaliti na vježbenika, priznavši naknadno ipak da se „uspaničario“.

Uključeni su odvjetnici, nažalost, time demantirali sami sebe – hinjenu nevinost puke pogreške u korištenju tehnologije zamijenili su jalovim pokušajima da otklone odgovornost za višestruke povrede odvjetničke dužnosti. Povrh utroška vremena i novca za suprotnu stranu i sud, da ne govorimo o povredi časti i ugleda sudaca potpisanih na nepostojećim odlukama, ovakvim postupanjem nekolicine kolega nanesena je šteta cjelokupnoj pravnoj profesiji.

Preporuke za korištenje AI u pravnoj praksi

Američkim sudovima nije trebalo dugo da reagiraju. U narednim mjesecima suci iz desetak saveznih američkih država donijeli su odluke kojima i odvjetnike i klijente obvezuju na posvemašnju transparentnost u slučaju korištenja umjetne inteligencije (osobito velikih jezičnih modela poput ChatGPT-a) u podnescima. Reagirala je i Američka odvjetnička komora, pri kojoj je u kolovozu 2023. osnovana posebna radna skupina za umjetnu inteligenciju.

Do sličnih je razvoja došlo i pri komorama drugih pogođenih (uglavnom anglosaksonskih) jurisdikcija. Izdavanjem smjernica, vodiča i preporuka za korištenje umjetne inteligencije i izbjegavanje povezanih rizika u pravnoj praksi, profesionalna udruženja odvjetnika profesiju kao da su nastojala zaštititi od nje same.

Očito, ne bez osnove.

Cjelokupno profesionalno djelovanje odvjetnika protkano je brojnim važnim etičkim dužnostima, osobito onim prema klijentima. U kontekstu rastućeg utjecaja (osobito generativne) umjetne inteligencije, svaka od njih mogla bi se naći pod povećalom. “With great power, kako kažu, comes great responsibility.”

No u osnovi, stvar je jednostavna – obveza tehnološke pismenosti postala je sastavni dio profesionalnog djelovanja današnjice. Kako za odvjetnike, tako i za brojne, brojne druge.

Treba se toga prisjetiti dok veselo tipkarimo jednostavnim i elegantnim korisničkim sučeljima AI alata. Inače ovo neće biti prvi auto-gol kojeg je jedna (u ovom slučaju pravna) profesija pretrpjela u doba umjetne inteligencije.

Proširena verzija ovog članka originalno je objavljena na portalu IUS-Info.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Komentari

  1. Novak

    Novak

    20. 10. 2024. u 5:01 pm Odgovori

    ChatGPT je sustav unesenih podataka od strane čovjeka, pa slijedi dobre i loše čovjekove osobine. Jedino što je u brzini baratanja unesenim podacima brži od čovjeka i ne gubi memoriju. U postupovne zakone se mora jasno navesti, kako će sudovi tretirati činjenice pribavljene putem AI.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Veliki intervjui

Hrvatski dizajner napravio idealnu mobilnu igru za ribiče sa 76 pravih vrsta riba i 40 lokacija

Claude Code pisao je kod, Codex je pomogao s ilustracijama i tako je grafički dizajner osmislio mobilnu video igru za ribiče. No izraditi igru koja radi i osmisliti igru kojoj će ljubitelji ribolova vjerovati dvije su različite stvari.

Vodič

Imate pretplatu na AI alate? Evo što računovođe kažu o ispravnom evidentiranju

U novoj kolumni Bruno Cvitanović, direktor računovodstvenog i konzultantskog servisa Brojevi objašnjava kako računovodstveno tretirati AI alate, što vrijedi za poduzetnike izvan sustava PDV-a i na koje pogreške treba paziti.

Veliki intervjui

Ako AI može napraviti film ili igru, što ostaje kreativcima? Odgovara CEO Nanobita

Može li umjetna inteligencija promijeniti način na koji nastaju filmovi i igre, a da pritom ne žrtvujemo kvalitetu priče i kreativnu viziju? Nanobit već testira odgovor na to pitanje, razvijajući AI produkcijske procese koji otvaraju mogućnost stvaranja sadržaja velikom brzinom.

Što ste propustili

Umjetna inteligencija

Biste li AI-ju prepustili odluke o svojoj vezi?

Domaća aplikacija Shrink: Go Deeper koristi knjige i predavanja jednog psihoterapeuta kako bi korisnicima ponudila AI sugovornika za razgovore o emocijama i odnosima. S njim smo o svojim, doduše fiktivnim emocijama razgovarali i mi.

Veliki intervjui

Kako djecu naučiti upravljati novcem?

Kako djeci objasniti štednju, budžet, dug ili razliku između želja i potreba? Jakša Tomović odlučio je taj problem riješiti vlastitom aplikacijom TONKO, koja kroz zadatke, tri virtualne staklenke i kratke lekcije djecu od 6 do 14 godina uči financijskoj pismenosti.

Netokracija Podcast

Hrvatska planira uložiti 932 milijuna eura u umjetnu inteligenciju

U novoj epizodi Netokracija Podcasta razgovaramo o hrvatskom Nacionalnom planu za razvoj umjetne inteligencije, u koji se do 2032. planira uložiti 932 milijuna eura, a dotaknuli smo se i globalne AI utrke gdje se troše milijarde.

Analiza

Kako Hrvatska oblikuje stajališta o europskim digitalnim zakonima?

Europski digitalni propisi oblikuju se puno prije nego što stignu na stol europskih institucija. Hrvatska pritom ima priliku zastupati vlastite interese, ali i uključiti domaću tehnološku industriju u pripremu nacionalnih stajališta. Istražili smo kako taj proces izgleda, ali i što bi moglo bolje.

Veliki intervjui

Digitalna pomoć za roditelje: aplikacija za dječja igrališta, zdravlje i obiteljske aktivnosti

Kako pronaći dobar parkić ili... najbliže gradilište? Hrvatski roditelji napravili su Parkich, aplikaciju koja na jednom mjestu okuplja više od 3400 igrališta i niz korisnih funkcija za obitelji.

Netokracija Podcast

Puca li AI balon u 2027. godini?

Što se događa kada AI obećanja sudare sa stvarnošću? Dok tehnološke kompanije ulažu milijarde u umjetnu inteligenciju, developeri se suočavaju s promjenama u svakodnevnom radu, juniori sve teže pronalaze prve prilike, a kompanije tek otkrivaju koliko je zahtjevno AI implementirati u poslovanje.