AI stvara i širi lažne vijesti, ali hoće li ih uskoro moći i prepoznati?

AI stvara i širi lažne vijesti, ali hoće li ih uskoro moći i prepoznati?

U razgovoru s domaćim stručnjacima otkrivamo što lažnu vijest čini uspješnom, mogu li AI alati spriječiti njihov nastanak i što je Big Tech poduzeo da se riješi jedan od najvećih problema današnjice.

Istražili smo primjene AI-ja u političkim kampanjama i koliku opasnost danas predstavlja sve naprednija deepfake tehnologija, a da nas pritom malo tko šiti od nje. Što se pak događa s lažnim vijestima? Znamo da je ova godina raj za njih zbog mnoštva izbora, a Hrvatska čak nešto i pokušava po tome pitanju. Trenutno razvijamo dva alata za prepoznavanje lažnih vijesti u Zagrebu i Osijeku, a to je tek dio aktivnosti. 

Kako bismo saznali više o korištenju umjetne inteligencije u svrhu širenja i stvaranja lažnih vijesti, razgovarali smo s Petrom Vidovom iz Faktografa, prof. dr. sc. Josipom Jobom s Fakulteta elektrotehnike, računarstva i informacijskih tehnologija u Osijeku, i Ivom Šalamon, voditeljicom tima za fact-checking Hrvatske udruge digitalnih izdavača.

Iza dezinformacija ne stoje alati, već sposobnost izvrtanja istine

Novinari Faktografa izvještavali su o velikom broju dezinformacija kreiranih pomoću umjetne inteligencije. Samo neki od zanimljivih primjera su:

  • premijer Andrej Plenković pozivao je na ulaganje u tvrtku Prvo plinarsko društvo jer tako svi mogu s uloženih 250 eura zaraditi 1500 eura tjedno,
  • supruga ukrajinskog predsjednika Olena Zelenska je novcima poreznih obveznika kupila Bugatti Tourbillon kojeg je predstavio Mate Rimac,
  • francuski predsjednik Emmanuel Macron ljubi muškarca na jahti.

A mnoge smo primjetili i mi pa smo tako mogli vidjeti “velike skandale” Vladimira Kočiša Zeca, a Mojmira Pastorčić i bivša predsjednica Kolinda Grabar Kitarović pozivale su na investiciju od 250 eura u “kripto platformu”.

Uglavnom se radilo o slučajevima u kojima su se lik i glas sintetički generiranih imitacija hrvatskih političara (i drugih javnih osoba) koristili u svrhu pokušaja prijevare, tj. krađe novca ili osobnih podataka. Na Faktografu su uočili AI dezinformacije koje imaju politički kontekst, ali takav sadržaj se redovito odnosi na inozemnu politiku i uglavnom se preuzima od stranih korisnika društvenih mreža, objašnjava Petar. 

Deepfake ostaje najpopularniji oblik AI dezinformacija

Najraširenije digitalne dezinformacije još uvijek su najčešće vrlo jednostavne, nastale bez korištenja AI alata. Uspješnu dezinformaciju ne čini tehnološka sofisticiranost sadržaja, već sposobnost izvrtanja istine (najraširenije dezinformacije uglavnom su djelomično utemeljenje u činjeničnoj stvarnosti) i manipuliranja emotivnim reakcijama javnosti na internetu, ističe Petar:

Sadržaj koji je emotivno nabijen, koji je napisan s ciljem da kod ljudi potakne snažnu emotivnu reakciju (npr. da ih naljuti), brzo se i lako širi internetom.

S druge strane, najpoznatija primjena umjetne inteligencije u stvaranju lažnih vijesti je deepfake. Dok je danas takve materijale još i moguće razlikovati od stvarnosti, u budućnosti će to širokim masama biti puno teže bez alata koji će obavljati tu ulogu – prepoznavati lažne slike i tekstove, odnosno lažne vijesti, ističe Josip.

Može li AI pomoći u traženju AI dezinformacija?

Koliko je Petru poznato, za sada ne postoje AI alati koji su sposobni samostalno prepoznavati dezinformacije. Različite organizacije diljem svijeta eksperimentiraju s velikim jezičnim modelima, ali fokus je na razvoju alata koji mogu pomoći fact-checkerima i istraživačima u obavljanju njihovog posla (poput npr. alata za transkripciju zvuka u tekst ili za brže i lakše filtriranje velike količine sadržaja).

Ipak, na jednom takvom alatu radi se u Osijeku u suradnji s HUDI-jem. Projektni tim FACT@FERIT, koji vodi Josip, nastoji razviti alat koji će prepoznavati činjenice u vijestima iz područja elektrotehnike, računarstva i informacijske tehnologije čija će se istinitost moći provjeriti kroz metodologiju definiranu u okviru projekta:

U prepoznavanju činjenica iz vijesti koristit će se umjetna inteligencija kako bi se ubrzala obrada i povećali kapaciteti sustava.

Inače, HUDI radi na još jednom fact-checking projektu u suradnji s Agencijom za elektroničke medije, Ministarstvom kulture i medija i Sveučilištom VERN’ – TurFacto. Projekt je usmjeren na za jačanje vjerodostojnosti informacija u turizmu.

Big Tech mora spriječiti širenje dezinformacija, ali trenutno ne radi dovoljno

Sve više tehnoloških organizacija najavljuje da će AI sadržaj generiran uz pomoć njihovih alata biti označen watermarkom, kako bi korisnici mogli prepoznati da se ne radi u autentičnim foto, video ili audio zapisima, navodi Petar: 

Ako se te najave ostvare, takvo bi tehnološko rješenje moglo biti korisno.

Naravno, neće biti dobro ako ostane samo na tome. AI je nova, potencijalno vrlo disruptivna tehnologija pa bi razvoj takvih proizvoda trebala pratiti i adekvatna regulacija, smatra Petar. Samo neke od tih regulacija su europski DSA i AI akt, a SAD trenutno radi na vlastitoj verziji zakona o umjetnoj inteligenciji. 

Meta radi osjetno više nego Google, ali, prema Petru, nijedna ne čini dovoljno. Isto se odnosi i za sve druge velike platforme čija se infrastruktura koristi za širenje svakojakog “smeća” – od govora mržnje preko toksične propagande do dezinformacijskih kampanja:

Neki ulažu više resursa u suzbijanje štetnih sadržaja, neki manje, ali očigledna raširenost ne samo dezinformacija, već i različitih internetskih prijevara te sličnog sadržaja, jasno pokazuje da to što rade nije dovoljno.

S druge strane, Iva smatra kako su obje kompanije poduzele su značajne korake kako bi smanjile širenje dezinformacija na svojim platformama, ali postoje i kritike koje ukazuju na to da bi mogli učiniti više. Za sada ostajemo na ovim primjerima:

  • Meta je razvila Third-Party Fact-Checking Program, u kojem su uspostavili suradnju s nezavisnim fact-checkerima kako bi označavali i smanjivali doseg lažnih vijesti na svojim platformama (Facebook, Instagram, WhatsApp), a kada fact-checkeri označe sadržaj kao lažan, Meta smanjuje njegovu vidljivost i korisnicima prikazuje upozorenja.
  • Google podržava brojne fact-checking organizacije kroz različite grantove i inicijative. Također, kroz Google News, koristi oznake za provjerene članke kako bi korisnici mogli lakše prepoznati vjerodostojne izvore.

Dok su algoritmi Mete i Googlea postali sofisticiraniji, a suradnja s fact-checking organizacijama intenzivnija, volumen i složenost problema ukazuju na to da bi moglo biti prostora za dodatna poboljšanja, smatra Iva.

Što Faktograf preporučuje građanima?

Najbolje što prosječni građanin može napraviti da se zaštiti jest da kritički propituje sadržaj s kojim dolazi u kontakt i postavi sebi ova pitanja:

  • tko je izvor informacije?
  • kakva je kredibilnost tog izvora?
  • je li informaciju moguće potvrditi kod drugih izvora?

Na kraju Petar poziva sve one koji su u dvojbi da se obrate profesionalnoj fact-checkerskoj organizaciji poput Faktografa. Mnoge teme na kojima su radili nastale su na temelju upita čitatelja.

Još iz serijala:

Kako su hrvatski, europski i američki političari koristili AI u (prljavim) kampanjama

Deepfake: Opasna igra od koje nas ne štite ni Big Tech ni EU

 

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Vodič

Imate pretplatu na AI alate? Evo što računovođe kažu o ispravnom evidentiranju

U novoj kolumni Bruno Cvitanović, direktor računovodstvenog i konzultantskog servisa Brojevi objašnjava kako računovodstveno tretirati AI alate, što vrijedi za poduzetnike izvan sustava PDV-a i na koje pogreške treba paziti.

Veliki intervjui

Hrvatski dizajner napravio idealnu mobilnu igru za ribiče sa 76 pravih vrsta riba i 40 lokacija

Claude Code pisao je kod, Codex je pomogao s ilustracijama i tako je grafički dizajner osmislio mobilnu video igru za ribiče. No izraditi igru koja radi i osmisliti igru kojoj će ljubitelji ribolova vjerovati dvije su različite stvari.

Veliki intervjui

Ako AI može napraviti film ili igru, što ostaje kreativcima? Odgovara CEO Nanobita

Može li umjetna inteligencija promijeniti način na koji nastaju filmovi i igre, a da pritom ne žrtvujemo kvalitetu priče i kreativnu viziju? Nanobit već testira odgovor na to pitanje, razvijajući AI produkcijske procese koji otvaraju mogućnost stvaranja sadržaja velikom brzinom.

Što ste propustili

Analiza

Kako Hrvatska oblikuje stajališta o europskim digitalnim zakonima?

Europski digitalni propisi oblikuju se puno prije nego što stignu na stol europskih institucija. Hrvatska pritom ima priliku zastupati vlastite interese, ali i uključiti domaću tehnološku industriju u pripremu nacionalnih stajališta. Istražili smo kako taj proces izgleda, ali i što bi moglo bolje.

Veliki intervjui

Digitalna pomoć za roditelje: aplikacija za dječja igrališta, zdravlje i obiteljske aktivnosti

Kako pronaći dobar parkić ili... najbliže gradilište? Hrvatski roditelji napravili su Parkich, aplikaciju koja na jednom mjestu okuplja više od 3400 igrališta i niz korisnih funkcija za obitelji.

Netokracija Podcast

Puca li AI balon u 2027. godini?

Što se događa kada AI obećanja sudare sa stvarnošću? Dok tehnološke kompanije ulažu milijarde u umjetnu inteligenciju, developeri se suočavaju s promjenama u svakodnevnom radu, juniori sve teže pronalaze prve prilike, a kompanije tek otkrivaju koliko je zahtjevno AI implementirati u poslovanje.

Umjetna inteligencija

Tko plaća AI alate na poslu? Tvrtka, zaposlenik ili oboje?

Tko plaća AI alate koje zaposlenici koriste za posao, koliko takva ulaganja stoje i trebaju li zaposlenici sudjelovati u podmirivanju računa? Istražili smo globalne prakse i razgovarali s hrvatskim IT tvrtkama.

Umjetna inteligencija

Hrvatski inženjerski trojac ušao u vrh europskog AI natjecanja s rješenjem u poljoprivredi

Zagrebački Motiq spaja robotiku, strojarstvo, mehatroniku i AI. Nastao kao ideja u noćnim Discord razgovorima, sada je prepoznat i u Europi, a konkurencija su mu bile velike tvrtke i sveučilišta.

Veliki intervjui

Odbijeni u regiji, osnivači svemirskog startupa sreću pronašli u Hrvatskoj

Bence Mátyás, astrobiolog i osnivač svemirskog startupa Genesis Space Flight Laboratories, bio je naš sugovornik i uveo nas u uzbudljiv prostor mikrogravitacije te nam objasnio kako to da su svoje mjesto u ovom svemiru našli baš u Čakovcu.