Lažni video ili "deepfake", kako ih prepoznati?

Mojmira Pastorčić i Kolinda Grabar Kitarović najnovije AI “žrtve”: Pazite se lažnih videa!

Kako vrijeme prolazi, čini se kako će sumnjičavost biti nužnost pri konzumiranju sadržaja na internetu.

Zar baš tebe pozivaju voditeljica RTL Direkta Mojmira Pastorčić i bivša predsjednica Kolinda Grabar Kitarović da investiraš 250 eura u “kripto platformu”, sa sigurnom zaradom od 20.000 eura?

Ako ti je poznato o čemu govorimo to znači kako ti je algoritam servirao jedan deepfake koji traži svog neznalicu i naivca.

Ovo je prvi scam na kojeg sam naletio koji kvalitetno koristi AI mogućnosti manipulacije videom i zvukom.

Posted by Bojan Bernik on Thursday, February 8, 2024

Kako je posljednjih par godina krenuo uzlet umjetne inteligencije, tako se brzo probudio strah od njezine zloupotrebe, a još brže smo dobili prve primjere. U nedavnoj epizodi podcasta obrađivali smo AI pornografski primjer Taylor Swift koji je zapalio Twitter…

A sada već možemo vidjeti prve primjere zloupotrebe i kod nas, stoga donosimo smjernice kako prepoznati deepfake.

Pastorčić: “…bojim se da bi moglo biti manipulacija u superizbornoj godini”

Vidjeti snimku u kojoj govoriš riječi koje nikada nisi rekao i pritom pozivaš ljude na prevaru, sigurno nije ugodan osjećaj, a Mojmiri ovo čak nije ni prvi deepfake. 

Već prije par tjedana naletjela je na deepfake sa sličnom porukom u kojoj poziva ljude da ulože novac u investicijsku platformu, ali je u tom slučaju video uradak bio manje uvjerljiv. Stoga ju pojava novog videa ne iznenađuje, s obzirom na to što se događa drugim poznatim ličnostima, ističe Mojmira.

Kad Elon Musk na snimci kaže da je iz Republike Srpske, svima je jasno da je to šala. Ali sve češće se pojavljuju deep fake snimke gdje to nije baš tako očito. Od Taylor Swift preko Joea Bidena do Zorana Milanovića, zadnjih tjedana suočeni smo s poplavom deepfakea.

Mislim da je to opasno i bojim se da bi moglo biti manipulacija u superizbornoj godini. Opasno je kad ne možeš vjerovati svojim očima i ušima.

Mojmira je pojavom deepfakea s njezinim licem i glasom konzultirala RTL-ovu pravnu službu i svakako smatra da je nešto potrebno poduzeti jer se ipak radi o varanju građana. Regulacija deepfakeova u Europi trebala bi početi uvođenjem AI akta, a trenutno samo 5 američkih saveznih država (svatko na svoj način) reguliraju deepfakeove.

Usprkos regulaciji, prepoznati deepfake danas bi trebalo biti opće znanje i zato vam donosimo nekoliko preporuka kako se zaštiti.

Kako prepoznati deepfake?

Prepoznati deepfake vjerojatno će s napretkom tehnologije biti sve teže, ali trenutno vrijedi nekoliko univerzalnih pravila koja uvelike mogu pomoći u prepoznavanju. Možete isprobati alate kao što su Deepware, Sentinel i WeVerify, ali uzmite u obzir kako i oni mogu pogriješiti.

Zato je najbolje izoštriti svoj osjećaj za deepfake i obratiti pažnju na:

  • Lice – na deepfakeovima uvijek su primjetne transformacije lica, koje često izgledaju neprirodno;
  • Obraze i čelo – koža može izgledati previše glatko ili naborano;
  • Oči i obrve – pojavljuju li se sjene na mjestima gdje ih možemo očekivati;
  • Naočale – imaju li odsjaj ili previše odsjaja, mijenja li se kut odsjaja kad osoba pomakne;
  • Brada – bradu, kao brkove i zaliske moguće je dodati u postprodukciji pa i na njih obratite pozornost;
  • Treptanje – trepće li osoba premalo ili previše;
  • Pokrete usana – neki deepfakeovi se temelje na sinkronizaciji usana i zato je potrebno prepoznati kreću li se usne u skladu s onime što se govori.

Sad kada ste naučili na što trebate obratiti pozornost, svoje znanje možete testirati na Detect Fakes koji će vam ponuditi razne fotografije, a na vama je da odlučite jesu li stvarne.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Komentari

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Prikaz

Native Teams u Hrvatskoj: Kako olakšavaju brigu o porezima, doprinosima i zapošljavanju u inozemstvu?

Native Teams, platforma za freelancere i digitalno plaćanje koju globalno koristi gotovo sto tisuća ljudi, u Hrvatsku je stigla prije dvije godine. Otkrivamo kako im je izgledalo širenje na regiju te što su u međuvremenu nova uveli.

Izvještaj

Metaverse nije mrtav. Njegov zli brat iz Mete možda jest…

Rebrendingom u Metu, Facebook je pokušao preuzeti vlasništvo nad pojmom metaversea, no svjedoci smo koliko mu je to uspjelo. Metaverse više nije u hypeu kao nekad, ali oni koji su se nastavili baviti njime - znaju da priča tek počinje.

Zabava i zanimljivosti

Hrvati napokon mogu glasati elektronski, i to zahvaljujući Samu Altmanu (i botovima)

Već niz godina naklapa se i navija za uvođenje elektronskog glasanja u Hrvatskoj. Ako nismo tijekom pandemije koronavirusa, kad ćemo, pitaju se mnogi. Ova superizborna godina, u kojoj nas čekaju parlamentarni, europski i predsjednički izbori jedina je još sila (ne)prilika koja bi mogla nagnati Državno izborno povjerenstvo da poduzmu mjere po tom pitanju.

Što ste propustili

Tvrtke i poslovanje

One su matematičarke, inženjerke, statističarke… upoznajte Compingove stručnjakinje za podatke!

Koliko je važna činjenica da u jednoj od vodećih domaćih informatičkih tvrtki u podatkovnoj znanosti važnu ulogu i većinu imaju žene pokazuju i neka svjetska istraživanja.

Programiranje

Što softverski inženjeri (ne) žele na poslu? Sudjelujte u istraživanju!

Prošlo je vrijeme kada su se poslodavci u IT-ju razbacivali pozicijama i benefitima, no to ne znači nebrigu o kadru koji žele zadržati, ali i ubuduće privući. Evo prilike da im kažete što vam je važno...

Startupi

Zagrebački startup Farseer: Kod nas zime nema, spremni smo razvaliti područje financijskog planiranja

Zagrebačka tvrtka Farseer niže poslovne uspjehe jedan za drugim. Nakon strelovitog rasta, prošlogodišnje investicije te uspješnih suradnji s nekim od najvećih regionalnih i globalnih tvrtki, ovaj softver za financijsko planiranje nedavno je dospio u društvo najboljih svjetskih alata u svojoj kategoriji.

Tvrtke i poslovanje

Infobip Shift Miami: Drugo izdanje obilježilo više partnera, izlagača, govornika, a i posjetitelja!

Povratak hrvatske konferencije u SAD ispunio je sva očekivanja organizatora te dodatno učvrstio Infobipovu poziciju na izazovnom američkom tržištu

Intervju

Svjetski “kamp za analitičare” stiže u Split: “Uvijek ćemo trebati ljude koji mogu razumjeti ponašanje ljudi online…”

MeasureCamp je sve samo ne obična konferencija, a možda joj je upravo to priskrbilo priznat status u svijetu analitike, s 140+ događanja u više od 35 gradova. U razgovoru s analitičkim veteranom i organizatorom MeasureCampa otkrivamo više o splitskom izdanju - i analitičkim tekovinama.

Izvještaj

Metaverse nije mrtav. Njegov zli brat iz Mete možda jest…

Rebrendingom u Metu, Facebook je pokušao preuzeti vlasništvo nad pojmom metaversea, no svjedoci smo koliko mu je to uspjelo. Metaverse više nije u hypeu kao nekad, ali oni koji su se nastavili baviti njime - znaju da priča tek počinje.