Izazovi moderiranja Facebooka i Instagrama: Ono što je nekome zlostavljanje, drugome je zadirkivanje

Izazovi moderiranja Facebooka i Instagrama: Ono što je nekome zlostavljanje, drugome je zadirkivanje

Možda najizazovniju ulogu, među osobama zaduženima za razvoj proizvoda za provođenje Facebookovih standarda, ima Namrata Bostrom. Ona je Product Manager za područje online zlostavljanja i uznemiravanja, a u Londonu sam imala prilike razgovarati s njom više o toj temi.

Dovoljno je bilo samo pogledati omjere koliko “posla” na tom području obavljaju algoritmi, proaktivno, a koliko on ovisi o ljudskome faktoru, odnosno prijavama korisnika Facebooka, reaktivno.

Tako je trenutno algoritmima najlakše prepoznati spam i lažne profile, čak i spriječiti njihovo otvaranje ili ih ukloniti u prvih nekoliko minuta nakon otvaranja, i to u visokim postotcima, dok sadržaj koji uznemiruje ili zlostavlja nekoga algoritam uklanja tek u 16,1% slučajeva, a ostatak se moderira po prijavama korisnika.

Facebook
Jasno je koji dio sadržaja odskače od ostalih.

Nije to ni čudno, kad se uzme u obzir da postoji mnogo nijansi sive u ovakvom ponašanju i sadržaju koji strojno učenje još nije dovoljno proučilo. Ako isključimo očite slučajeve, ostali ovise o kontekstu, osobnom doživljaju, je li riječ o maloljetnicima, javnim osobama ili tek nedužnoj konverzaciji između dvoje prijatelja. Kako je Namrata objasnila:

Ono što netko smatra zlostavljanjem, netko drugi može smatrati zadirkivanjem.

Sami uvjeti korištenja ove društvene mreže pokušavaju obuhvatiti tu kompleksnost, nastavila je, izdvojivši primjer kada netko dijeli sadržaj usmjeren protiv određene osobe kako bi ukazao na taj problem, ne nužno jer podržava takvo ponašanje. U tom je slučaju trebalo definirati da se takvu osobu ne sankcionira.

Osobni doživljaj i kontekst su najvažniji, a strojevi to ne mogu prepoznati

Facebook
Dok drugi dijelovi Community Integrity tima mogu više proaktivno djelovati na izazove s kojima se susreću, Namratin dio priče daleko je kompliciraniji.

Iako se radi na proaktivnom rješavanju ovog problema, odnosno prepoznavanju kakav je određeni sadržaj uz pomoć umjetne inteligencije, koja ide puno dalje od pukog filtriranja određenih ključnih riječi, Namrata je svjesna da će ljudski faktor ovdje uvijek biti najvažniji.

Zlostavljanje i uznemiravanje uvijek će biti područje gdje će osobni doživljaj i kontekst ostati važni, a ne očekujem da će proaktivni pristup biti visok kao što je, primjerice, kod detekcije lažnih profila. Kako tehnologija napreduje, postajat ćemo i mi bolji u tome, ali uvijek će nam korisnici morati reći kad se osjećaju zlostavljano ili da ih netko uznemirava online.

Percepcija osobe koja se osjeća uznemireno iznimno je važna, a u slučajevima kada se njena žalba na tuđe ponašanje ili sadržaj odbije, ona se može osjećati još više povrijeđeno i nesigurno na platformi koja je to omogućila.

To jest komplicirano, ali svjesni smo da se neće svi složiti s našim standardima i uvjetima korištenja, iako su oni kreirani pažljivo i u suradnji sa stručnjacima. Ipak, korisnicima dajemo druge opcije, primjerice, da blokiraju ili otprate osobu koja ih uznemirava. Time mogu kontrolirati svoje iskustvo, koje ide dalje od naših standarda koji su uniformirani i primjenjuju se na sve.

Blokiranje druge strane nije dovoljno

Kako je problem kompleksan, jednostavno rješenje poput blokiranja osobe spornog ponašanja nije dovoljno, a Facebook je toga svjestan. Zanimljivo je što je Namrata jedina u prezentaciji koristila primjer Instagrama, a ne Facebooka, što i nije neobično zbog demografije koja se okuplja oko ove društvene mreže. Mlađe osobe, posebice tinejdžerice, sklonije su susretima s ovakvim slučajevima, stoga su upravo na ovoj platformi predstavljene dodatne opcije.

Primjerice, kad sam algoritam prepozna da bi određeni komentar mogao biti uvredljiv, pošiljatelju prije slanja iskače upozorenje s upitom je li siguran da to doista želi objaviti. Namrata tvrdi da je to dovoljno da mnogi razmisle o svom načinu izražavanja.

Što se tiče zaštite vlastitih profila od negativnosti, osobe mogu uključiti filtriranje komentara po određenoj ključnoj riječi. To je korisno kad se, recimo, za određenu osobu koristi kakav pogrdan nadimak, stoga se mogu automatski blokirati komentari koji takav pojam sadrže.

Facebook
Restricted, novi alat koji omogućuje da ograničimo vidljivost sadržaja koji netko postavlja na naš profil.

No, još je zanimljiviji novi alat koji je za sad dostupan samo na Instagramu, Restricted. Kad nečiji profil na taj način ograničite, komentari te osobe na vašem profilu bit će vidljivi samo njima (i vama) i nikome drugome, a možete odabrati da samo određene komentare odobrite za javnost. A što je najvažnije, ta osoba ne dobiva obavijest o tome da joj je vidljivost komentara ograničena.

Tehnologija će se poboljšati, ali ne može se pobjeći od prirode problema

Za razliku od ostalih izazova s kojima se Facebook susreće, u ovome je osobni dojam najvažniji, zbog čega je logično da se više alata za kontrolu sadržaja prebacuje na samu osobu koja se osjeća ugroženo.

Samim time je Namratin odgovor na upit hoće li ikada algoritam moći u većoj mjeri biti odgovoran za blokiranje ili uklanjanje ovakvog sadržaja, logičan:

Ovo će uvijek biti područje gdje će biti najvažniji osobni aspekt. U budućnosti će tehnologija biti bolja u prepoznavanju uvredljivog izražavanja, ali ne može se pobjeći od prirode problema u kojemu je osobni doživljaj najvažniji.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Tehnologija

Kako otvoriti webshop? Važan korak je odabir platforme – što nudi WooCommerce?

Došla je pandemija i odjednom vam je pokretanje web trgovine postalo glavni prioritet? Važna odluka koja vas čeka je odabir platforme na temelju koje ćete napraviti svoje eCommerce carstvo. U moru alata čudnih imena, jedan iskače više od drugih - WooCommerce.

Intervju

Dostava piva nije vožnja po gradu uz GoogleMaps, znaju to Medvedgrad i OptimoRoute

Nakon osigurane investicije od gotovo sedam milijuna dolara, OptimoRoute planira širenje ureda u Zagrebu kako bi malim tvrtkama približili logističko planiranje slično onome koje imaju velike tvrtke.

Intervju

Tko posreduje između vašeg mobitela i banke kada plaćate Apple Payem?

Dok prislanjate mobitel na POS terminal vjerojatno ne razmišljate o tome koliko se procesa odvija u pozadini kako bi vaš novac kroz mobitel otišao s računa, zar ne?

Što ste propustili

Startupi i poslovanje

Trebate li pokrenuti svoj startup u krizna vremena? Ako da… možete li osigurati investiciju?

Krize sa sobom donose velike izazove, ali kako znamo - i značajne prilike. Mnogi se slažu da će nadolazeća kriza otvoriti još veće poslovne prilike nego prethodne. U ovotjednoj epizodi raspravljamo stoga kako i u kriznim vremenima razmišljati o stvaranju novih vrijednosti u tehnološkoj industriji.

Digitalni mediji

Zašto Spotify još nije u Hrvatskoj? Izmjena Zakona o autorskim pravima nudi odgovor

Već se godinama pitamo zašto Spotify još nije dostupan u Hrvatskoj, a ako bismo htjeli ponuditi kratak odgovor, on bi bio - novac. Duži je ipak nešto kompliciraniji, a rasprava oko izmjena Zakona o autorskim i srodnim pravima nudi uvid u njega.

Digitalni marketing

Što Facebook Shop donosi za brendove i eCommerce, analizirali smo uz stručnjake i poduzetnice

Iako su hrvatski trgovci već otvorili svoje fizičke trgovine, u SAD-u se tek počinju osjećati ozbiljne posljedice zatvaranja, a odgovor Marka Zuckerberga bio je Facebook Shop, moćniji eCommerce sustav koji bi mogao donijeti zanimljive promjene za sve - koliko korisne, otkrivamo.

Intervju

Digitalci koji su se preporodili na selu: Priroda ne znači da se trebate odreći tehnologije!

Pandemija novog koronavirusa naučila nas je kako je nekada potrebno jednostavno ostati doma, ali gotovo je uvijek bolje ostati u prirodi nego zatvoren u stanu.

Startupi i poslovanje

Kako radi Venture Builder, organizacija koja je ujedno i investitor i suosnivač u startupu?

Kako smo već pokazali, venture building model razvoja startupa ima priliku zasjati u kriznim vremenima bez obzira da li su osnivači VB organizacije poduzetnici veterani ili korporacija. U drugom nastavku ulazim u detalje o tome kako VB testira poslovnu priliku, kako formira, savjetuje i vodi tim do toga kako osigurava dodatan kapital.

Startupi i poslovanje

Digitalni doručak #3: Uz Wolt, KEKSPay i Infobip otkrivamo kako i u krizi dobro korisničko iskustvo može privući nove korisnike

Skuhajte kavu i ugodno se smjestite jer stiže nam treće izdanje Digitalnog doručka posvećenog korisničkom iskustvu. Uz domaće i strane stručnjake razgovaramo kako ispolirati CX u kriznim vremenima.