Izazovi moderiranja Facebooka i Instagrama: Ono što je nekome zlostavljanje, drugome je zadirkivanje

Izazovi moderiranja Facebooka i Instagrama: Ono što je nekome zlostavljanje, drugome je zadirkivanje

Možda najizazovniju ulogu, među osobama zaduženima za razvoj proizvoda za provođenje Facebookovih standarda, ima Namrata Bostrom. Ona je Product Manager za područje online zlostavljanja i uznemiravanja, a u Londonu sam imala prilike razgovarati s njom više o toj temi.

Dovoljno je bilo samo pogledati omjere koliko “posla” na tom području obavljaju algoritmi, proaktivno, a koliko on ovisi o ljudskome faktoru, odnosno prijavama korisnika Facebooka, reaktivno.

Tako je trenutno algoritmima najlakše prepoznati spam i lažne profile, čak i spriječiti njihovo otvaranje ili ih ukloniti u prvih nekoliko minuta nakon otvaranja, i to u visokim postotcima, dok sadržaj koji uznemiruje ili zlostavlja nekoga algoritam uklanja tek u 16,1% slučajeva, a ostatak se moderira po prijavama korisnika.

Jasno je koji dio sadržaja odskače od ostalih. Facebook

Nije to ni čudno, kad se uzme u obzir da postoji mnogo nijansi sive u ovakvom ponašanju i sadržaju koji strojno učenje još nije dovoljno proučilo. Ako isključimo očite slučajeve, ostali ovise o kontekstu, osobnom doživljaju, je li riječ o maloljetnicima, javnim osobama ili tek nedužnoj konverzaciji između dvoje prijatelja. Kako je Namrata objasnila:

Ono što netko smatra zlostavljanjem, netko drugi može smatrati zadirkivanjem.

Sami uvjeti korištenja ove društvene mreže pokušavaju obuhvatiti tu kompleksnost, nastavila je, izdvojivši primjer kada netko dijeli sadržaj usmjeren protiv određene osobe kako bi ukazao na taj problem, ne nužno jer podržava takvo ponašanje. U tom je slučaju trebalo definirati da se takvu osobu ne sankcionira.

Osobni doživljaj i kontekst su najvažniji, a strojevi to ne mogu prepoznati

Dok drugi dijelovi Community Integrity tima mogu više proaktivno djelovati na izazove s kojima se susreću, Namratin dio priče daleko je kompliciraniji. Facebook

Iako se radi na proaktivnom rješavanju ovog problema, odnosno prepoznavanju kakav je određeni sadržaj uz pomoć umjetne inteligencije, koja ide puno dalje od pukog filtriranja određenih ključnih riječi, Namrata je svjesna da će ljudski faktor ovdje uvijek biti najvažniji.

Zlostavljanje i uznemiravanje uvijek će biti područje gdje će osobni doživljaj i kontekst ostati važni, a ne očekujem da će proaktivni pristup biti visok kao što je, primjerice, kod detekcije lažnih profila. Kako tehnologija napreduje, postajat ćemo i mi bolji u tome, ali uvijek će nam korisnici morati reći kad se osjećaju zlostavljano ili da ih netko uznemirava online.

Percepcija osobe koja se osjeća uznemireno iznimno je važna, a u slučajevima kada se njena žalba na tuđe ponašanje ili sadržaj odbije, ona se može osjećati još više povrijeđeno i nesigurno na platformi koja je to omogućila.

To jest komplicirano, ali svjesni smo da se neće svi složiti s našim standardima i uvjetima korištenja, iako su oni kreirani pažljivo i u suradnji sa stručnjacima. Ipak, korisnicima dajemo druge opcije, primjerice, da blokiraju ili otprate osobu koja ih uznemirava. Time mogu kontrolirati svoje iskustvo, koje ide dalje od naših standarda koji su uniformirani i primjenjuju se na sve.

Blokiranje druge strane nije dovoljno

Kako je problem kompleksan, jednostavno rješenje poput blokiranja osobe spornog ponašanja nije dovoljno, a Facebook je toga svjestan. Zanimljivo je što je Namrata jedina u prezentaciji koristila primjer Instagrama, a ne Facebooka, što i nije neobično zbog demografije koja se okuplja oko ove društvene mreže. Mlađe osobe, posebice tinejdžerice, sklonije su susretima s ovakvim slučajevima, stoga su upravo na ovoj platformi predstavljene dodatne opcije.

Primjerice, kad sam algoritam prepozna da bi određeni komentar mogao biti uvredljiv, pošiljatelju prije slanja iskače upozorenje s upitom je li siguran da to doista želi objaviti. Namrata tvrdi da je to dovoljno da mnogi razmisle o svom načinu izražavanja.

Što se tiče zaštite vlastitih profila od negativnosti, osobe mogu uključiti filtriranje komentara po određenoj ključnoj riječi. To je korisno kad se, recimo, za određenu osobu koristi kakav pogrdan nadimak, stoga se mogu automatski blokirati komentari koji takav pojam sadrže.

Restricted, novi alat koji omogućuje da ograničimo vidljivost sadržaja koji netko postavlja na naš profil. Facebook

No, još je zanimljiviji novi alat koji je za sad dostupan samo na Instagramu, Restricted. Kad nečiji profil na taj način ograničite, komentari te osobe na vašem profilu bit će vidljivi samo njima (i vama) i nikome drugome, a možete odabrati da samo određene komentare odobrite za javnost. A što je najvažnije, ta osoba ne dobiva obavijest o tome da joj je vidljivost komentara ograničena.

Tehnologija će se poboljšati, ali ne može se pobjeći od prirode problema

Za razliku od ostalih izazova s kojima se Facebook susreće, u ovome je osobni dojam najvažniji, zbog čega je logično da se više alata za kontrolu sadržaja prebacuje na samu osobu koja se osjeća ugroženo.

Samim time je Namratin odgovor na upit hoće li ikada algoritam moći u većoj mjeri biti odgovoran za blokiranje ili uklanjanje ovakvog sadržaja, logičan:

Ovo će uvijek biti područje gdje će biti najvažniji osobni aspekt. U budućnosti će tehnologija biti bolja u prepoznavanju uvredljivog izražavanja, ali ne može se pobjeći od prirode problema u kojemu je osobni doživljaj najvažniji.

Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na Netokraciji dopušteno je samo korisnicima koji ostave svoje ime i prezime te mail adresu i prihvate pravila ponašanja.

Pravila ponašanja

Na Netokraciji za vas stvaramo kvalitetan, autorski potpisan sadržaj i zaista se veselimo vašim kvalitetnim, kontruktivnim komentarima. Poštujmo stoga jedni druge prilikom komentiranja, kao i Zakon, držeći se sljedećih pravila ponašanja:

  • Ne budite 💩: Nema vrijeđanja, diskriminiranja, ni psovanja (osim ako nije osobni izričaj, ali onda neka psovka bude općenita, a ne usmjerena prema nekome). Također, upoznajte se sa stavkom 2. članka 94. Zakona o elektroničkim medijima prije no što ostavite komentar.
  • Samo kvalitetna rasprava, manje trolanja: Ne morate se ni sa kim slagati, ali budite konstruktivni i doprinesite raspravi! Svako trolanje, flameanje, koliko god "plesalo" na granici, leti van.
  • Imenom i prezimenom, nismo Anonymous 👤: Autor sadržaja stoji iza svog sadržaja, stoga stojite i vi iza svog komentara. Koristimo ime i prezime te pravu email adresu.

Kako koristimo podatke koje ostavljate? Bacite oko na našu izjavu o privatnosti.

Sve ostale komentare ćemo s guštom spaliti, jer ne zaslužuju svoje mjesto na internetu.

Odgovori

Tvoja e-mail adresa neće biti objavljena.

Popularno

Startupi i poslovanje

Kako je Estonija postala “startup nacija”, može li to Hrvatska, kako – i kad?

Može li novoosnovana udruga Cro Startup ponoviti uspjeh koji je postigla Startup Estonia? Eve Peeterson iz te udruge ispričala je koje su promjene, inicijative i angažmani bili ključni za uspjeh.

Digitalni marketing

Na digitalno oglašavanje u Hrvatskoj u 2021. potrošeno 1,65 milijarde kuna, 75% otišlo Googleu i Meti

Na digitalno oglašavanje u Hrvatskoj u 2021. godini potrošeno je milijardu i 657 milijuna kuna, pokazalo je istraživanje digitalni AdEx koje su za HUDI (Hrvatsku udrugu digitalnih izdavača) proveli austrijska agencija Momentum i lokalni partner Ipsos.

Digitalni mediji

Urednik ukrajinskog Forbesa: “Dezinformacije nam zapravo nisu predstavljale veliki problem – Rusi su izgubili informacijski rat”

Grad bombardiraju doslovno, a vas vijestima i dojavama, "ne možete se usredotočiti na bilo što duže od 10 minuta...", prisjeća se Mykhailo prvih tjedana rata u Ukrajini. Ispričao nam je kako su u ukrajinskom Forbesu operativno i mentalno pripremali redakciju za rad u takvim okolnostima.

Što ste propustili

Startupi i poslovanje

Još ne primate kartice? Uvjerite se sami zašto bi trebali uz Visinu besplatnu inicijativu

U 2022. posve je jasno: kartično plaćanje ključna je stavka za poslovanje malih i srednjih poduzetnika. No, samo ta konstatacija ne znači mnogo ako u isto vrijeme ne komuniciramo kako vam konkretno to može pomoći u privlačenju novih kupaca. Skupili smo za vas dovoljno razloga, a jedan od najbitnijih je i taj da kroz inicijativu Digitalna Hrvatska imate pravo isprobati kartično plaćanje besplatno pola godine!

Intervju

Kako je jedan Riječanin kao srednjoškolac postao YouTube guru JavaScripta?

Činjenica da se mučio s učenjem programiranja za Adriana je bila ključna da u sebi otkrije poziv i talent za podučavanjem, a to ga je dovelo do vlastitog biznisa koji razvija na YouTubeu i izvan njega.

Karijere

Isplati li se uložiti skoro 5000 eura u polaganje UX certifikata?

Za skoro 5000 eura možete kupiti polovni auto, otići na putovanje iz snova, otplatiti manji kredit ili pokrenuti manji posao. Biste li platili toliko za profesionalnu edukaciju?

Startupi i poslovanje

Sabol iz New Yorka poručio: U Hrvatskoj možete doći do 50 zaposlenika, ali za 50 milijuna dolara morate ići u Ameriku

Američka dijaspora okupila je u New Yorku predstavnike različitih generacija hrvatske tehnološke i startup scene kako bi se povezali i dogovorili konkretne korake kojima im mogu pomoći da bi skalirali poslovanje i postali globalno uspješni, poput spajanja s kupcima, partnerima i ulagačima.

Karijere

Kako je Ana Urlić nakon 30-e karijeru iz politike prebacila u programiranje!

Ana Urlić netokratima je poznata prvenstveno kao bivša voditeljica Odjela za online komunikacije Vlade Republike Hrvatske i aktivistkinja, tako da bi ste se mogli iznenaditi kad doznate da je - postala programerka!

Intervju

Iako ih se tome ne uči, inženjeri imaju izbora: Voditi programere ili programirati, pitanje je!

Ne nalaze svi zadovoljstvo u vođenju ljudi, tim manje ako su se školovali da razmišljaju samo o kodu i tehnologiji. Kako onda, ako ne znate što vas čeka - ni jeste li za to - otkriti što bi bila prava karijerna odluka za vas?