Ovog je petka u terorističkom napadu na Novom Zelandu ubijeno najmanje 49 ljudi, a napadač je svoj stravični čin emitirao uživo na Facebooku. Facebook je nakon eksplicitnih snimaka obrisao napadačev profil, a isto je učinio s njegovim profilom na Instagramu, no snimka se počela širiti drugim online kanalima.

Ovaj događaj, piše Motherboard, ukazuje na poteškoće u moderiranju prijenosa uživo, budući da video koji je naizgled nevin može brzo eskalirati u nasilan sadržaj.

"Ne mogu zamisliti kako je bilo moderatoru koji je morao pregledati snimku s Novog Zelanda", rekao je izvor upućen u proces moderiranja na Facebooku, a otkrio je i kako to funkcionira.

Proces moderiranja

Svaki sadržaj na Facebooku, bilo da se radio o objavama, fotografijama, ranije snimljenim videima ili prijenosu uživo za koji se sumnja da sadrži nasilje, govor mržnje ili na drugi način krši pravila ove društvene mreže, prijavljuje se moderatorima. Nakon prijave, oni sporni sadržaj pregledaju, te odlučuju što će s njim biti.

Interni dokument za obuku moderatora na Facebooku, prema pisanju Motherboarda, navodi da moderatori mogu odgoditi prijenos, a on m se ponovo pojavljuje svakih pet minuta tako da mogu provjeriti što se događa u njemu.

Druga je opcija da sporni sadržaj ignoriraju, zatim da obrišu prijenos ili ga proslijede na višu razinu gdje će ga provjeriti specijalizirani tim i odlučiti radi li se o opasnim akcijama, poput terorizma. Ako se pokaže da je zaista riječ o terorizmu, sadržaj preuzima Facebookov specijalni tim koji direktno surađuje s policijom.

U slučaju pucnjave na Novom Zelandu, Facebook je za Motherboard otkrio da su kontaktirali novozelandsku policiju već na samom početku incidenta.

Prije prosljeđivanja potencijalnog slučaja terorizma u prijenosu uživo na višu razinu odlučivanja, moderatori prvo moraju odgovoriti na nekoliko pitanja o sadržaju: što u sadržaju ukazuje na terorizam? Kad je korisnik rekao nešto što ukazuje na to da će nekome nanijeti zlo? Tko je u opasnosti? Pokazuje li oružje u videu? U kakvom se okruženju nalazi? Vozi li automobil?



Znakovi upozorenja

Moderatori su obučeni da paze na određene znakove upozorenja koji mogu ukazati na to da će video postati nasilan. Primjer za to je objava pokušaja samoubojstva uživo gdje se osoba oprašta i priča o tome kako će okončati svoj život. Dokument također upućuje da paze na "dokaze ljudskog očaja" poput plakanja ili preklinjanja, a u slučaju terorističkih napada #dokaze o potencijalnom nasilju" poput pokazivanja ili zvuka oružja u bilo kojem kontekstu.

Kad je riječ o pokazivanju vatrenog oružja, prijenos u samo nekoliko sekundi može eskalirati u nasilje, stoga korisnici mogu uspjeti u objavi takvog sadržaja. To ne znači da ih Facebook ne pokušava spriječiti, već ukazuje na poteškoće pri moderiranju takvog sadržaja.

"Nisam siguran kako je ovaj video dogurao do 17 minuta prijenosa", kaže izvor za Motherboard. U ovom je slučaju napadač već na samom početku pokazao oružje, a pokazuje ih i kasnije u snimci dok vozi prema džamiji.

Sudeći po oznaci u kutu snimke, napadač je u ovom slučaju koristio aplikaciju LIVE4 koja snimku prenosi direktno s GoPro kamere na Facebook Live.

"U šoku smo kao i svi ostali. Spremni smo na suradnju s policijom i pružit ćemo sve informacije koje imamo kako bismo pomogli u istrazi. Blokirat ćemo svakog tko koristi našu aplikaciju da bi širio zlo, ali nažalost, nemamo tehničke mogućnosti blokirati prijenos uživo dok se on događa", rekao je direktor LIVE4, Alex Zhukov, za Motherboard.

O nesretnom se incidentu brzo oglasio i Facebook.

"Suosjećamo sa žrtvama, njihovim obiteljima i zajednicom koju je pogodio ovaj užasan čin. Novozelandska policija nas je odmah na početku prijenosa uživo upozorila na to i odmah smo uklonili napadačeve profile na Facebooku i Instagramu, kao i taj video. Uklanjamo sve poruke podrške za njega i veličanje ovog zločina čim ih primijetimo. Nastavit ćemo direktno surađivati s policijom u njihovoj istrazi", rekla je Mia Garlick iz novozelandskog ogranka Facebooka.