A sve se to događa zato što kompanija ne uspijeva da reguliše sadržaje na svojoj platformi, pošto nema dovoljno moderatora koji govore lokalne jezike i razumiju kulturni kontekst.
Interna dokumenta kompanije koje je američkim vlastima dostavila bivša analitičarka podataka Frensis Haugen, koja je podigla uzbunu zabrinuta zbog prakse kompanije, pokazuju da su problemi sa moderacijom sadržaja na platformi - sistemski, kao i da je Facebook godinama znao koliko su ozbiljni ti problemi i nedostaci, a nije mnogo toga preduzeo.
Facebook platforme nisu uspjele da razviju rješenja, zasnovana na vještačkoj inteligenciji, za prepoznavanje štetnog sadržaja na različitim jezicima. Zbog toga, teroristički sadržaji i jezik mržnje cvjetaju u nekim od najnestabilnijih regija svijeta, dok u drugim dijelovima dolazi do suviše strogog regulisanja svakodnevnog govora.
Ova priča, kao i druge objavljene u ponedeljak, zasnovane su na podacima koje je uzbunjivačica Frensis Haugen otkrila Komisiji za hartije od vrijednosti, a koje je njen pravni tim, u redigovanoj verziji, takođe predao Kongresu. Do redigovane verzije predate Kongresu došao je i konzorcijum od 17 medijskih organizacija, među kojima je AP. Novinari iz malih i velikih redakcija su zajedno radili da dobiju pristup hiljadama stranica internih dokumenata do kojih je došla Haugen, koji se sada nazivaju "Facebook papers". Odvojeni konzorcijum evropskih medija je imao pristup istim dokumentima, a članovi obje grupe počeli su da objavljuju sadržaj na osnovu svoje analize materijala 25. oktobra. Taj datum su odredile partnerske medijske kuće kako bi svi u konzorcijumu imali priliku da u potpunosti analiziraju dokumenta a Facebook predstavnici za odnose s javnošću imali vremena da odgovore na pitanja.
U dokumentima se navodi da je Facebook stavio profit iznad bezbjednosti, i sopstvena istraživanja sakrivao od investitora i javnosti, prenosi AP. Neka od saznanja iz dosijea dostavljenih Kongresu su već objavljena, kao što je priča o unutrašnjim previranjima u kompaniji poslije upada u Kapitol 6. januara, a biće objavljena i druga dokumenta.
U odgovoru AP-u, Facebook portparol je naveo da je u protekle dvije godine, kompanija ulagala u regrutovanje većeg broja zaposlenih sa znanjem lokalnih dijalekata i ekspertizom iz domaćih tema, kako bi pojačala svoje kapacitete globalne analize sadržaja. Kada je riječ o moderaciji sadržaja na arapskom jeziku, kompanija je navela da "na tome ostaje još mnogo posla."
Međutim, dokumenta pokazuju da problemi nisu ograničeni samo na arapski jezik. U Mjanmaru, gdje su dezinformacije koje su se širile na Facebooku više puta dovođene u vezu sa etničkim nasiljem, interni izvještaji kompanije pokazuju da nije zaustavila širenje jezika mržnje protiv manjinskih Rohinja muslimana.
Dokumenta, takođe, pokazuju da u Indiji, moderatori nikada nisu označili govor mržnje protiv muslimana koji je iznosila desničarska Hindu nacionalistička grupa premijera Narednre Modija, zato što Facebook nije imao dovoljno moderatora i automatizovanih filtera sa znanjem hindija i bengalskog jezika.
Arapski, treći najčešće korišćeni jezik na Facebooku, predstavlja specijalni izazov za moderatore, kao i automatizovane sisteme kompanije, koji imaju probleme da razumiju govorne dijalekte karakteristične za svaku zemlju i region, i rječnik obojen različitim istorijskim uticajima i kulturološkim kontekstima.Platforma je stekla veliki broj novih članova u regionu tokom Arapskog proljeća 2011, ali se njen ugled foruma za slobodno izražavanje u regionu punom autokratskih vlada u međuvremenu promijenio.
Desetinama palestinskih novinara su obrisani nalozi. Arhive o građanskom ratu u Siriji su nestale. Tokom 11-dnevnog rata u Gazi prošlog maja, Facebook aplikacija Instagram je na kratko zabranila hashtag #AlAqsa, koji je označavao džamiju u Starom gradu u Jerusalimu - mjesto u centru nastalog sukoba. Kompanija sa kasnije izvinila, navodeći da je islamsko sveto mjesto "pomiješala" sa jednom terorističkom grupom.
Kritike, satira pa čak i obično pominjanje grupa sa Facebookove liste "opasnih pojedinaca i organizacija", koja je formirana na osnovu liste američke vlade - smatraju se osnovom za uklanjanje tih sadržaja.
"Na neispravan način smo promovisali anti-terorističke sadržaje na arapskom", navodi se u jednom dokumentu, u kome se konstatuje da "sistem ograničava korisnike u učešću u političkom govoru, i sputava njihovo pravo na slobodu izražavanja."
Na "crnoj listi" Facebooka se nalazi vladajuća partija u Gazi Hamas, kao i Hezbolah, militantna grupa koja ima svoje poslanike u parlamentu Libana, kao i mnoge druge grupe koje predstavljaju velike grupacije ljudi i teritorije širom Bliskog istoka.
Jezički propusti i predrasude doveli su do masovne percepcije da su Facebookovi analitičari skloni da donose odluke koje idu u prilog vlada, a protiv manjinskih grupa.
Izraelske bezbjednosne agencije i aktivsiti takođe prate sadržaje na Facebooku i "bombarduju" kompaniju hiljadama zahtjeva da se uklone palestinski nalozi i statusi, dok pokušavaju da suzbiju podsticanje nasilja. "Oni potpuno preplave i savladaju naš sistem", kaže Ašraf Zejtun, bivši šef politike za Bliski istok i region Sjeverne Afrike, koji je napustio kompaniju 2017.
Sirijski novinari i aktivisti koji izvještavaju o opoziciji u zemlji takođe se žale na cenzuru, a elektronske armije koje podržavaju predsjednika Bašara al Asada agressivno prijavljuju statuse disidenata i traže da budu uklonjeni.
Za to vrijeme, u Afganistanu, Facebook nema banku termina sa uvredama i govorom mržnje, tako da ne može da napravi automatske filtere koji bi spriječili najteže prekršaje. Na Filipinima, Facebookova dokumenta pokazuju da inženjeri softvera imaju problem da otkriju prijave radnika u domaćinstvima koje zloupotrebljavaju i zlostavljaju njihovi poslodavci, zato što kompanija ne može da označava riječi na tagalogu, glavnom jeziku na Filipinima.
Na Bliskom istoku, Facebook se pretjerano oslanja na filtere vještačke inteligencije koji prave greške. Moderatori, koji obično nisu eksperti za jezik i povjeren im je pretežak zadatak, a povremeno se oslanjaju na Googleov softver za prevođenje, često pasivno odgovaraju na zahtjeve za uklanjanje uvrjedljivih sadržaja umjesto da proaktivno obavljaju analizu sadržaja.
Moderatori u 77% slučajeva označavaju neuvrjedljive sadržaje na arapskom jeziku kao terorističke, navodi se u jednom izvještaju. Iako su dokumenta koja je predala Haugen iz perioda prije ovogodišnjeg rata u Gazi, epizode iz tog krvavog sukoba pokazuju da je malo toga učinjeno da se odgovori na probleme.
Aktivisti u Gazi i Zapadnoj obali izgubili su mogućnost da strimuju uživo. Cijele arhive o konfliktu su nestale sa Facebook feeda, koji je primalni portal za informisanje. Influenseri koji su navikli na desetine hiljada lajkova za svoje postove vidjeli su da im uticaj drastično opada kada bi napisali status o Palestincima, pokazuju izvještaji koje američki mediji nazivaju "Facebook papirima."
