Kako cenzura određenih riječi doprinosi nevidljivosti seksističkog i seksualnog nasilja

Zabrinjavajući nestanak. Na TikToku i posebno na Instagramu, određene riječi poput “silovanje” su nestale, a zamijenjene su izrazima “R!pe” ili “Ra*e”. Ovaj fenomen doprinosi nevidljivosti seksističkog i seksualnog nasilja. Ali koji su uzroci i dugoročne posljedice? Shani Benoualid, suosnivačica online građanske inicijative #jesuislà, baca malo svjetla na tu temu.

U vrijeme kad su za mnoge društvene mreže izvor informacija i alat za aktivizam, njihova moderacija čini se kao prepreka

Pogotovo otkako je 7. siječnja 2025. Mark Zuckerberg, voditelj Meta grupe (Instagram, Facebook, WhatsApp, Threads), u Instagram Storyju najavio da će se “riješiti provjeravanja činjenica i zamijeniti ih ocjenama zajednice poput onih na platformi X“.

Slavni Amerikanac također je izjavio da će se pravila moderiranja “pojednostaviti” kako bi se “ukinula određena ograničenja na teme poput imigracije i spola, koje više nisu u dominantnom diskursu”.

Ovo je vrlo zabrinjavajuća promjena jer su od 2021. određene riječi podvrgnute cenzuri. “Silovanje” se tako zamjenjuje izrazina “R!pe”, “seksualno” izrazom “seggsuel”, a “seksističko i seksualno nasilje” kraticom “VSS”.

Facebook se već suočio s pravnim postupkom 2021.

No ovaj fenomen ne utječe samo na aktiviste. Medijske kuće prisutne na Instagramu, TikToku ili YouTubeu poput Bruta, Huga Décryptea, Konbinija i Le Parisiena također pribjegavaju “strategijama zaobilaženja” kako bi izbjegli cenzuru i shadowbanning.

 U prosincu 2023. Télérama je izvijestila da su Instagram i X računi 14 feminističkih aktivistkinja suspendirani u siječnju 2021. nakon što su objavile poruku: “Kako možemo natjerati muškarce da prestanu silovati?” Zatim su 9. ožujka 2021. tužile Facebook (koji, kao i Instagram, pripada Meta grupi), tražeći objašnjenje za cenzuru koju su doživljavale.

Prema informacijama koje je prikupila Agence France-Presse, a objavio Le Parisien, Camille Lextray, jedna od tužiteljica, izjavila je: “Shvatile smo da će Instagram sakriti određene račune, prakticirajući ono što se naziva shadowbanning, ali bez da to ikad priznaju ili objasne pravila.” Kao odgovor, Instagram je objasnio da su “pravila platforme osmišljena kako bi se osigurala sigurnost zajednice, a istovremeno joj omogućilo da se što slobodnije izražava.”

Novi propisi koji doprinose dezinformacijama

Daleko od obuzdavanja, čini se da fenomen danas raste. Kako bi bolje razumjela njegove implikacije i posljedice, Shani Benoualid, suosnivačica udruge #jesuislà, koja se bori protiv mržnje i dezinformacija te promiče građansku odgovornost na internetu, nudi svoje uvide.

Marie Claire: S nedavnim promjenama politike moderiranja na Meti, koji je rizik u vezi sa sadržajem koji spominje silovanje, nasilje nad ženama, diskriminaciju manjina…?

Shani Benoualid: Prije ovih promjena, platforme društvenih medija tek su počele istraživati ​​područje i uspostavljati transparentnost u vezi s moderiranjem društvenih medija. S nedavnim najavama Marka Zuckerberga, jasno je vidljiva želja za usklađivanjem s modelom koji je Elon Musk usvojio na platformi X (prije Twitter).

Udruge se jednoglasno slažu da su se problemi mržnje na internetu, kao i dezinformacije, znatno povećali od provedbe novih propisa o X. Primjerice, sustav “Bilješke zajednice” zamijenio je stvarni rad na provjeri činjenica koji su prethodno obavljali novinari

Upravo su to vrste mjera koje Mark Zuckerberg planira provesti. Ove su najave odmah doživljene kao očito neprijateljstvo prema Europi. Europa sa svoje strane pokušava uspostaviti jasan regulatorni okvir Zakonom o digitalnim uslugama (DSA).

Već smo bili u složenoj situaciji, ali ove najave čine je još zabrinjavajućom. Među širiteljima mržnje raste osjećaj nekažnjivosti, osjećaj koji je već bio snažan, ali se pojačava kako vlasnici tih platformi šalju implicitnu poruku da se može reći bilo što, pod krinkom “slobode izražavanja”.

Da bi se ta sloboda istinski poštovala, nužno je osigurati da se žene, manjine i druge ranjive skupine mogu sigurno izraziti na internetu. Žene su glavne žrtve kibernetičkog nasilja, posebno online seksualnog nasilja. Iako su žene nerazmjerno pogođene, to ne isključuje druge skupine, poput manjina.

Marie Claire: Zašto je riječ “silovanje” uklonjena ili cenzurirana na nekim društvenim mrežama? Je li to na zahtjev korisnika?

Shani Benoualid: Već nekoliko godina određeni izrazito snažni pojmovi, poput “silovanja”, ali ne samo oni, moderiraju se, ili čak cenzuriraju, u sadržaju u kojem se pojavljuju. To ilustrira velik problem: moderiranje na tim platformama ne čini se kao da se temelji na dosljednim i dobro promišljenim kriterijima.

Problem mržnje na internetu, nažalost, čvrsto se ukorijenio na društvenim mrežama u posljednjih nekoliko godina. U Francuskoj smo, na neki način, preuzeli vodstvo u borbi protiv ovog fenomena, iako se to može činiti paradoksalnim s obzirom na ukupne razmjere situacije. Od 2020. godine doneseno je pet zakona o toj temi. Također smo doprinijeli razvoju europskih propisa. Međutim, iako bi ti propisi trebali nedavno stupiti na snagu, konkretni rezultati sporo se postižu.

Nadalje, čak i dok zahtijevamo veću transparentnost i pokušavamo bolje razumjeti mehanizme moderiranja na društvenim mrežama, što dovodi do cenzure tih riječi, suočavamo se s mnogim sivim područjima.

Godinama je bilo teško dobiti konkretne podatke o broju moderatora. Čak ni danas ne znamo tko su oni, gdje rade, pod kojim uvjetima ili kakvu obuku primaju. Ove praznine u informacijama očito postavljaju pitanja, posebno o njihovoj sposobnosti da se nose s tako osjetljivim pitanjima kao što je borba protiv govora mržnje usmjerenog prema manjinama ili seksizma.

Marie Claire: Koje su politike platformi društvenih medija u vezi sa sadržajem vezanim uz seksualno nasilje? I kako opravdavaju tu nevidljivost?

Shani Benoualid: Središnje pitanje ostaje sloboda izražavanja. Ključno je osigurati da se uklanja samo ilegalni sadržaj, onaj koji predstavlja online mržnju, a ne sadržaj nasumično, kao što je danas često slučaj.

Marie Claire: Dugoročno, kakve bi mogle biti posljedice uklanjanja određenih pojmova, poput “silovanja”, na način na koji platforme društvenih medija obrađuju osjetljive teme?

Shani Benoualid: Došlo je do pravog porasta strategija zaobilaženja, a njihov utjecaj na terenu postao je posebno vidljiv tijekom godina. Tamo gdje su se prije lako prepoznavale otvoreno rasističke, antisemitske ili seksističke poruke, sada vidimo značajnu promjenu. Ovaj ilegalni sadržaj, naravno, još uvijek postoji, ali se transformira i skriva iza suptilnijih oblika: kodiranih pojmova, kulturnih referenci poput aluzija na mangu ili knjige, što otkrivanje čini puno složenijim.

Ova evolucija predstavlja dvostruki problem. S jedne strane, sustavi moderiranja teško se drže koraka: ne bi ih trebalo samo redovito ažurirati nego bi se moralo djelovati i u stvarnom vremenu, kontinuirano, kako bi ostali učinkoviti suočeni s ovim stalno promjenjivim kodeksima. S druge strane, to znatno komplicira primjenu zakona. Kad se izgovori eksplicitna prijetnja poput “Silovat ću te”, ona odmah potpada pod zakon. Ali kada se koristi strategija zaobilaženja, prijetnju je teže pravno klasificirati.

Utjecaj ovih praksi nadilazi puko umanjivanje nevidljivosti aktivističkog diskursa: one također potkopavaju slobodu izražavanja

Ove strategije, koje dobivaju na značaju, masovno usvajaju širitelji mržnje, a to također prisiljava aktiviste da se prilagode. Ovaj fenomen stvara pravi domino efekt: širitelji mržnje nameću svoj ritam i svoje kodekse, a branitelji ljudskih prava moraju stalno reagirati, umjesto da uspostave jasna pravila i jamče siguran prostor za izražavanje.

Utjecaj ovih praksi nadilazi puko umanjivanje nevidljivosti aktivističkog diskursa: one također potkopavaju slobodu izražavanja. Ako ne uspijemo provesti učinkovite i konkretne strategije za borbu protiv širenja ilegalnog sadržaja, riskiramo potkopavanje ove slobode.

S jedne strane, cijele su zajednice ušutkane, a s druge strane, savršeno valjan diskurs – koji ni na koji način ne bi trebao biti podložan moderiranju – postaje nemoguće izraziti u javnoj sferi.

 

 

Ovaj tekst napisala je Mathilde Courret, a u originalnom izdanju objavljen je na portalu Marie Claire France.