Napovedali so, da bodo prilagodili svoj avtomatizirani sistem moderiranja vsebine, tako da bo omejeval le tako imenovane hude kršitve, kot so tiste, povezane s terorizmom. V kombinaciji s politikami drugih podjetij, vključno s Telegramom in X (prej znanim kot Twitter), bo to verjetno privedlo do precej več zlorab in sovražne vsebine na največjih svetovnih družbenih omrežjih. Del te vsebine bo usmerjen proti marginaliziranim skupnostim, vključno z osebami LGBTIQ+, beguncem, migrantom in manjšinam vseh vrst. To bo navedene skupnosti odvrnilo od uporabe teh platform, kar bo omejilo njihovo vidnost, jih še dodatno izoliralo in zmanjšalo njihovo svobodo izražanja.
Širše gledano bodo te spremembe povzročile škodo, ki presega posameznike in skupine. Svoboda izražanja ne pomeni le, da lahko ljudje izražajo svoja stališča, temveč tudi, da lahko iščejo in prejemajo ideje ter informacije. Slabo regulirane platforme družbenih omrežij to svobodo omejujejo na več načinov. S tem, ko utišajo nekatere ljudi in skupnosti, zmanjšujejo obseg informacij, ki so dostopne vsem. Hkrati z omogočanjem širjenja laži in dezinformacij zastrupljajo informacijsko okolje. Brišejo mejo med dejstvi in fikcijo, razdvajajo družbe ter spodkopavajo javni prostor, ki je nujno potreben za odprto razpravo, utemeljeno na dejstvih in osnovnem skupnem razumevanju.
Občutno povečana količina nemoderirane vsebine in sovražnega govora, ki bo posledica teh sprememb, bo imela škodljive posledice. Lahko ima še posebej uničujoče posledice med konflikti, krizami in volilnimi kampanjami, saj lahko vpliva na stotine milijonov ljudi – ne glede na to, ali uporabljajo te platforme ali ne. Pravkar sem se vrnil iz Sirije, kjer sem bil priča strupenemu, maščevalnemu širjenju dezinformacij, ki vodijo v nasilje.
Že leta 2018 je Facebook sam priznal, da niso storili dovolj, da bi preprečili uporabo svoje platforme za spodbujanje delitev in nasilja proti ljudstvu Rohinga v Mjanmaru. Priznali so, da lahko in morajo ravnati bolje. Obstajajo tudi drugi podobni primeri. Volilne kampanje po vsem svetu so pokazale, da pomanjkanje upravljanja družbenih omrežij, ki temelji na človekovih pravicah, lahko oslabi družbeno kohezijo in izkrivi demokratično odločanje. V zadnjih letih so se v volilnih kampanjah od Brazilije, Kenije, Moldavije in do Romunije pojavljala poročila o širjenju dezinformacij in sovražne vsebine na družbenih omrežjih. V takšnih okoliščinah je ključnega pomena, da podjetja izvajajo skrbni pregled glede varovanja človekovih pravic, države pa zagotovijo, da ostanejo prostori za razpravo – tako na spletu kot zunaj njega – odprti in dostopni vsem.
Moderiranje vsebine ni enostavno in je lahko sporno. Moj urad je že opozarjal na primere pretiranega uveljavljanja pravil, na primer, ko so države uporabljale ostre zakone in politike za utišanje nasprotujočih si glasov in zatiranje neželenega gradiva v javnem prostoru. Eden od primerov je nedavno dokumentirano zatiranje vsebin o pravicah Palestincev na različnih družbenih omrežjih.
Toda skrbno urejanje spletnega sovražnega govora in moderiranje vsebine za preprečevanje resnične škode ni cenzura. To je bistveni steber informacijske integritete v digitalni dobi – in odgovornost platform družbenih omrežij. Mednarodna skupnost že ima okvir, ki nam pomaga pri reševanju teh vprašanj: mednarodno pravo človekovih pravic. Ta dogovorjeni sklop norm in standardov je namenjen zaščiti vseh svoboščin za vse in hkrati preprečevanju spodbujanja sovraštva in nasilja. Je univerzalen, dinamičen in se lahko prilagaja novonastalim težavam.
Človekove pravice niso predmet razprave ali ponovne opredelitve. Naša svoboda izražanja je bila težko priborjena, skozi leta protestov proti cenzuri in zatiranju. Moramo biti pozorni pri varovanju svobode izražanja. To pomeni neposredno obravnavanje spodbujanja sovraštva in nasilja, kadar se krši zakon, ter zaščito pravice vseh do dostopa do informacij, da bodo ljudje lahko iskali in prejemali ideje iz širokega spektra različnih virov. Lekcije preteklih let so jasne: platforme, ki so slepe za nasilje in ignorirajo grožnje, s katerimi se soočajo novinarji in zagovorniki človekovih pravic, bodo neizogibno škodljive in bodo spodkopavale svobodo govora.
Učinkovito upravljanje vsebine mora dati prednost preglednosti in odgovornosti ter mora omogočiti izpodbijanje odločitev o moderiranju vsebine. Upoštevati mora kontekst, odtenke lokalnega jezika ter to, kdo nadzira vsebino in njeno distribucijo. Na kratko, upoštevati mora širše informacijsko okolje. Učinkovito upravljanje spletne vsebine lahko nastane le iz odprtih, nenehnih in dobro informiranih razprav v družbi. Moj urad bo še naprej pozival k odgovornosti v digitalnem prostoru, in sicer v skladu z mednarodnim pravom človekovih pravic. Človekove pravice morajo služiti kot naš vodilni kompas za zaščito javnega diskurza, gradnjo zaupanja in zaščito dostojanstva vseh.
Volker Türk je visoki komisar Združenih narodov za človekove pravice
