Sodni spis, o katerem je prvi poročal časnik Time, kaže podroben opis praks v Meti, s katerimi so kljub zavedanju o možnostih povzročanja škode za svoje uporabnike dajali prednost rasti števila uporabnikov.
Ključni cilj podjetja je bil čim večja aktivnost mladoletnikov. Pričevanja nekdanjih in sedanjih zaposlenih pri Meti nakazujejo na več let trajajoča interna opozorila o spolnem izkoriščanju, škodljivih vplivih na duševno zdravje in plenilskih prijemih, a so v podjetju le redko ukrepali.
Gradivo je del obsežne tožbe na okrožnem sodišču v Kaliforniji in vključuje več kot 1800 tožnikov – otrok, družin, šol in državnih tožilcev – ki štirim velikim platformam očitajo, da so dajale prednost rasti pred zdravjem in varnostjo mladih uporabnikov.
Toleranca do profilov, prek katerih so iskali žrtve
V središču novega spisa je pričevanje nekdanje vodje varnosti in dobrega počutja pri instagramu Vaishnavi Jayakumar, ki je dejala, da je bila ob prihodu v Meto leta 2020 osupla, ko je izvedela, da podjetje dovoljuje do 17 prijav posameznega profila zaradi suma trgovine z ljudmi za namene spolnega izkoriščanja.
Meta tega ni razkrila ne staršem ne regulatorjem ne javnosti. V podjetju obtožbe zanikajo in trdijo, da sporne profile takoj ukinejo.
Interne študije so dokazovale škodljive posledice facebooka in instagrama
V internih raziskavah so že vsaj leta 2019 ugotovili, da so najstniki, ki intenzivneje uporabljajo instagram in facebook, doživljali povečano anksioznost in depresijo. »Študija o deaktivaciji«, ki jo je za svoje potrebe opravilo podjetje, je pokazala, da je enotedenski odmik od platform Mete zmanjšal te simptome, vendar so študijo ustavili in nikoli javno razkrili. Še več, predstavniki podjetja so pod prisego pričali pred preiskovalnim odborom ameriškega kongresa, da nimajo tovrstnih podatkov.
Izpostavljenost najstnikov
Eden glavnih očitkov je dopuščanje izjemno enostavnega postopka, prek katerega so odrasli na instagramu stopili v stik z mladoletniki. Interne ekipe so večkrat pozvale vodstvo podjetja, naj aplikacija najstniške račune privzeto nastavi na zasebne, in opozarjale, da javne nastavitve omogočajo milijone neželenih interakcij vsak dan. Ekipe za rast dosega so temu nasprotovale in napovedovale znatne izgube pri angažiranosti in aktivnosti najstnikov.
Glede na sodni spis je interna analitika Mete pokazala, da bi privzeta nastavitev zasebnosti za najstniške račune odpravila več kot pet milijonov neželenih interakcij vsak dan, vendar je podjetje s širšo uvedbo odlašalo do leta 2024. V tem času je število neprimernih stikov med odraslimi in mladoletniki močno naraslo, notranje revizije pa so pokazale, da so orodja za povezovanje uporabnikov usmerjala najstnike k sumljivim računom odraslih in obratno.
Nasprotovanje tudi med zaposlenimi
Dokumenti, ki jih bo obravnavalo sodišče, razkrivajo interne napetosti v Meti med oddelki, ki naj bi skrbeli za varnost in uporabniško izkušnjo, in ekipami, ki so skrbele za rast aktivnosti uporabnikov in ki jih je vodstvo dosledno podpiralo. Tak primer so bila prizadevanja za zaščito najstnikov pred funkcijami, kot so javno objavljeno število všečkov in lepotni filtri, za katere so vedeli, da krepijo težave s samopodobo.
Lepotne filtre so za kratek čas prepovedali, nato pa so jih ponovno uvedli – kljub internim ocenam, da so mladi uporabniki še posebej dovzetni za družbene pritiske. Podobno se je zgodilo z javno objavo števila všečkov.
Meta je med drugim razvila sistem umetne inteligence, ki je bil sposoben označevanja objav z različnimi škodljivimi ali prepovedanimi vsebinami, a je bil prag, kdaj se sproži blokada objave, postavljen izredno visoko. Sistem je na primer pogosto dopustil objave, za katere je s 100-odstotno gotovostjo ugotovil, da podpirajo škodljive motnje prehranjevanja, ali pa vsebine, za katere je s 94-odstotno verjetnostjo ugotovil, da prikazujejo samopoškodovanje.
Odvetniki sedaj trdijo, da je to ustvarilo okolje, v katerem so ranljivi mladostniki naleteli na skrb vzbujajoče gradivo veliko pogosteje, kot je Meta javno priznala.
Nekateri zaposleni pri Meti so to strategijo interno primerjali z miselnostjo tobačne industrije, osredotočeno na zagotavljanje zgodnje odvisnosti.
Spremembe šele pod velikimi pritiski
Čeprav je Meta v zadnjih letih uvedla večjo zaščito – vključno z instagramovimi računi za najstnike (Teen Accounts) leta 2024 – tožniki trdijo, da so številni od teh varovalnih ukrepov prišli šele po letih neupoštevanja internih priporočil.
Sodišče v Kaliforniji bo sedaj odločalo o tem, ali je podjetje tudi odškodninsko odgovorno za tveganja in psihološko škodo mladoletnih uporabnikov, kar pomeni še dodaten dokazni prag.
