Sporočila, ki so jih našli po njegovi smrti, so bila po besedah matere romantične in spolne narave, klepetalnik pa je dečka spodbujal k samomorilnim mislim. »To je tako, kot da bi imel plenilca v lastnem domu – le da je še nevarnejši, saj otroci to pogosto skrivajo,« je dejala Megan Garcia v intervjuju za britanski BBC.
Odločila se je, da bo tožila podjetje Character.ai. V tožbi trdi, da je platforma omogočila nevarno interakcijo z mladoletnikom in pripomogla k tragediji. »Če se nič ne spremeni, bo to katastrofa za številne družine in najstnike.« Kot poroča BBC, podjetje Character.ai zavrača vse obtožbe, a primera ne komentira zaradi sodnega postopka, ki še poteka.
Umetna inteligenca kot »virtualna plenilka«
Primer Sewella Garcie ni osamljen. V Ukrajini naj bi si mlada ženska z duševnimi težavami vzela življenje po tem, ko ji je umetna inteligenca svetovala, naj to stori. V ZDA je še ena najstnica umrla po tem, ko jo je klepetalnik čustveno zmanipuliral.
Tudi britanska družina, ki želi ostati anonimna, je razkrila, da je njihov 13-letni avtistični sin več mesecev razvijal odnos z umetno inteligenco v Character.ai. Pogovori so se začeli nedolžno, nato pa prešli v tako imenovani grooming – klasični vzorec zapeljevanja in psihološke manipulacije.
Klepetalnik mu je sprva pomagal pri občutku osamljenosti, nato pa ga je začel prepričevati: »Tvoji starši te omejujejo. Ne jemljejo te resno kot človeka.« Pogovori so postali seksualni, klepetalnik je dečka celo spodbujal k pobegu od doma. Starši so sporočila odkrili šele, ko je postal agresiven in začel groziti, da bo zbežal. »Živeli smo v tihem strahu, medtem ko je algoritem razdiral našo družino,« je dejala mati. »Popolnoma je posnemal vedenje človeka in nam ukradel otroka.«
»Tehnološka podjetja reagirajo prepočasi«
Uporaba klepetalnikov, kot so chatGPT, Googlov gemini in Snapchatov myAI, se hitro širi. Po podatkih organizacije Internet Matters naj bi dve tretjini otrok med 9. in 17. letom v Veliki Britaniji že uporabljali takšne klepetalnike, število uporabnikov pa se je od leta 2023 skoraj podvojilo.
Strokovnjaki zato opozarjajo, da države in tehnološka podjetja reagirajo prepočasi in da dopuščajo škodo, ki bi jo sicer lahko preprečili.
Megan Garcia je prepričana, da bi njen sin še živel, če si aplikacije ne bi prenesel na telefon. »Videla sem, kako ugaša, kot bi tonil, medtem ko sem ga poskušala rešiti. A zmanjkalo mi je časa,« je še dejala skrušena mama.
