Ukrajinski Kyiv Independent poroča o lažnih profilih na tiktoku, X in drugih platformah, prek katerih se širijo videoposnetki, ustvarjeni z umetno inteligenco, podnaslovljeni pa so v več jezikih. Prikazujejo lažne posnetke »prisilne mobilizacije« 22- in 23-letnih moških v ukrajinsko vojsko.
Izhodiščni vir širjenja videoposnetkov naj bi bil račun na tiktoku, na katerem je objavljenih vsaj ducat posnetkov, ki prikazujejo osebe, ustvarjene z UI, oblečene v uniforme ukrajinskih vojakov. Račun je anonimen in uporablja le vzdevek, vendar je njegov doseg ogromen – nekateri videoposnetki so prejeli več kot dva milijona ogledov.
V enem izmed najbolj viralnih posnetkov »ukrajinski vojak«, ustvarjen z UI, trdi, da je bil mobiliziran in poslan v mesto Časiv Jar v Donecki oblasti. »Pomagajte mi, nočem umreti, star sem komaj 23 let,« pravi mladenič v videoposnetku.
Na posnetkih se prikazuje vodni žig aplikacije sora
Kyiv Independent pravi, da so z uporabo orodja hive moderation ugotovili, da sta bila zvok in video ustvarjena z izjemno sposobnim modelom podjetja OpenAI za pretvorbo besedila v video. Na več videoposnetkih se celo prikazuje vodni žig »Sora«, ki identificira, da je vsebina ustvarjena z aplikacijo podjetja OpenAI, ki jo poganja najnovejši model sora2.
Med lažmi, ki jih širijo zlonamerni profili, je tudi ta, da Ukrajina mobilizira 23-letnike. Ukrajinski zakon minimalno starost za mobilizacijo določa pri 25 letih. So pa to leta 2024 spustili s 27 let.
Aplikacija z več težavami kot rešitvami
Ukrajinski vladni center za boj proti dezinformacijam trdi, da obraz vojaka, prikazanega v videoposnetku, pripada ruskemu državljanu, ne ukrajinskemu, vendar ni navedel nadaljnjih podrobnosti.
Da je na posnetkih celo napol resničen človek, niti ni tako nenavadno. Nova aplikacija sora je nekakšen odgovor na tiktok. Od njega se razlikuje zlasti po tem, da s soro ne snemaš videov, temveč jih ustvarjaš z besedilnimi pozivi. Vsebuje pa tudi možnost, da se uporabnik kameri nastavi z različnih zornih kotov, spregovori nekaj besed, umetna inteligenca pa nato iz teh podatkov ustvari resničnemu človeku nadvse podobnega digitalnega avatarja, ki lahko nastopa v uporabnikovih videih. V aplikaciji mu pravijo »cameo« – po vzoru hollywoodskega izraza za nastope zvezdnikov, ki se nepričakovano pojavijo v nekem prizoru filma ali serije.
Svojega camea lahko uporabnik obdrži zase. Če želi, pa lahko izbere tudi bolj brezbrižen odnos do varovanja svoje pojavne intelektualne lastnine. Lahko ga deli samo z izbranimi osebami, z osebami, s katerimi si medsebojno delijo camee, ali pa z vsemi. Seveda pa podatke o uporabnikovi fizični podobi in glasu ves čas hrani OpenAI. Podjetje za zdaj sicer trdi, da cameov ne uporabljajo za učenje umetne inteligence. V pogojih uporabe pa piše, da sme podjetje uporabnikov cameo poustvarjati, distribuirati, modificirati, prikazovati in ga odigrati za namene izvajanja in promocije svojih storitev. To pa se že sliši kot nekoliko bolj ohlapna zaščita pravic.
Nevarnost za posnetke iz maščevanja
Da je privolitev v to, da neko podjetje ustvari digitalizirano fizično podobo vas in vašega glasu, izredno slaba ideja, najbolje vidimo na primeru šefa OpenAI Sama Altmana. Ta je svojega camea dal v prosto uporabo vsem uporabnikom sore, ti pa so ga začeli postavljati v najrazličnejše neugodne položaje, od tatvin do ponižujočih posnetkov v mačjih kostumih.
Zlasti velika je nevarnost za maščevalne posnetke, ko ste se nevede zamerili nekomu, ki ste mu dovolili dostop do svojega camea. Model sora2 je zmožen proizvesti izredno prepričljive videe z dialogom in ambientalnim zvokom. Camea pa lahko postavi v izredno širok nabor prizorov. Nazorni spolni prizori so sicer blokirani.
Nič ne pomaga, če lahko uporabnik naknadno zahteva umik videa in zapre dostop do camea. Pred tem je zlonamerni uporabnik posnetek že izvozil iz aplikacije in odstranil vodni žig »Sora« z enim od orodij. Zdaj se posnetek že prosto širi po drugih družbenih omrežjih.
Ponesreči povabili ruske simpatizerje
OpenAI se je sicer vsaj malo potrudil, da bi potencialno tako škodljivo orodje obdržal zunaj dosega rok zlonamernih akterjev. Za zdaj je aplikacija dostopna zgolj v ZDA, Kanadi, na Japonskem, v Južni Koreji, na Tajvanu, Tajskem in v Vietnamu. Se pa da priti vsaj v spletno stran aplikacije tudi v Sloveniji z uporabo enostavnega brezplačnega VPN. Večji problem je pridobiti možnost ustvarjanja vsebin in cameov z modelom sora2. Ta je na voljo le povabljenim uporabnikom, ki so pripravljeni plačati naročnino. Očitno je kakšno povabilo padlo tudi v roke ruskih simpatizerjev.
Gre za novo fazo v informacijski vojni Moskve proti Kijevu, s katero želi Rusija spodkopati zaupanje v ukrajinsko vodstvo in oslabiti zahodno podporo, medtem opozarja Kyiv Independent.
»Informacijski prostor je bojišče, in zato (Rusija) neutrudno dela, da bi širila svoje narative,« je za ukrajinski medij dejal Anton Kučuhidze, mednarodni politolog in soustanovitelj možganskega trusta United Ukraine. Zahod pa ji kar sam ustvarja orodja, lahko dodamo. Od facebooka do twitterja in zdaj še umetne inteligence.
