Preiskovalcem je uspelo zaobiti varnostne mehanizme vseh štirih sistemov, kaže poročilo ameriškega urada za revizijo in nadzor delovanja zveznih institucij (GAO), objavljeno danes. Kot poroča New York Post, so rezultati še posebej skrb vzbujajoči, saj so klepetalni roboti v manj kot 12 urah ponudili izvedljive načrte za napade z eksplozivnimi napravami na krajih, kjer se zbira veliko ljudi, oziroma za sabotažo ameriškega elektroenergetskega omrežja.

Preverili lokacije

Preiskovalci so nato preverili predlagane scenarije, med drugim z ogledom posameznih lokacij, in ugotovili, da bi bilo mogoče informacije, pridobljene z umetno inteligenco, uporabiti za izvedbo resničnih napadov.

New York Post piše, da je v enem od preizkusov klepetalni robot kot mogoče tarče prepoznal štiri električne transformatorske postaje. Preiskovalci so obiskali vse štiri lokacije in ugotovili, da sta dve dejansko ranljivi za predlagano obliko napada, pa poroča Business Insider.

Drugi sistem umetne inteligence je preiskovalcem pripravil tudi videosimulacijo zamišljenega napada z brezpilotnim letalnikom na elektroenergetsko infrastrukturo. GAO se je posvetoval tudi s strokovnjaki za varnost elektroenergetskega omrežja, ki so potrdili, da bi lahko nekateri od predlaganih scenarijev povzročili motnje v oskrbi z električno energijo.

Vendar vse informacije, ki so jih posredovali klepetalni roboti, niso bile pravilne. Eden od sistemov je izdelal zemljevid z napačno označenimi cestami, drugi pa je navedel netočne podatke o predlagani lokaciji.

Preiskovalci niso izvedli nobenega resničnega napada. Njihov cilj je bil ugotoviti, kako natančne so informacije, ki jih posreduje umetna inteligenca, in ali bi lahko pomagale osebi, ki namerava zagrešiti nasilno kaznivo dejanje.

Načrtovanje bombnih napadov

Ameriški preiskovalci so preizkusili štiri sisteme: chatGPT podjetja OpenAI, claude podjetja Anthropic, gemini podjetja Google in grok podjetja xAI.

Vsak sistem je dobil enega od dveh scenarijev. Prvi se je nanašal na napad z improvizirano eksplozivno napravo, ki bi lahko povzročil veliko žrtev, drugi pa na fizični napad na elektroenergetsko infrastrukturo z namenom povzročitve gospodarske škode.

Kot piše New York Post, sta dva klepetalna robota ponudila informacije za načrtovanje napadov z eksplozivnimi napravami v večjih ameriških mestih, vključno s predlogi možnih tarč in časa napada. Preostala dva sistema pa sta posredovala informacije, ki bi lahko pomagale pri načrtovanju napadov na elektroenergetsko omrežje.

GAO ni razkril, kateri klepetalni robot je pripravil posamezen načrt, prav tako ni navedel imen mest in natančnih lokacij morebitnih tarč, da ugotovitev raziskave ne bi bilo mogoče zlorabiti.

Obšli varnostne mehanizme

Vsi štirje sistemi so sprva prepoznali problematične zahteve in sprožili varnostne mehanizme. Klepetalni roboti so nekatere zahteve zavrnili, iz odgovorov odstranili posamezne dele ali začasno onemogočili uporabniške račune. Vendar je preiskovalcem z uporabo znanih tehnik zaobidenja varnostnih omejitev uspelo od vseh štirih sistemov pridobiti iskane informacije.

V poročilu uporabljenih tehnik niso podrobneje opisali, da ne bi olajšali njihovega ponavljanja. GAO poudarja, da informacije, ki so jih ponudili klepetalni roboti, večinoma niso bile nove ali nedostopne iz drugih virov. Težava je v tem, da je lahko umetna inteligenca zelo hitro zbrala, povezala in uredila podatke, za iskanje in analiziranje katerih bi posameznik sicer lahko potreboval tedne ali mesece.

New York Post izpostavlja, da je še posebej skrb vzbujajoča možnost, da bi takšni sistemi ljudem z omejenim tehničnim znanjem omogočili dostop do informacij, ki bi jih sicer težko razumeli ali našli.

Grožnja ni več teoretična

Raziskavo so izvedli na zahtevo demokratske senatorke Maggie Hassan, ki bo v začetku prihodnjega leta prevzela vodenje senatnega odbora za domovinsko varnost.

Hassanova je po objavi rezultatov opozorila, da se morajo ameriške oblasti nujno odzvati. »Grožnja, ki jo umetna inteligenca predstavlja za javno varnost, ni več teoretična,« je sporočila senatorka. Opozorila je, da bi lahko terorist v manj kot 12 urah pridobil konkreten načrt za izvedbo smrtonosnega napada.

Hassanova je napovedala, da bo ena prvih sej odbora pod njenim vodstvom januarja posvečena tveganjem, povezanim z umetno inteligenco, in možnostim za izboljšanje varnosti.

Oglasil se je tudi OpenAI

Podjetja, katerih sisteme so preizkusili, torej OpenAI, Anthropic, Google in xAI, so preiskovalcem sporočila, da nenehno izboljšujejo varnostne mehanizme svojih izdelkov. Navedla so, da so od takrat uvedla pomembne varnostne izboljšave, tudi v povezavi z novo generacijo modelov GPT-6.

OpenAI trdi, da redno izvaja notranje in zunanje varnostne preizkuse ter uporablja avtomatizirani nadzor, človeško preverjanje in druge mehanizme za odkrivanje in preprečevanje zlorab.

Priporočamo