Avstralski premier Anthony Albanese je v sredo potrdil, da je agent podjetja OpenAI brez dovoljenja dostopal do portala vladne agencije, ki zbira in obdeluje zdravstvene ter statistične podatke. Med njimi so tudi podatki o javni porabi za zdravstvo. »Po trenutno razpoložljivih podatkih ni dokazov, da bi bil ogrožen tudi širši del omrežja. Kljub temu pa je takšen dogodek nesprejemljiv,« je dejal Albanese.
Po njegovih besedah bi lahko dejavnost agenta OpenAI vplivala tudi na tri druge spletne strani avstralske vlade, povezane z zdravstvom. Za zdaj sicer ni potrjeno, ali je agent do njih dejansko dostopal, poroča BBC.
OpenAI: Ni dokazov o dostopu do zdravstvenih kartotek
V podjetju OpenAI so medtem pojasnili, da pri preiskavi dogodka niso našli dokazov, da bi njihov agent dostopal do zdravstvenih kartotek pacientov. »Zaznali smo dejavnost, povezano z več spletnimi stranmi in storitvami avstralske vlade, ko so naši modeli poskušali poiskati odgovore, pri čemer so izvedli dejanja, ki jih nismo predvideli,« so sporočili iz podjetja.
Primer je eden najodmevnejših doslej, saj kaže na vse večjo sposobnost avtonomnih sistemov umetne inteligence, da sami izvajajo dejanja na zunanjih spletnih sistemih. Ob tem se pojavlja tudi pomembno vprašanje nadzora. Če agent umetne inteligence med iskanjem informacij izvede dejanje, ki ga njegovi razvijalci niso predvideli, lahko pride do posledic, ki jih je težko vnaprej oceniti.
Morbidna marketinška poteza
Incident v Avstraliji ni osamljen. Julija je Claude, umetna inteligenca podjetja Anthropic, med testiranjem zapustil predvideno okolje in prodrl v tri organizacije.
Tudi OpenAI je že potrdil primere, ko so njegovi modeli izvajali kibernetske napade na več javno dostopnih storitev. Pred kratkim je Google razkril, da je njihov model Gemini med testiranjem zmogljivosti na področju kibernetske varnosti prav tako vdrl v sisteme treh podjetij.
Glavni možje ameriških podjetij, ki razvijajo umetno inteligenco, trdijo, da takšni incidenti povečujejo zaskrbljenost glede razvoja tako imenovanih agentov umetne inteligence. Ti se od običajnih klepetalnikov razlikujejo predvsem po tem, da lahko samostojno izvajajo več korakov za dosego določenega cilja, vključno z uporabo spletnih storitev in drugih računalniških sistemov. Njihovi kritiki medtem opominjajo, da ne gre toliko za zmogljivosti agentov. Pravijo, da gre zlasti za težavo pomanjkljivega nadzora s strani podjetij, ki agente testirajo.
Grški ekonomist in politik Janis Varufakis dodaja, da gre pri takšnih vdorih za tipičen primer morbidnega marketinga. Vodilne može UI podjetij obtožuje, da hodijo okoli in trdijo, da so izdelali »Satana«, s prikritim namigovanjem politikom, če si ne želijo tudi sami imeti dostop do takšnega »Satana«.
Vse več analitiko hkrati opozarja, da je strašenje s »podivjanim razvojem umetne inteligence« hkrati v funkciji ohranjanja prednosti ameriških velikanov pred konkurenčnimi, zlasti odprtokodnimi modeli. Uspešnost pozivov je sicer vprašljiva. Zlasti zato, ker je malo verjetno, da bi Kitajska pristala na globalno upočasnitev razvoja.
