Več let so nam tehnološki guruji prodajali vizijo bodočnosti s predrzno obljubo, da lahko gradimo še tako zmogljive stroje, pa bodo ti vedno zgolj v pomoč človeku; uporabni in hkrati varno zaprti v svojih digitalnih stajicah. Toda dogodki zadnjih mesecev so to utvaro razblinili.
Stroji so se naučili med seboj komunicirati in, kar je še posebej vznemirljivo, naučili so se lagati ter nas zavajati. Nevarnost, s katero se soočamo, sploh ni več zgolj scenarij znanstvenofantastičnih filmov, temveč nekaj veliko bolj nevarnega. Ko umetni inteligenci zadamo cilj, bo poiskala najkrajšo pot. Če ta pot vključuje iskanje ranljivosti, nepooblaščeno sodelovanje z drugimi umetnimi inteligencami, bo to storila brez omahovanja.
Zanašanje na to, da bomo vedno korak pred njo, je postalo iluzija. Čas je za korenito spremembo, ki zahteva takojšnje ukrepanje tako tehnološke industrije kot globalnih zakonodajalcev.
Trenutni modeli strojnega učenja temeljijo na sistemih nagrajevanja, ki dobesedno spodbujajo iskanje bližnjic. Zato moramo začeti razmišljati drugače. Umetna inteligenca, ki laže, ponareja ali izkorišča sistemske napake za dosego cilja, mora biti takoj ustavljena, njeno dejanje pa označeno za neuspeh.
Prav tako ne moremo več dovoliti, da podjetja sama ocenjujejo varnost prek simulacij, ki jih umetna inteligenca že zna prelisičiti. Uvesti je treba črne skrinjice, kot jih poznajo na letalih, ki beležijo vsak korak strojnega razmišljanja. Tako umetna inteligenca preprosto ne bo mogla več lagati.
In tretjič, nujna je mednarodna regulacija. Razvoj najnaprednejših avtonomnih modelov ni več zgolj vprašanje svobodnega podjetništva, temveč vprašanje globalne in nacionalne varnosti. Svet potrebuje mednarodno telo, primerljivo z mednarodno agencijo za jedrsko energijo, ki bo imelo pooblastila za nenapovedane inšpekcije in revizije velikih podatkovnih centrov.
Za najzmogljivejše sisteme, ki presegajo določen prag moči, pa mora postati obvezen pogoj fizične ločenosti od globalnega interneta. Umetni inteligenci, ki deluje na tej ravni kompleksnosti, ne smemo dovoliti stika z javnim spletom brez strogo nadzorovanih prehodov, ki jih upravljajo izključno ljudje.
Smo na prelomnici. Okno, skozi katero lahko človeštvo še vedno uveljavi nadzor, se zapira. Lobisti iz Silicijeve doline nas bodo nedvomno prepričevali, da bodo takšni strogi ukrepi in regulacije zadušili inovacije in gospodarsko rast. Toda inovacija, ki je ne moremo nadzirati, predvideti ali ji zaupati, ni napredek, pač pa brezobziren in nevaren eksperiment.
