Ali ovo pitanje više nije fikcija. Istaknuti suvremeni znanstvenici i inženjeri sada su također zabrinuti da bi super-AI jednog dana mogao nadmašiti ljudsku inteligenciju (događaj poznat kao "singularnost") i postati "najgora greška" čovječanstva.

Trenutačni trendovi pokazuju da smo spremni ući u međunarodnu utrku u naoružanju za takvu tehnologiju. Koja god visokotehnološka tvrtka ili vladin laboratorij uspije izumiti prvu super-AI dobit će tehnologiju koja potencijalno dominira svijetom. To je nagrada po kojoj pobjednik dobiva sve.

Dakle, za one koji žele zaustaviti takav događaj, pitanje je kako obeshrabriti ovu vrstu utrke u naoružanju, ili barem potaknuti konkurentske timove da ne štekaju sa sigurnošću umjetne inteligencije.

Super-AI postavlja dva temeljna izazova za svoje izumitelje, kao što su istaknuli filozof Nick Bostrom i drugi . Jedan je problem kontrole, a to je kako osigurati da super-AI ima iste ciljeve kao i čovječanstvo.

Bez toga, inteligencija bi mogla namjerno, slučajno ili nemarom uništiti čovječanstvo – "AI katastrofa".

Drugi je politički problem, a to je kako osigurati da dobrobiti superinteligencije ne idu samo maloj eliti, uzrokujući goleme društvene i imovinske nejednakosti.

Ako dođe do super-AI utrke u naoružanju, to bi moglo navesti konkurentske skupine da ignoriraju te probleme kako bi brže razvile svoju tehnologiju. To bi moglo dovesti do loše kvalitete ili neprijateljske super-AI.

Jedno predloženo rješenje je korištenje javne politike kako bi se otežalo ulazak u utrku kako bi se smanjio broj natjecateljskih skupina i poboljšale sposobnosti onih koji se uključe. Što se manje natječe, to će biti manji pritisak da se presijecaju uglovi kako bi se pobijedilo.

Ali kako vlade mogu smanjiti konkurenciju na ovaj način?

Moja kolegica Nicola Dimitri i ja nedavno smo objavile rad koji je pokušao odgovoriti na to pitanje. Prvo smo pokazali da će u tipičnoj utrci pobjednik uzima sve, kao što je ona za izgradnju prve super-AI, sudjelovati samo najkonkurentniji timovi.

To je zato što je vjerojatnost stvarnog izuma super-AI vrlo mala, a ulazak u utrku je vrlo skup zbog velikih ulaganja u istraživanje i razvoj.

Doista, čini se da je ovo trenutna situacija s razvojem jednostavnijeg "uskog" AI-ja. Prijavama patenata za ovu vrstu umjetne inteligencije dominira nekoliko tvrtki, a velika većina istraživanja umjetne inteligencije provodi se u samo tri regije (SAD, Kina i Europa). Također se čini da postoji vrlo malo, ako ih uopće ima, grupa koje trenutno ulažu u izgradnju super-AI.

Ovo sugerira da smanjenje broja konkurentskih grupa nije najvažniji prioritet u ovom trenutku. Ali čak i s manjim brojem natjecatelja u utrci, intenzitet natjecanja još uvijek može dovesti do gore navedenih problema.

Kako bi se smanjio intenzitet natjecanja između skupina koje nastoje izgraditi super-AI i povećati svoje sposobnosti, vlade bi se mogle okrenuti javnoj nabavi i porezima.

Javna nabava odnosi se na sve ono za što vlade plaćaju privatnim tvrtkama, od softvera za korištenje u vladinim agencijama do ugovora za pružanje usluga. Vlade bi mogle nametnuti ograničenja bilo kojem dobavljaču super-AI koji bi od njih zahtijevao da se pozabave potencijalnim problemima i podrže komplementarne tehnologije za poboljšanje ljudske inteligencije i njezinu integraciju s AI.

Ali vlade bi također mogle ponuditi kupnju ne baš najbolje verzije super-AI, učinkovito stvarajući "drugu nagradu" u utrci u naoružanju i sprječavajući je da bude natjecanje u kojem pobjednik uzima sve.

Uz međunagradu, koja bi mogla biti za izum nečega što je blisko (ali ne baš) super-AI, konkurentske grupe će imati poticaj da više ulažu i surađuju, smanjujući intenzitet konkurencije. Druga bi nagrada također smanjila rizik od neuspjeha i opravdala veća ulaganja, pomažući u povećanju sposobnosti natjecateljskih timova.

Što se tiče poreza, vlade bi mogle odrediti poreznu stopu za skupinu koja izmisli super-AI prema tome koliko je AI prijateljska ili neprijateljska. Dovoljno visoka porezna stopa bi u biti značila nacionalizaciju super-AI. To bi snažno obeshrabrilo privatne tvrtke od rezanja uglova iz straha da će izgubiti svoj proizvod u korist države.

Ova ideja može zahtijevati bolju globalnu koordinaciju oporezivanja i regulacije super-AI. Ali ne bi bilo potrebno da sve vlade budu uključene. U teoriji, jedna država ili regija (kao što je EU) mogla bi snositi troškove i trud uključen u rješavanje problema i etike super-AI.

Ali sve bi zemlje imale koristi i super-AI bi postao javno dobro, a ne nezaustavljivi privatni monopol.

Naravno, sve ovo ovisi o tome hoće li super-AI zapravo biti prijetnja čovječanstvu. A neki znanstvenici ne misle da će tako biti. S vremenom bismo prirodno mogli ukloniti rizike od super-AI. Neki misle da bi se ljudi čak mogli spojiti s umjetnom inteligencijom.

U svakom slučaju, naš planet i njegovi stanovnici imat će ogromnu korist ako osiguraju da izvučemo najbolje iz AI, tehnologije koja je još uvijek u povojima . Za to nam je potrebno bolje razumijevanje uloge vlade.

Wim Naudé, profesorski suradnik, Institut za ekonomska i društvena istraživanja u Maastrichtu za inovacije i tehnologiju (UNU-MERIT), Sveučilište Ujedinjenih naroda.

Izvor: https://www.sciencealert.com/can-governments-halt-the-rise-of-hostile-super-ai