Ta prekretnica se zove ’singularnost’.

To bi se moglo dogoditi na nekoliko načina. Jedna od mogućnosti je da bi ljudi svojoj urođenoj inteligenciji dodali procesorsku snagu računara, postajući dopunjene verzije sebe. Ili bi možda kompjuteri postali toliko složeni da bi mogli zaista da razmišljaju, stvarajući neku vrstu globalnog mozga.

U oba slučaja, nastale promene bi bile drastične, eksponencijalne i nepovratne. Samosvesna nadljudska mašina mogla bi da smišlja sopstvena unapređenja brže od bilo koje grupe naučnika, izazivajući praktično instant eksploziju u inteligenciji. Vekovi napretka mogli bi se desiti u godinama ili čak mesecima.

Singularnost je ta praćka koja bi svet ispalila u budućnost.

Ideja da će samosvesni računar nastati spontano iz međusobne povezanosti milijardi računara je do skoro bio domen naučne fantastike, ali se polako ostvaruje.

Ako računarski sistem može da piše programski kod — kao što ChatGPT već može — onda bi na kraju mogao da nauči da programira sam sebe i da se unapređuje dok ne dostigne ono što zovemo ’singularnost’ – tu tačku u kojoj izmiče ljudskoj kontroli.

„Pre samo pet godina, bilo je rizično u mojoj struci reći naglas da verujem u mogućnosti AI na ljudskom ili nadljudskom nivou“, rekao je Džef Klan, kompjuterski naučnik sa Univerziteta Britanske Kolumbije za Njujorker.

Inteligenciju računara je jako teško izmeriti. Naučnici su razvili brojne testove za poređivanje sposobnosti AI, ali se ne slažu oko toga kako treba da ih tumače.

Nekada se, primera radi, smatralo da šah zahteva opštu inteligenciju, sve dok algoritmi nisu osvojili igru. Danas znamo da šahovski program može pobediti najbolje velemajstore, a da mu nedostaje čak i rudimentarni zdrav razum.

Nedavno je jedan A.I. program pod nazivom Ciceron ovladao strateški složenom društvenom igrom Diplomatija. Program nije postigao opštu veštačku inteligenciju (AGI), ali je uspeo da nauči igru delimično proučavajući skupove podataka više od sto hiljada igara i igrajući otprilike pola miliona partija protiv sebe.

U isto vreme, A.I. sve brže napreduje i uskoro bi mogao da počne da se unapređuje mnogo samostalnije. Istraživači mašinskog učenja već́ rade na onome što nazivaju meta-učenje, u kojem AI uče kako treba da uči.

U drugim oblastima, organizacije su osmislile opšte metode za praćenje dinamičnih i nepredvidivih novih tehnologija.

Svetska zdravstvena organizacija, na primer, prati razvoj alata kao što je sinteza DNK, koji bi se mogli koristiti za stvaranje opasnih patogena. Anna Laura Ros, koja vodi odeljenje za nove tehnologije u SZO, rekla je za Njujork Tajms da se njen tim oslanja na različite metode predviđanja, među kojima su istraživanja tipa „Delphi“, u kojima se postavlja pitanje globalnoj mreži stručnjaka, čiji se odgovori boduju i rangiraju.

Međutim, nema previše naučnika koji žele da zaustave napredak veštačke inteligencije.

Tehnologija obećava da će transformisati previše oblasti, uključujući nauku, medicinu i obrazovanje, što je velika stvar.

Robin Hanson, ekonomista sa Univerziteta Džordž Mejson, je ponudio ekonomski pogled na budućnost veštačke inteligencije. Ako se A.G.I. razvija, tvrdi on, onda će se verovatno dogoditi na više mesta u isto vreme. Sisteme bi kompanije ili organizacije koje su ih razvile stavile u ekonomsku upotrebu. Tržište bi smanjilo njihove moći; investitori, koji žele da vide uspeh svojih kompanija, išli bi sporo i dodavali bezbednosne karakteristike.

„Ako postoji mnogo taksi usluga, a jedna taksi služba počne da vodi svoje mušterije na čudna mesta, onda će ljudi prirodno preći kod nekog ko nudi bolje usluge“, rekao je Hanson.

Ipak, pojedini A.I istraživači veruju da je katastrofa neizbežna i izdaju zastrašujuća upozorenja.

„Ovo je kao da namerno pozivate vanzemaljce iz svemira da slete na vašu planetu, nemajući pojma šta će uraditi kada stignu ovde, osim da će preuzeti svet“, rekao je Stjuart Rasel, kompjuterski naučnik sa Berkli Univerziteta u Kaliforniji.

Ljudska bića su evoluirala da bi prenosila svoje gene, a ipak ljudi imaju seks „na načine koji ne dovode samo do rađanja dece“, rekao mi je Spenser Grinberg, matematičar i preduzetnik. Shodno tome, „superinteligentni“ A.I. koji je osmišljen da nam služi, mogao bi da iskoristi svoje moći za postizanje novih ciljeva.