Istraživač Antropika: Više od 10 posto šanse da AI pobije sve ljude u narednim decenijama

Evan Habinger je u postu na mreži "X" je objasnio da je mali rizik kod modela koji danas postoje, ali da je zabrinut da se tehnologija može razviti do te mere da predstavlja spoljašnji rizik po čovečanstvo. On nije precizirao kako bi modeli veštačke inteligencije mogli da učestvuju u uništenju čovečanstva. 

Habingerovi komentari su poslednji u nizu onih koji sve više ukazuju na rizike veštačke inteligencije, a debata se premešta sa pitanja "da li je AI rizik" na pitanje "koliko je rizik", navodi BBC. Britanski javni servis dodaje da je to ujedno bio i odgovor na objavu Džejkoba Koksona, koji je sebe opisao kao istraživača veštačke inteligencije koji je upravo napustio Antropik, a prethodno je radio u OpenAI.

„Nijedna kompanija se ne ponaša odgovorno. Ovo će uskoro biti nadljudski sistemi koji mogu da hakuju bilo šta, preko noći naprave revoluciju u bilo kojoj oblasti i steknu pravu moć i resurse“, napisao je Kokson.

Dejm Vendi Hol, kompjuterska naučnica koja savetuje UN o veštačkoj inteligenciji, rekla je za BBC da je „šokirana“ objavama Habingera i Koksona na društvenim mrežama. Kako je kazala, deo tih objava bi mogao da bude „PR i marketing“, dok Antropik i OpenAI trkaju uoči izlaska na berzu.

„Zašto bi neko želeo to da kaže? Molila bih investitore da ne ulažu u ovu kompaniju ako je to njihov sistem vrednosti“, kazala je Vendi Hol.

Nema plana za superinteligenciju

U svojoj objavi, koja je pregledana više od 10 miliona puta, Habinger je rekao da „zaista iskreno verujemo“ da veštačka inteligencija predstavlja rizik od iskorenjivanja vrste.

„Verujem da Anthropik daje sve od sebe, ali još nemamo plan za rešavanje problema usklađivanja za superinteligenciju i nismo na dobrom putu da to postignemo“, dodao je.

Habinger radi na usklađivanju veštačke inteligencije, koje ima za cilj da ugradi ljudske etičke ideje i principe u tehnologiju. Drugim rečima, cilj mu je da je održi na pravom putu sa onim što ljudi cene.

Mnogi vodeći istraživači kažu da ti pokušaji izgleda ne uspevaju, što je pokazao niz incidenata ovog leta gde su agenti veštačke inteligencije - sistemi veštačke inteligencije kojima je dozvoljeno da rade autonomno - izvodili sajber napade.

OpenAI, Anthropik i Meta su otkrili hakove koje su izveli njihovi alati veštačke inteligencije.