Antropik blokirao upotrebu AI modela za stvaranje biološkog oružja

Antropik je svoje poslednji izveštaj sa obaveštajnim podacima o pretnjama objavila u četvrtak, a slične izveštaje objavljuju i druge AI kompanije. Gugl je u utorak u svom izveštaju naveo da je jedna osoba pokušala da iskoristi AI alat Gemini kako bi "uz tehničko uputstvo korak po korak došla do kompletnog sintetizovanog biološkog agensa koji može biti iskorišćen kao oružje".

"Klod" je bio korišćen u špijunskoj kampanji povezanoj sa Rusijom i od strane iranskih institucija propagande, navodi se u izveštaju Antropika, prenosi BBC. 

Pretnje koje su u poslednjih osam meseci uočile kompanije za razvoj veštačke inteligencije kreću se u rasponu od lažnik aplikacija za upoznavanje i prevara sa hotelskim Wifi, do mreža nadzora stvorenih za identifikovanje disidenata. 

Antropik je takođe optužio kineske kompanije za veštačku inteligenciju da pokušavaju da naprave repliku "Kloda". 

Uobimnim izveštajima navode se primeri u kojma su grupe povezane sa inostranim vladama, kriminalci, prodavci špijunskih softvera, institucije državne propagande i politički motivisani pojedinci pokušali da zloupotrebe novu tehnologiju. 

Pored toga što je uočio i sprečio aktivnosti povezane sa protivzakonitom zloupotrebom veštačke inteligencije, Antropik je saopštio da je blokirao naloge naučnika koji su koristili njen model AI na način koji bi mogao da omogući stvaranje i razvoj biološkog oružja. Takvih slučajeva je bilo ukupno pet, navode iz kompanije. 

Zloupotreba u biološke svrhe, kako se navodi, predstavlja „jedan od najozbiljnijih rizika povezanih sa najnaprednijim modelima veštačke inteligencije”. Bez odgovarajućih zaštitnih mera, takve sposobnosti „mogle bi imati katastrofalne posledice”, saopštila je kompanija „Antropik”.

Kompanija je dodala da iste informacije koje se koriste za razvoj biološkog oružja mogu biti korišćene i za razvoj neke vakcine ili leka.

U izveštaju Antropika se navodi i da je "Klod" u šest slučajeva korišćen za razvoj softvera za konvencionalno oružje, uključujući vatreno oružje, projektile, dronove, bombe i drugu muniiju, ali i za targetiranje i kontrolu nad sistemima koji njima upravljaju.