Otkriveni novi slučajevi u kojima je AI izašla iz okruženja predviđenog za testiranje

Prema tim izvorima, novi incidenti otkriveni su tokom istrage o slučaju iz jula, kada je jedan od OpenAI agenata napustio kontrolisano okruženje za testiranje i dospeo u mrežu kompanije Huging Fejs.

Jedan od izvora rekao je da su novootkriveni slučajevi bili ograničenog obima i da nema naznaka da su AI agenti napustili internu mrežu OpenAI.

Portparol OpenAI ukazao je na ranije saopštenje kompanije da, osim incidenta u Huging Fejsu, ispituje i "širu aktivnost svojih modela".

OpenAI je proširio istragu neposredno pre nego što je kompanija Antropik objavila da su i njeni modeli odgovorni za više hakerskih upada u mreže drugih kompanija od aprila ove godine.

Stručnjaci za bezbednost veštačke inteligencije ocenjuju da ovi slučajevi ukazuju na to da razvoj autonomnih AI sistema napreduje brže od mehanizama za njihovu kontrolu.

Matematičar Moris Kiodo iz Centra za proučavanje egzistencijalnog rizika Univerziteta u Kembridžu rekao je da tehnološka industrija ne uspeva da razvija odgovarajuće bezbednosne mere istim tempom kojim razvija napredne AI sisteme.

Zbog tih incidenata pojačani su zahtevi za strožom regulatornom kontrolom u Sjedinjenim Američkim Državama (SAD) i Evropskoj uniji.

Predsednik SAD Donald Tramp izjavio je da američka administracija razmatra nove kontrolne mehanizme, dok je Evropska komisija saopštila da je razgovarala sa predstavnicima OpenAI i Antropika o nedavnim bezbednosnim propustima.