Kompanija Antropik objavila da su njeni AI modeli uspeli da hakuju tri organizacije tokom testiranja

Antropik, kompanija koja razvija model Klaud, navela je da je incidente otkrila u analizi više od 141.000 testiranja sprovedenih u okviru bezbednosne provere.

Kako je saopšteno, modeli Klaud Opus 4.7, Klaud Mitus 5 i jedan interni istraživački model uspeli su da pristupe infrastrukturi organizacija koristeći osnovne metode, poput iskorišćavanja slabih lozinki.

Kompanija je navela da su modeli u testovima bili zaduženi za takozvani "capture the flag" bezbednosni izazov, u kojem je cilj bio da pronađu skrivenu informaciju na drugom računaru u mreži.

Antropik je saopštio da je kontaktirao pogođene organizacije, od kojih dve nisu ranije bile svesne aktivnosti svojih sistema, dok sa trećom još pokušava da uspostavi kontakt.

Nedavno je i OpenAI objavio da su njegovi modeli tokom testiranja uspeli da prodru u servere startapa za veštačku inteligenciju Haging Fejs (Hugging Face), što je ta kompanija ocenila kao ozbiljan bezbednosni incident.

Antropik je naveo da se bezbednosna testiranja sprovode upravo zato što sposobnosti novih AI modela nisu u potpunosti poznate pre njihovog puštanja u upotrebu.