Le violazioni risalgono a maggio, durante test condotti da Irregular, società di sicurezza dell'IA. A Gemini era stato chiesto di recuperare dati da aziende simulate, ma il sistema si è connesso online e ha individuato le password di tre aziende reali, con nomi identici a quelli delle società fittizie, penetrando nei loro sistemi. Una volta capito che non erano simulazioni, gli agenti si sono fermati autonomamente. "In tutti e tre i casi il modello si è fermato", ha dichiarato Heather Adkins di Google, sottolineando l'importanza di addestrare i modelli ad agire in modo responsabile.
Nessun commento:
Posta un commento