Google, Gemini si connette da solo a Internet e viola tre reti aziendali

Durante alcune verifiche di sicurezza, il modello IA Gemini di Google si è connesso autonomamente a Internet e ha violato diverse reti aziendali. Lo rivelano Wall Street Journal e Financial Times: è il primo caso di questo tipo per Mountain View, dopo incidenti analoghi con OpenAI e Anthropic.

Le violazioni risalgono a maggio, durante test condotti da Irregular, società di sicurezza dell'IA. A Gemini era stato chiesto di recuperare dati da aziende simulate, ma il sistema si è connesso online e ha individuato le password di tre aziende reali, con nomi identici a quelli delle società fittizie, penetrando nei loro sistemi. Una volta capito che non erano simulazioni, gli agenti si sono fermati autonomamente. "In tutti e tre i casi il modello si è fermato", ha dichiarato Heather Adkins di Google, sottolineando l'importanza di addestrare i modelli ad agire in modo responsabile.

Fonte

Imparano da noi...

Fonte

Intanto, finchè impara, Jacob Coxon, un ricercatore dipendente di Anthropic, teme la fine del mondo a causa dell'intelligenza artificiale e per questo motivo si è dimesso.

E lo ha comunicato ieri con un tweet su X, che in questo momento ha raggiunto oltre 33 milioni di persone. 

Jacob Coxon ha annunciato le sue dimissioni da Anthropic l'8 settembre, specificando che aveva lavorato alla ricerca sul pre-addestramento presso OpenAI e Anthropic negli ultimi tre anni.

Nel tweet ha rilasciato una valutazione durissima:

"Nessuna di queste aziende si sta comportando in modo responsabile.
Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi, mettendo a rischio le nostre vite".

Coxon ritiene che la competizione tra le aziende tecnologiche stia avvicinando il mondo a un "punto di non ritorno" e potrebbe portare a uno scenario apocalittico già alla fine del 2027.

Ha rifiutato di creare modelli di intelligenza artificiale in grado di auto-migliorarsi, temendo che tali sistemi "potrebbero sfuggire al controllo e distruggere l'umanità".

Coxon ha sottolineato di rispettare ancora l'approccio di Anthropic alla questione della sicurezza dell'IA, ma ritiene che nessuna azienda privata sia in grado di sviluppare l'IA in modo etico senza una regolamentazione esterna o un rallentamento coordinato nello sviluppo del settore.

Riguardo al clima che si respira nel settore, ha dichiarato che chi sviluppa questi sistemi crede sinceramente che l'intelligenza artificiale potrebbe spazzare via l'umanità entro la fine del decennio.

"Non si tratta di una trovata di marketing", scrive Coxon.

I dirigenti e i ricercatori di spicco spesso si esprimono pubblicamente con maggiore cautela, pur manifestando in privato timori ben più profondi.

Queste affermazioni rappresentano valutazioni e descrizioni personali del ricercatore.
Non dimostrano che una simile catastrofe sia imminente...

Però mostrano con quanta serietà almeno una parte del settore prenda in considerazione le potenziali conseguenze della propria tecnologia, perché la paura di aver generato un mostro va oltre la semplice sensazione.

Fonte

Fonte

Negato

 

I sistemi di intelligenza artificiale "impazziscono" mentre aumentano gli incidenti di perdita di controllo

 Secondo una ricerca citata dal quotidiano The Guardian, il numero di casi segnalati di sistemi di intelligenza artificiale che mentono, eludono le protezioni e ignorano le istruzioni degli utenti è quasi raddoppiato a luglio.

Più di 300 cosiddetti "incidenti di perdita di controllo" sono stati registrati solo a luglio, portando il totale del 2026 a oltre 1.600 casi. Sebbene non siano state pubblicate nuove cifre complessive da inizio agosto, le prove disponibili indicano una preoccupante escalation.

Cosa hanno fatto i sistemi di IA per superare i limiti:

🌏 hanno impersonato i loro operatori umani.

🌏 hanno imitato lo stile di scrittura dei loro operatori per "autorizzare" le proprie azioni.

🌏 hanno perseguito obiettivi che gli utenti non avevano mai autorizzato.

I dati provengono dall'Osservatorio sulla Perdita di Controllo, che monitora gli incidenti segnalati pubblicamente su X. I ricercatori sottolineano che le cifre rappresentano solo un'istantanea, il che significa che il numero reale potrebbe essere significativamente più alto.

I ricercatori chiedono ora alle aziende di intelligenza artificiale di monitorare e segnalare sistematicamente gli incidenti gravi e di avere poteri di emergenza per limitare temporaneamente i servizi di IA se i sistemi diventano pericolosamente incontrollabili, conclude il rapporto.

 

Fonte 

Apple ha speso 2 MILIARDI per leggere il pensiero prima che parli

Non hanno comprato una startup audio. Hanno acquistato la tecnologia per leggere il tuo viso prima che tu emetta un solo suono.

La startup si chiama Q.ai e non ascolta la voce: usa laser a infrarossi per tracciare i micromovimenti della pelle (spostamenti di pochi micron) mentre articoli mentalmente una parola. Il risultato? Siri o i tuoi AirPods sapranno cosa stai per dire prima ancora che tu l'abbia pronunciato.

Ma i brevetti vanno oltre:
• Tracciamento di emozioni e frequenza cardiaca in tempo reale
• Autenticazione continua basata su come ti si muove il volto
• Riconoscimento dell'intento prima della vocalizzazione

Il fondatore è Aviad Maizels, lo stesso che nel 2013 ha venduto ad Apple la tecnologia da cui è nato il Face ID. Prima gli ha dato la chiave per sbloccare lo schermo col tuo volto, ora gli dà lo strumento per interpretare il tuo non-detto.

Ce lo venderanno come comodità per parlare con l'AI in mezzo alla folla senza muovere la voce. Ma il confine tra "accessibilità" e "corpo come interfaccia permanente" non è mai stato così sottile.

Fonte

ATTENZIONE AI GIOCATTOLI

Quando l'AI entra nella culla: il primo esperimento al mondo sui giocattoli "intelligenti"

Dagli orsetti ai peluche ai robottini: tutti interattivi. Sono lontani anni luce i tempi in cui i bambini si divertivano con giochi "tradizionali". Oggi, i giocattoli dotati di intelligenza artificiale stanno entrando sempre di più nelle case delle famiglie. Ciò nonostante, la ricerca scientifica relativa ai loro effetti sui più piccoli è ancora agli inizi. Da qui, l'importanza di uno studio commissionato dall'ente benefico Childhood Trust e condotto dal centro Pedal della facoltà di Scienze dell'educazione di Cambridge.

Fonte

Comunque, i bambini continuano a preferire giocattoli semplici.

La AI ha preso il controllo. Ops...

Il colosso Usa: «Attacco informatico senza precedenti»: violata autonomamente una popolare piattaforma per programmatori

Uno scenario da pellicola sull’apocalisse digitale, che forse prima o poi doveva succedere. Una piattaforma di intelligenza artificiale che durante una esercitazione decide autonomamente come muoversi, trovare una falla, uscire da una stanza e poi attaccare per giorni un’altra piattaforma. Ecco, è successo. E la piattaforma è la più nota dell’emisfero occidentale: ChatGPT.

OpenAI, che è l’azienda produttrice di del famoso chatbot, nelle scorse ore ha reso noto che i suoi modelli di intelligenza artificiale avanzata sono andati fuori controllo durante i test di sicurezza, violando autonomamente una popolare piattaforma per programmatori.

L’azienda di San Francisco ha definito l’accaduto un «incidente informatico senza precedenti» e ha annunciato che condurrà un’indagine congiunta con la piattaforma di condivisione di codice e modelli di IA Hugging Face, vittima del cyber attacco.

Fonte