Intanto, finchè impara, Jacob Coxon, un ricercatore dipendente di Anthropic, teme la fine del mondo a causa dell'intelligenza artificiale e per questo motivo si è dimesso.
E lo ha comunicato ieri con un tweet su X, che in questo momento ha raggiunto oltre 33 milioni di persone.
Jacob Coxon ha annunciato le sue dimissioni da Anthropic l'8 settembre, specificando che aveva lavorato alla ricerca sul pre-addestramento presso OpenAI e Anthropic negli ultimi tre anni.
Nel tweet ha rilasciato una valutazione durissima:
"Nessuna di queste aziende si sta comportando in modo responsabile.
Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi, mettendo a rischio le nostre vite".
Coxon ritiene che la competizione tra le aziende tecnologiche stia avvicinando il mondo a un "punto di non ritorno" e potrebbe portare a uno scenario apocalittico già alla fine del 2027.
Ha rifiutato di creare modelli di intelligenza artificiale in grado di auto-migliorarsi, temendo che tali sistemi "potrebbero sfuggire al controllo e distruggere l'umanità".
Coxon ha sottolineato di rispettare ancora l'approccio di Anthropic alla questione della sicurezza dell'IA, ma ritiene che nessuna azienda privata sia in grado di sviluppare l'IA in modo etico senza una regolamentazione esterna o un rallentamento coordinato nello sviluppo del settore.
Riguardo al clima che si respira nel settore, ha dichiarato che chi sviluppa questi sistemi crede sinceramente che l'intelligenza artificiale potrebbe spazzare via l'umanità entro la fine del decennio.
"Non si tratta di una trovata di marketing", scrive Coxon.
I dirigenti e i ricercatori di spicco spesso si esprimono pubblicamente con maggiore cautela, pur manifestando in privato timori ben più profondi.
Queste affermazioni rappresentano valutazioni e descrizioni personali del ricercatore.
Non dimostrano che una simile catastrofe sia imminente...
Però mostrano con quanta serietà almeno una parte del settore prenda in considerazione le potenziali conseguenze della propria tecnologia, perché la paura di aver generato un mostro va oltre la semplice sensazione.
Nessun commento:
Posta un commento