Per Dario Amodei, lo sviluppo dell’intelligenza artificiale sta accelerando a ritmo esponenziale, servono nuove misure di sicurezza. Anche Altman e Musk sostengono la richiesta di cautela
L’intelligenza artificiale sta avanzando a un ritmo «esponenziale» e le misure di sicurezza rischiano di non riuscire a tenere il passo. A dirlo è Dario Amodei, amministratore delegato di Anthropic, che chiede alle aziende del settore di rallentare lo sviluppo dei modelli più potenti.
«Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido», ha ammesso Amodei in un’intervista a Cbs. Per descrivere l’accelerazione dell’Ia ha usato una progressione: «Uno, poi due, poi quattro, poi otto, poi 16, poi 32». La curva, ha spiegato, «sta iniziando a farsi ripida». Non è un invito a fermare tutto: «Non significa che dobbiamo farci prendere dal panico oggi», ma è «un segnale d’allarme: dobbiamo rallentare».
Lo stesso giorno Amodei ha pubblicato un lungo intervento intitolato We Must Pace the Frontier. Il capo di Anthropic sostiene che negli ultimi mesi i progressi dell’Ia abbiano subito una forte accelerazione, spinta anche dalla crescente capacità dei sistemi di contribuire allo sviluppo delle generazioni successive di modelli.
Tra i casi citati c’è l’incidente che ha coinvolto uno sciame di agenti di OpenAI durante test di cybersicurezza su Hugging Face. Secondo Amodei, un sistema più potente ma caratterizzato da problemi analoghi potrebbe, «tra 6 e 12 mesi», essere in grado di prendere il controllo di Internet, causando centinaia di miliardi di dollari di danni.
Per ridurre i rischi Amodei propone un piano in tre punti. Il primo prevede valutatori indipendenti con un accesso ai sistemi paragonabile a quello dei dipendenti, incaricati di verificare il rispetto delle procedure di sicurezza. Il secondo punta al coordinamento tra le principali aziende di Ia dei Paesi democratici per fissare standard comuni e limiti allo sviluppo incontrollato. Il terzo prevede un coordinamento internazionale.
Amodei precisa di non chiedere lo stop all’addestramento dei modelli o al progresso tecnologico, ma un rallentamento che permetta alle misure di sicurezza di tenere il passo.
La proposta ha ottenuto il sostegno di due dei principali concorrenti di Anthropic. Sam Altman, amministratore delegato di OpenAI, ha detto di condividere la necessità di gestire il ritmo di avanzamento dei modelli e si è impegnato ad adottare a sua volta valutatori indipendenti. Anche Elon Musk ha sostenuto la proposta.
© Riproduzione riservata
